IT之家 15 de octubre (mensaje). Según informó Bloomberg el día 14, Guillaume Prance, responsable del negocio internacional de Anthropic y encargado de las ventas en los mercados fuera de Estados Unidos, considera que, en comparación con los modelos de IA propios de Anthropic, los modelos abiertospresentan un mayor riesgo de sufrir incidentes de ciberseguridad o causar otros daños.
Durante una entrevista en la Cumbre Internacional de Inteligencia Artificial de Dublín, Prance declaró: «En cuanto a la seguridad de los modelos de código abierto, debemos ser especialmente cuidadosos. No puedo dar garantías por los modelos abiertos, pero por definición, este tipo de modelos implica mayores riesgos».
Con un número creciente de países preocupados por depender en exceso de la tecnología de IA estadounidense, se prevé que Anthropic, que se prepara para salir a bolsa, enfrente una competencia cada vez más intensa. Entre ellas,los modelos de IA de pesos abiertosse han convertido en una opción popular.
Nota de IT之家: los modelos de IA de pesos abiertos hacen públicos sus parámetros, los usuarios pueden modificarlos por sí mismos y también desplegarlos en sus propios dispositivos.
Sus defensores consideran que los modelos de pesos abiertos son más baratos que los modelos cerrados rigurosamente controlados por Anthropic y OpenAI,y también favorecen más que cada país logre la autonomía en la tecnología de IA。
Anthropic también ha reforzado aún más sus advertencias sobre los riesgos potenciales de la IA. A principios de esta semana, la compañía advirtió que los modelos de IA pequeños pronto podrían usarse paraimpulsar nuevas redes de bots (botnets), permitiéndoles replicarse y propagarse por sí mismos entre pequeños dispositivos conectados, como hornos inteligentes.
Prance también está a cargo del negocio de ventas de Anthropic dirigido a startups y empresas nativas digitales. Señaló que la preocupación por los modelos de pesos abiertos proviene de la experiencia de Anthropic en proteger la seguridad de sus propios productos.
Tras varios incidentes de ataques informáticos con IA que atrajeron amplia atención, Anthropic afirmó haber aumentado las medidas de protección de seguridad para evitar que los modelos realicen actividades maliciosas.
Anthropic también ha defendido constantemente que se debería frenar el ritmo de desarrollo de la IA hasta que se establezcan estándares internacionales y mecanismos de evaluación unificados.
Prance también habló de los modelos de la compañía con precios más altos. Suele decirles a las empresas quecomprar modelos más capaces finalmente vale la pena. «Se debería seguir invirtiendo en los modelos más avanzados, porque ya sea dentro de medio año, un año o dos años, el costo de las mismas aplicaciones bajará».
Prance indicó que el modelo Claude Opus 5.5, el más reciente lanzamiento de Anthropic, es un 40% más barato que las versiones anteriores. Los clientes empresariales que pagan por usar los modelos de frontera de Anthropic representan «una gran parte» del negocio de la compañía, aunque no reveló la proporción exacta.