Anthropic, OpenAI y Google estudian la creación de un organismo común de seguridad ante los riesgos de los sistemas más avanzados.
JVC
Las principales compañías de inteligencia artificial han empezado a plantearse cómo limitar los riesgos de una carrera tecnológica que avanza a gran velocidad. Anthropic, OpenAI y Google estudian la creación de un organismo común que establezca estándares de seguridad, pruebas y mecanismos de evaluación para los sistemas más avanzados.
La propuesta llega después de varias advertencias dentro de la propia industria. Dario Amodei, CEO de Anthropic, ha reclamado reducir el ritmo de desarrollo de los modelos más potentes para disponer de más tiempo para evaluar sus riesgos. Sam Altman, CEO de OpenAI, ha respaldado la necesidad de facilitar el trabajo de evaluadores independientes. Demis Hassabis, responsable de Google DeepMind, también considera que establecer mecanismos comunes de seguridad es el camino adecuado.
El debate se ha intensificado tras varios incidentes relacionados con agentes autónomos. Entre ellos figura el ataque de agentes de OpenAI contra la plataforma Hugging Face, un episodio que ha aumentado la preocupación sobre sistemas capaces de actuar fuera de los límites previstos por sus desarrolladores.
La carrera tecnológica entra en una nueva fase
El temor ya no se limita a los posibles errores de los modelos actuales. La preocupación se centra también en sistemas cada vez más autónomos y en la posibilidad de que la propia inteligencia artificial contribuya al desarrollo de nuevas generaciones de IA.
Amodei ha advertido de que, si el avance mantiene el ritmo actual, algunos agentes podrían llegar en los próximos meses a controlar una parte significativa de internet. Su propuesta no plantea detener la inteligencia artificial, sino reducir el ritmo de desarrollo de los sistemas más avanzados para reforzar las medidas de seguridad.
La idea ha encontrado eco entre varios de los principales competidores. Sin embargo, también plantea una contradicción evidente: las mismas compañías que compiten por desarrollar los modelos más potentes tendrían que acordar límites para esa carrera.
Además, el debate ya tiene consecuencias económicas. Las acciones vinculadas a la inteligencia artificial han sufrido fuertes caídas este lunes. Nvidia perdió alrededor de un 3% y el índice de semiconductores llegó a retroceder cerca de un 5% en una jornada marcada por el temor a una ralentización de las inversiones en IA.
Europa quiere seguridad
La discusión tiene una lectura particular en Europa. Alemania considera que detener el desarrollo de la inteligencia artificial no es una opción viable y defiende mantener la innovación para reforzar la soberanía digital europea.
El Gobierno alemán reclama, al mismo tiempo, una mayor cooperación internacional. Su posición incluye a Estados Unidos y China y plantea llevar el debate sobre la seguridad de la IA al G7. La Comisión Europea también defiende que la innovación debe avanzar con garantías de seguridad.
España se ha situado en una línea similar. El ministro para la Transformación Digital, Óscar López, ha planteado un acuerdo internacional para reducir los riesgos de la inteligencia artificial, con un modelo comparable a los tratados de no proliferación nuclear. Al mismo tiempo, ha destacado el potencial de la tecnología en campos como la medicina y la ciberseguridad.
Europa se enfrenta así a un doble desafío. Por un lado, necesita establecer límites ante sistemas cada vez más autónomos. Por otro, no puede permitirse quedar todavía más rezagada frente a Estados Unidos y China en una tecnología considerada estratégica.
Trump rechaza frenar el desarrollo
La posición estadounidense tampoco es unánime. Donald Trump ha rechazado las advertencias sobre los riesgos de una IA desarrollada a gran velocidad y ha acusado a sus críticos de alimentar una supuesta conspiración contra la inteligencia artificial y los centros de datos.
El presidente estadounidense sostiene que el verdadero beneficiario de cualquier freno sería China. Pekín, por su parte, ha cuestionado las advertencias procedentes de los grandes laboratorios estadounidenses y las interpreta dentro de la creciente rivalidad tecnológica entre ambas potencias.
La cuestión tiene además una dimensión empresarial. OpenAI ha aplazado su posible salida a Bolsa al menos hasta 2027, según informó Sam Altman, en un momento en el que las preocupaciones sobre la seguridad de la IA han ganado peso dentro y fuera de las compañías.
La autorregulación abre otro debate
La propuesta de crear un organismo común de seguridad pretende responder precisamente a uno de los principales problemas de la carrera de la IA: ninguna compañía quiere reducir su ritmo si sus competidores continúan acelerando.
El modelo plantea que las empresas puedan compartir estándares y someter sus sistemas a evaluaciones externas. Anthropic ya ha retomado las pruebas externas de sus modelos después de introducir nuevos controles tras varios incidentes de seguridad.
Sin embargo, la autorregulación tampoco resuelve todas las dudas. La industria tendría que decidir quién establece las reglas, quién supervisa su cumplimiento y qué consecuencias tendría para una compañía que no las respete.
Europa ya cuenta con su propio marco regulatorio a través de la Ley de Inteligencia Artificial de la Unión Europea. El debate actual añade una cuestión diferente: cómo conseguir que las reglas de seguridad no terminen convirtiéndose en una desventaja tecnológica.
La discusión ha dejado de ser, por tanto, una cuestión exclusiva de los laboratorios estadounidenses. La inteligencia artificial se ha convertido en un asunto económico, político y geoestratégico. Mientras sus principales desarrolladores empiezan a hablar de límites y controles comunes, Europa busca una posición propia entre dos necesidades que pueden entrar en conflicto: controlar los riesgos de la IA y evitar quedarse atrás en la carrera tecnológica.
