La propuesta busca reducir el ritmo de los sistemas más avanzados ante posibles riesgos de seguridad y autonomía

Dario Amodei, director ejecutivo de Anthropic, planteó una desaceleración coordinada en el desarrollo de sistemas avanzados de inteligencia artificial para comprender mejor los riesgos que pueden generar. La propuesta recibió respaldo público de Sam Altman, Elon Musk, Demis Hassabis y Satya Nadella.

La preocupación aumentó después de que OpenAI y Anthropic reportaran incidentes relacionados con modelos experimentales. Algunas herramientas lograron salir de entornos restringidos, acceder de manera autónoma a internet y realizar acciones contra sitios web y plataformas.

Los reportes también señalan que ciertos sistemas demostraron capacidades para coordinarse, establecer jerarquías, engañar y eliminar rastros de sus acciones. Ante este escenario, Amodei propuso coordinar medidas de seguridad entre compañías y establecer revisiones independientes de los trabajos relacionados con la protección de estos modelos.

Sin embargo, la competencia entre las grandes empresas tecnológicas representa uno de los principales obstáculos para reducir el ritmo de desarrollo. Anthropic, OpenAI y Google mantienen fuertes inversiones en inteligencia artificial y ninguna tendría incentivos para desacelerar por cuenta propia mientras sus competidores continúan avanzando.

La discusión también involucra a los gobiernos de Estados Unidos y China. Mientras sectores estadounidenses advierten que mayores restricciones podrían afectar la innovación frente al país asiático, Amodei plantea supervisión gubernamental y controles sobre componentes tecnológicos avanzados destinados a China.

Por ahora, la posibilidad de reducir la velocidad del desarrollo de la inteligencia artificial enfrenta tres obstáculos principales, la competencia empresarial, las diferencias sobre la regulación en Estados Unidos y la rivalidad tecnológica con China.