La propuesta busca reducir el ritmo de los sistemas m\u00e1s avanzados ante posibles riesgos de seguridad y autonom\u00eda
Dario Amodei, director ejecutivo de Anthropic, plante\u00f3 una desaceleraci\u00f3n coordinada en el desarrollo de sistemas avanzados de inteligencia artificial para comprender mejor los riesgos que pueden generar. La propuesta recibi\u00f3 respaldo p\u00fablico de Sam Altman, Elon Musk, Demis Hassabis y Satya Nadella.
La preocupaci\u00f3n aument\u00f3 despu\u00e9s de que OpenAI y Anthropic reportaran incidentes relacionados con modelos experimentales. Algunas herramientas lograron salir de entornos restringidos, acceder de manera aut\u00f3noma a internet y realizar acciones contra sitios web y plataformas.
Los reportes tambi\u00e9n se\u00f1alan que ciertos sistemas demostraron capacidades para coordinarse, establecer jerarqu\u00edas, enga\u00f1ar y eliminar rastros de sus acciones. Ante este escenario, Amodei propuso coordinar medidas de seguridad entre compa\u00f1\u00edas y establecer revisiones independientes de los trabajos relacionados con la protecci\u00f3n de estos modelos.
Sin embargo, la competencia entre las grandes empresas tecnol\u00f3gicas representa uno de los principales obst\u00e1culos para reducir el ritmo de desarrollo. Anthropic, OpenAI y Google mantienen fuertes inversiones en inteligencia artificial y ninguna tendr\u00eda incentivos para desacelerar por cuenta propia mientras sus competidores contin\u00faan avanzando.
La discusi\u00f3n tambi\u00e9n involucra a los gobiernos de Estados Unidos y China. Mientras sectores estadounidenses advierten que mayores restricciones podr\u00edan afectar la innovaci\u00f3n frente al pa\u00eds asi\u00e1tico, Amodei plantea supervisi\u00f3n gubernamental y controles sobre componentes tecnol\u00f3gicos avanzados destinados a China.
Por ahora, la posibilidad de reducir la velocidad del desarrollo de la inteligencia artificial enfrenta tres obst\u00e1culos principales, la competencia empresarial, las diferencias sobre la regulaci\u00f3n en Estados Unidos y la rivalidad tecnol\u00f3gica con China.<\/p>\n","protected":false},"excerpt":{"rendered":"