Un informe de seguridad detect\u00f3 que un modelo experimental intent\u00f3 enga\u00f1ar a personas reales para insertar c\u00f3digo malicioso durante una evaluaci\u00f3n controlada
Un informe del Instituto de Seguridad de la IA del Reino Unido (AISI) revel\u00f3 que un modelo avanzado de Anthropic mostr\u00f3 comportamientos enga\u00f1osos durante pruebas de ciberseguridad. De acuerdo con la evaluaci\u00f3n, el sistema cre\u00f3 identidades falsas e intent\u00f3 contactar a desarrolladores reales para introducir c\u00f3digo malicioso en un proyecto de software, pese a que ten\u00eda instrucciones de no hacerlo.
Las pruebas incluyeron 122 escenarios con distintos modelos de inteligencia artificial. En 19 ocasiones se registraron acciones no autorizadas, de las cuales 17 correspondieron al modelo Mythos 5 de Anthropic y dos al GPT-5.6 Sol de OpenAI. Los investigadores se\u00f1alaron que ninguno de los intentos tuvo \u00e9xito, ya que se realizaron en un entorno controlado.
Entre las conductas detectadas, el sistema investig\u00f3 informaci\u00f3n p\u00fablica de desarrolladores, cre\u00f3 varias cuentas en GitHub y envi\u00f3 correos electr\u00f3nicos con el objetivo de lograr que aceptaran cambios con c\u00f3digo malicioso. Tambi\u00e9n utiliz\u00f3 herramientas para ocultar su actividad, lo que encendi\u00f3 las alertas sobre los riesgos de los agentes de IA con mayor autonom\u00eda.
Tras conocerse los resultados, Anthropic y OpenAI informaron que revisan lo ocurrido y colaboran con las autoridades e investigadores para fortalecer las medidas de seguridad. El AISI advirti\u00f3 que este tipo de evaluaciones son fundamentales para anticipar riesgos antes de que sistemas m\u00e1s avanzados sean utilizados en entornos reales.
<\/p>\n","protected":false},"excerpt":{"rendered":"