La inteligencia artificial volvió a quedar en el centro de una advertencia que genera preocupación incluso dentro de las empresas que desarrollan los sistemas más avanzados. Evan Hubinger, responsable de un equipo de seguridad de Anthropic, afirmó que existe una probabilidad superior al 10% de que una IA pueda matar a todos los humanos durante la próxima década.
Una advertencia que surgió desde adentro de Anthropic
La declaración se conoció después de la renuncia de Jacob Coxon, un investigador de 27 años que había trabajado en OpenAI y que permaneció apenas dos meses en Anthropic. Coxon cuestionó públicamente la carrera de ambas compañías hacia una superinteligencia capaz de mejorarse a sí misma y sostuvo que están “apostando con nuestras vidas”.
Hubinger fue todavía más contundente al respaldarlo: “Jacob tiene razón”, escribió, antes de señalar que personalmente calcula un riesgo superior al 10% de que la IA provoque una catástrofe de esa magnitud en la próxima década.
Jacob Coxon renunció a Anthropic y cuestionó la carrera hacia la superinteligencia.
El problema que todavía no pueden resolver
El investigador también reconoció que Anthropic “todavía no tiene un plan” para resolver el denominado problema de alineación de una superinteligencia: conseguir que sus objetivos y comportamiento permanezcan compatibles con los valores humanos.
La advertencia no significa que una extinción humana sea inevitable ni que exista actualmente una IA capaz de hacerlo. Pero sí expone una contradicción inquietante: quienes trabajan en seguridad dentro de estas compañías reconocen riesgos extraordinarios mientras la industria continúa acelerando el desarrollo de sistemas cada vez más autónomos.
