Evan Hubinger advierte que la IA podría matar a toda la humanidad

La discusión sobre los riesgos de la inteligencia artificial volvió a intensificarse después de una advertencia publicada por Evan Hubinger, líder de Ciencia de Alineación de Anthropic, la empresa responsable del desarrollo de Claude.

En una publicación en X, Hubinger afirmó que considera superior al 10 % la posibilidad de que la inteligencia artificial llegue a matar a todos los seres humanos durante la próxima década. El investigador aclaró que el riesgo de los modelos actuales es bajo, pero expresó preocupación por la velocidad con la que estos sistemas podrían mejorar y adquirir capacidades cada vez más autónomas.

La declaración respondió a una publicación de Jacob Coxon, investigador que trabajó durante tres años en OpenAI y Anthropic y que anunció su renuncia a esta última empresa. Coxon sostuvo que ambas compañías están avanzando hacia sistemas de superinteligencia sin suficientes garantías de seguridad.

“No estamos claramente encaminados a resolver la alineación de una superinteligencia”, escribió Hubinger.

La alineación es el campo que busca conseguir que los sistemas de inteligencia artificial actúen de acuerdo con los objetivos y valores humanos. El problema es que todavía no existe una forma comprobada de garantizar que una inteligencia mucho más capaz que la humana mantenga esos objetivos bajo cualquier circunstancia.

Las advertencias no significan que los sistemas actuales estén a punto de exterminar a la humanidad. El propio Hubinger señaló que los modelos existentes presentan un riesgo bajo. La preocupación se refiere a una posible generación futura de sistemas capaces de mejorar su propio funcionamiento, intervenir en redes informáticas, desarrollar nuevas herramientas y adquirir influencia sobre recursos del mundo real.

El debate también ha generado críticas. Algunos expertos consideran que estas predicciones pueden exagerar escenarios hipotéticos y contribuir a una narrativa de miedo alrededor de la inteligencia artificial. Otros sostienen que, incluso si la probabilidad fuera incierta, las consecuencias serían tan graves que los gobiernos y las empresas deberían actuar antes de que el riesgo sea irreversible.

La advertencia de Hubinger no demuestra que la IA vaya a acabar con la humanidad. Sí revela, sin embargo, que algunos de los investigadores encargados de hacer más seguros estos sistemas creen que el desarrollo tecnológico avanza más rápido que las soluciones disponibles para controlarlo.

La pregunta urgente no es únicamente si las máquinas podrían superar a los humanos. También es si la sociedad será capaz de establecer límites antes de entregarles demasiado poder.

La declaración principal provino de un investigador de Anthropic, no de un empleado de OpenAI. La referencia a OpenAI corresponde a la trayectoria profesional de Jacob Coxon, quien trabajó anteriormente en esa compañía.