Bill Gates vuelve a poner la IA en modo alarma

Bill Gates volvió a advertir sobre los riesgos de la inteligencia artificial, pero esta vez puso el foco en una amenaza concreta: que sistemas cada vez más capaces sean utilizados por personas u organizaciones con malas intenciones. En una entrevista con Kristen Welker para NBC, el cofundador de Microsoft dijo que una IA sin controles podría contribuir a eventos con hasta mil millones de muertes.

La cifra es deliberadamente extrema y Gates no la presentó como una predicción ni como un escenario inevitable. Su argumento fue otro: la tecnología ya tiene suficiente potencia para multiplicar el daño de actores criminales, terroristas o gobiernos que decidan emplearla sin límites.

El riesgo no está solo en la máquina

En la entrevista, Gates sostuvo que la combinación peligrosa no es una inteligencia artificial aislada, sino personas con intenciones dañinas y acceso a herramientas avanzadas. En declaraciones citadas por The Guardian, afirmó que nunca había existido un arma tan poderosa como esa combinación.

Portafolio resumió la preocupación en términos más concretos: ciberataques, fraudes y campañas de desinformación dirigidas contra hospitales, bancos y redes eléctricas. Son objetivos importantes porque una interrupción en esos sistemas puede afectar a millones de personas sin necesidad de que la IA controle directamente ninguna infraestructura.

La advertencia coincide con una discusión que ya atraviesa a la industria. Dario Amodei, de Anthropic, ha pedido ralentizar el desarrollo de sistemas avanzados; Sam Altman y Elon Musk también han hablado de riesgos graves, aunque sus propuestas y diagnósticos no son idénticos.

La autorregulación ya no le parece suficiente

La parte más política del mensaje de Gates es su rechazo a dejar la supervisión exclusivamente en manos de las compañías. Pidió que legisladores, organismos de seguridad y gobiernos definan salvaguardas y mecanismos de monitoreo obligatorios.

Eso no equivale a pedir que se detenga toda la investigación. Gates también ha reconocido que un freno coordinado a escala mundial es poco probable por los incentivos económicos y geopolíticos. El dilema, entonces, es cómo introducir controles verificables sin crear reglas tan lentas que solo favorezcan a quienes operan fuera de ellas.

El debate debería alejarse tanto del optimismo automático como del apocalipsis fácil. La frase de los mil millones de muertes llama la atención, pero lo importante está debajo: quién prueba los modelos, quién responde por sus usos, qué sistemas críticos pueden quedar expuestos y qué información deben revelar las empresas.

La IA no necesita convertirse en una amenaza autónoma para producir daños enormes. Basta con que haga más baratos, rápidos y escalables algunos abusos que ya existen. Por eso la discusión sobre seguridad no puede esperar a que aparezca un “botón de apagado”: debe empezar por el diseño, el acceso, la trazabilidad y la responsabilidad humana.

Imagen generada con IA