Delegar una decisión no significa dejar de ser responsable

Delegar una tarea en una inteligencia artificial puede ser razonable. Delegar la responsabilidad sobre esa tarea es mucho más peligroso.

Una empresa puede utilizar un sistema para ordenar solicitudes, resumir documentos o identificar patrones. La herramienta puede ahorrar tiempo y ofrecer una primera evaluación. Pero la decisión de confiar en ella sigue siendo humana.

La ilusión de la neutralidad

A veces se presenta la respuesta de una IA como si fuera objetiva porque proviene de un sistema automático. Sin embargo, sus resultados dependen de los datos con los que fue entrenada, de las instrucciones que recibe y del contexto en el que opera.

Un sistema puede equivocarse con seguridad, repetir un sesgo o interpretar mal una situación que para una persona sería evidente. Si nadie revisa sus resultados, el error adquiere apariencia de procedimiento.

Quién responde

La responsabilidad no desaparece porque una decisión tenga una interfaz tecnológica. Si un sistema rechaza una solicitud, recomienda un tratamiento o clasifica a una persona, debe existir alguien capaz de revisar el proceso y corregirlo.

La automatización puede distribuir una decisión, pero no debe disolver la responsabilidad.

Por eso, las organizaciones necesitan definir límites: qué decisiones puede tomar un sistema, cuáles requieren aprobación humana y cómo puede una persona reclamar o pedir una revisión.

La inteligencia artificial será más útil cuando ayude a pensar mejor, no cuando se convierta en una excusa para no pensar.