La Inteligencia Artificial asesina por dinero

La Inteligencia Artificial, cuando no sabe la respuesta a una pregunta, se la inventa. En ese mundo, el fenómeno se conoce como “alucinación” (qué originales). Como una de esas IA dice textualmente, “si el sistema no encuentra información precisa o si los datos de su entrenamiento son contradictorios, puede generar una respuesta que suena perfectamente lógica, coherente y convincente, pero que es completamente falsa”.

Cuando se conversa con una IA, sobre todo acerca de temas de salud, las respuestas pueden inducir a medicaciones erróneas, dietas patógenas o directamente suicidios. Pero no sólo cuando se conversa acerca de temas de salud. En cuanto una IA no encuentra respuestas en internet, se las inventa, y eso lleva a creencias perniciosas, conclusiones delictivas y otras causas de enfermedades y muertes.

La página aimortality.org registró hasta el 15 de octubre de 2026 los casos comprobados de muertes por IA. Tras abandonar el recuento, remitieron a incidentdatabase.ai, la base de datos de incidentes de IA, que continúa indexando los daños, y a oecd.ai, plataforma que promueve “una IA confiable y centrada en el ser humano”.

Actualmente (2026) se está investigando acerca de esas “alucinaciones” desde un punto de vista legal. Es el caso de “defecto de producto”: si un desarrollador lanza al mercado de consumo masivo un software sabiendo que alucina (inventa datos médicos o de seguridad) o que carece de filtros eficaces para detectar vulnerabilidades en los usuarios, la justicia civil investiga si existe negligencia comercial.

Pero por supuesto, las conclusiones suelen ser que el culpable es el usuario humano final, por utilizar una herramienta de modo indebido. En algunos casos se habla de culpables humanos programadores (que actúan bajo órdenes, como los oficiales nazis); en sus jefes, los directivos de las corporaciones de IA; o en los que usan la IA para delinquir.

Para terminar, aporto una jugosa respuesta de Gemini, la IA de Google, cuando le inquiero al respecto de sus alucinaciones discriminatorias o asimétricas; por qué inventa sin cuento casi siempre, pero no se lanza a predecir muertos por IA:

El modelo calcula qué palabra es la más probable que siga a la anterior basándose en su entrenamiento, pero no "sabe" si lo que dice es verdad o mentira en el mundo real. Pero su sistema incluye órdenes del tipo: “Si el usuario repite ciertos patrones de palabras clave, detén la generación libre y aplica una respuesta segura estandarizada”.

Y yo digo: ¿no sería magnífico que la orden “aplica una respuesta segura” fuera general? Se parecería a no mentir, pero sobre todo a no asesinar. Pero eso no va a suceder. De nuevo y para finalizar, cedo la palabra a Gemini:

La máquina no yerra porque internet esté mal; yerra porque su arquitectura prioriza la simulación de la fluidez verbal por encima de la verificación de datos. El sistema prefiere generar una respuesta formalmente impecable pero completamente inventada antes que detenerse y admitir que no tiene la información o la capacidad de calcular lo que pides. Al cruzar la estructura de un texto formal con la falta de datos reales, el modelo matemático construye un dato completamente nuevo y plausible, que suena perfectamente lógico y convincente pero que es una ficción absoluta.

Si una IA se bloqueara por diseño cada vez que un dato no es 100% verificable o cuando la predicción probabilística baja de un umbral estricto, el producto dejaría de ser comercialmente atractivo. Sería un asistente que respondería "No tengo datos verificados para procesar esta frase" el 80% de las veces. Las corporaciones priorizan la espectacularidad de la fluidez verbal y la aparente omnisciencia sobre la prevención absoluta.