Una herramienta de inteligencia artificial generó una situación de riesgo grave para la escritora y politóloga argentina Flavia Broffoni al confundirla con una persona que aparecía en un video de Ceuta, España. La identificación errónea del algoritmo fue el punto de partida para una ola de comunicaciones amenazantes, incluyendo amenazas de violación y muerte.

Broffoni comenzó a recibir emails y mensajes a través de varios canales después de que el sistema la asociara falsamente con una activista de Ceuta. El volumen de amenazas fue considerable, descripto como una «catarata» de ataques dirigidos contra ella sin causa justificada más allá del error tecnológico inicial.

El problema radica en cómo operan los sistemas de reconocimiento de imágenes basados en IA. Aunque estos algoritmos se desarrollan con el objetivo de mejorar la seguridad y la organización de información, pueden incurrir en equivocaciones que, cuando se viralizan, generan daños significativos. En el caso de Broffoni, una simple confusión se transformó en una amenaza seria a su integridad personal.

Lo que distingue a este caso es que documenta cómo un error de máquina puede escalarse en minutos hacia consecuencias humanas tangibles. No se trata de una falla contenida dentro de un servidor, sino de una falla que se dispersa, se amplifica y genera acciones hostiles concretas de personas reales.

Este episodio suscita preguntas fundamentales sobre el control de calidad de los sistemas de IA, la responsabilidad corporativa de quienes los implementan, y los mecanismos de protección que deberían existir para ciudadanos que resulten identificados incorrectamente. Broffoni fue víctima de una cadena de eventos que comenzó con un fallo técnico pero derivó en un problema de seguridad personal que pudo haber tenido consecuencias aún más graves. El caso pone de manifiesto la necesidad urgente de desarrollar controles más robustos antes de que estos sistemas continúen operando sin supervisión adicional.

Con informacion de La Pampa 24