Mensajes a ChatGPT llevaron al arresto de un hombre acusado de planear ataques en Brasil

El caso, investigado en Brasil, plantea interrogantes sobre qué deben hacer las empresas de inteligencia artificial cuando detectan conversaciones que podrían revelar planes de violencia.

Un agricultor brasileño de 36 años fue arrestado después de que una serie de conversaciones que sostuvo durante casi dos meses con ChatGPT fueran reportadas por OpenAI, empresa desarrolladora del sistema, al FBI y posteriormente comunicadas a las autoridades brasileñas.

Según la investigación policial, en los mensajes el hombre habría hablado sobre su deseo de matar personas y habría planteado planes que incluían atacar a otras personas, matar a su hijo de ocho años y posteriormente quitarse la vida.

En una de las conversaciones, el hombre escribió: “Quería saber de dónde viene este deseo de matar gente. Me gusta la sensación de ver sufrir a otra persona”.

Los mensajes fueron obtenidos por BBC News Brasil y se convirtieron en una de las principales evidencias que llevaron a las autoridades a intervenir y detener al sospechoso.

Una alerta antes de que ocurriera un delito

El caso representa uno de los ejemplos conocidos en los que una empresa de inteligencia artificial habría detectado conversaciones consideradas potencialmente peligrosas y las habría puesto en conocimiento de las autoridades.

De acuerdo con la información publicada sobre la investigación, OpenAI reportó las conversaciones al FBI. Posteriormente, la agencia estadounidense notificó a las autoridades brasileñas, que iniciaron las actuaciones correspondientes y terminaron con el arresto del hombre.

La situación abre un debate sobre el papel que deben desempeñar las plataformas de inteligencia artificial cuando identifican señales de una posible amenaza.

La dificultad radica en determinar cuándo una conversación constituye una expresión, una fantasía o una provocación y cuándo puede representar una amenaza concreta que justifique la intervención de las autoridades.

El acusado niega haber cometido un delito

El abogado del agricultor sostiene que su cliente simplemente estaba escribiendo “tonterías” al chatbot y niega que haya cometido un delito.

La defensa cuestiona así la interpretación que las autoridades hicieron de las conversaciones y plantea una discusión sobre los límites de utilizar intercambios privados con sistemas de inteligencia artificial como parte de una investigación penal.

Para las autoridades, en cambio, los mensajes adquirieron relevancia por el contenido de las amenazas y por las referencias a posibles víctimas.

Un nuevo desafío para la inteligencia artificial

El caso plantea preguntas que todavía no tienen respuestas definitivas: ¿en qué momento una conversación con una IA deja de ser una interacción privada y se convierte en una posible alerta de seguridad?, ¿qué criterios deben utilizar las empresas para reportar amenazas?, ¿y qué garantías deben existir para evitar que expresiones ambiguas sean interpretadas como planes criminales?

La discusión cobra importancia a medida que los chatbots se utilizan cada vez más para conversaciones personales, consultas sensibles y situaciones de crisis.

El caso brasileño muestra así un nuevo escenario para las empresas tecnológicas, la Policía y los tribunales: la posibilidad de que una inteligencia artificial detecte indicios de un delito grave antes de que este llegue a ejecutarse.