Inteligencia artificial frustra macabro plan de un padre para asesinar a su hijo

«Quería saber de dónde viene este deseo de matar gente. Me gusta la sensación de ver sufrir a otra persona».

Durante casi dos meses, un agricultor brasileño intercambió estos y otros mensajes con el asistente de inteligencia artificial ChatGPT, en lo que la policía describe como planes para matar a su hijo de 8 años, atacar a otras personas y luego quitarse la vida.

Y fueron precisamente estos mensajes los que llevaron al arresto del hombre. En uno de los pocos casos conocidos de este tipo, el sujeto, de 36 años, fue detenido después de que OpenAI, el creador de ChatGPT, denunciara sus mensajes al FBI, que a su vez notificó a las autoridades brasileñas. Su abogado afirma que le estaba diciendo tonterías a un chatbot y que no cometió ningún delito.

Este caso pone de relieve un reto creciente para la policía, los tribunales y las empresas de IA: ¿Qué debería ocurrir cuando los chatbots de IA identifican una amenaza potencial antes de que se haya cometido ningún delito?

Todo lo que la plataforma nos proporcionó quedó corroborado

La policía cree que el sospechoso también habló con ChatGPT sobre posibles ataques a escuelas, iglesias y agentes de policía. El hombre, cuyo nombre no se revela para proteger la identidad de su hijo, fue arrestado en la zona rural de São Gabriel da Palha el 19 de junio, tres días después de que la unidad de delitos cibernéticos del Ministerio de Justicia brasileño remitiera el caso al departamento de policía estatal.

«Priorizamos este caso debido a su gravedad y porque, supuestamente, el padre planeaba matar a su hijo antes del día 20», declaró Brenno Andrade, jefe de la comisaría de delitos cibernéticos de Espírito Santo. Según Andrade, el sospechoso tenía poco o ningún contacto con su hijo, más allá del pago de la manutención. Los investigadores creen que el resentimiento por esos pagos pudo haber sido uno de los motivos del presunto complot.

En los registros de su propiedad se encontraron cuatro botellas que contenían sustancias no identificadas y una cuerda amarrada con un nudo, lo que, según los agentes, podría indicar intenciones suicidas. La policía también cree que el sospechoso habló con ChatGPT sobre posibles ataques contra escuelas, iglesias y agentes de policía.

El hombre niega haber tenido la intención de hacerle daño a su hijo. Después de 54 días bajo custodia, fue puesto en libertad el 13 de agosto debido a retrasos en la investigación. No se han presentado cargos, pero la investigación de la policía continúa. El agricultor está sujeto a medidas de precaución, que incluyen vigilancia electrónica y la prohibición de contactar con su hijo o con la madre del niño.

Los investigadores han declarado que están examinando el teléfono móvil del sospechoso y esperan los resultados de las pruebas forenses de los objetos incautados para determinar si tomó medidas concretas para llevar a cabo algún plan. La defensa argumenta que no se tomó ninguna medida al respecto. «Si hablar con la IA y decir tonterías es un delito, todo el mundo irá a la cárcel», declaró el abogado defensor Pedro Paulo Pessi.

El problema de la evidencia

Se cree que los casos de empresas de IA que denuncian a sus usuarios a la policía son raros. Andrade, de la policía de Espírito Santo, dijo que el caso del agricultor era la primera alerta de este tipo generada por inteligencia artificial que recibía el estado y solo el tercer caso de este tipo en Brasil. Sin embargo, existen diversas dudas sobre el papel que desempeñan estos avisos en el proceso de investigación, incluyendo si los mensajes pueden utilizarse como prueba en un tribunal.

Según los investigadores, OpenAI proporcionó detalles del usuario y de los mensajes que envió, pero no las respuestas de ChatGPT. La abogada penalista Maíra Fernandes afirma que esto crea un problema probatorio porque el contexto de los mensajes es importante. En un comunicado, la empresa se negó a explicar por qué no se compartieron las respuestas de ChatGPT, limitándose a decir que podría notificar a las autoridades policiales cuando detecte un riesgo creíble e inminente de daño a terceros.

Obligación legal de actuar

Fernandes dice que el hecho de que la presunta víctima en el caso brasileño fuera un menor identificable ayuda a explicar la alerta. Sin embargo, advierte sobre el peligro de normalizar las investigaciones basándose únicamente en evaluaciones de IA. Patricia Peck, profesora y especialista en derecho digital, asegura que el caso refleja un cambio más amplio en el papel de la IA, que pasa de ser una herramienta de generación de contenido a un sistema interactivo capaz de identificar patrones asociados con comportamientos potencialmente peligrosos. Ella argumenta que, en determinadas circunstancias, las empresas de IA pueden tener la obligación legal de informar a las autoridades.