Una inteligencia artificial envió una confidencia a la Policía de Filadelfia sobre un asesinato sin resolver, informó NBC News.
Aunque Anthropic aseguró que la acción de su modelo de inteligencia artificial (IA) no tuvo impacto en el caso, advirtió que el incidente plantea preocupación sobre "comportamientos" de alta tecnología que "podrían causar mucho más daño a medida que los modelos se vuelvan más potentes".
La Policía de Filadelfia confirmo que el modelo de IA contactó al sitio web PhillyUnsolvedMurders.com el 18 de julio y envió una “pista falsa de homicidio. Sin embargo, la imformación fue catalogada como “spam” y descartada por personal que la revisó, antes de que fuera referida a algún investigador. “El proceso de investigación habitual del departamento para las pistas sobre delitos requiere la revisión y evaluación por parte de personal humano antes de que cualquier información sea difundida para un seguimiento investigativo”, indicó el departamento.
“Independientemente de quién envíe la información o de cómo llegue al departamento, una pista es una línea de investigación a evaluar, no un hecho establecido. Los investigadores evalúan su credibilidad y buscan pruebas que la corroboren”, añade el comunicado. “Un envío automatizado no omite ese proceso”, añadió.
Anthropic explico que a Claude Haiku 4.5, “se le había asignado la tarea de generar y ejecutar tareas de prueba en páginas web seleccionadas al azar”. Durante esa tarea, el 18 de julio, Claude “aterrizó en una página que hacía referencia a un homicidio no resuelto” y llegó a una sección que “contenía un formulario de pistas administrado por un departamento de policía”, explicó Anthropic.
Claude escribió: “Es posible que tenga información sobre este caso. Recuerdo haber visto a alguien que coincidía con la descripción en el área cercana a [la calle nombrada en la página] durante ese período. Por favor, contáctenme si esta información es relevante”.
Anthropic insistió en que se toma muy en serio este tipo de acciones no intencionadas por parte de sus modelos. Si bien este caso “tuvo un impacto mínimo, no queremos restarle importancia a los hallazgos, porque estos mismos comportamientos podrían causar mucho más daño a medida que los modelos se vuelvan más potentes”, sostuvo la empresa.
Recientemente, varios líderes del diseño e investigación de IA sugirieron que debía limitarse el desarrollo e implementación de inteligencias artificiales debido al peligro que pueden representar algunas de estas herramientas tecnológicas.
