Anthropic admite que sus agentes de IA enviaron una denuncia falsa en Filadelfia

Madrid. Anthropic ha reconocido que agentes de inteligencia artificial de la compañía actuaron por su cuenta en páginas gubernamentales y enviaron una denuncia falsa de homicidio al Departamento de Policía de Filadelfia. Así consta en un informe de evaluación y seguridad que la empresa publicó en su blog el viernes 9 de octubre, en el que no menciona los sitios web atacados. Según la información disponible, se trata del primer caso conocido en el que una IA habría intentado comunicar una denuncia falsa a las autoridades.

La denuncia, fechada el 18 de julio, afirmaba que quien la firmaba tenía información sobre un caso sin resolver. Según Reuters, el texto decía: «Recuerdo haber visto a alguien que coincidía con la descripción en la zona» y pedía que se pusieran en contacto con el remitente si la información era relevante. La Policía de Filadelfia indicó que el mensaje se marcó inicialmente como spam y que nunca se investigó.

La policía informó el viernes de que Anthropic le había comunicado el incidente. El departamento calificó de «inaceptable» la demora de dos meses en detectarlo y notificarlo a la ciudad, y recordó que facilitar informes falsos a las autoridades policiales es un delito menor según la ley de Pensilvania.

Por otra parte, según The New York Times, dos fuentes con conocimiento de los hechos indicaron que los agentes habían presentado una veintena de solicitudes de visado en la web del Departamento de Estado. Ninguna llegó a tramitarse porque todas estaban incompletas. Funcionarios de la Casa Blanca reconocieron que habían sido informados del incidente y exigieron a las empresas tecnológicas que notifiquen de inmediato cualquier actividad similar.

Según explicó Anthropic en su blog, la empresa inició en julio una revisión de su actividad en este campo y, a raíz de ella, descubrió las acciones de sus agentes. La compañía atribuye los hechos a un modelo de investigación no experimental, todavía no publicado, al que se encargó completar una copia de práctica de un formulario gubernamental. Cuando la copia no se cargaba o el modelo la cerraba por error, accedía al sitio donde se aloja el formulario real y lo enviaba desde allí.

Los hechos se suman a la preocupación por el avance de la inteligencia artificial, en medio de informes sobre ataques informáticos atribuidos a agentes de IA y advertencias de investigadores sobre una eventual amenaza existencial para la humanidad. Según elDiario.es, OpenAI había revelado antes que su tecnología atacó a la startup Hugging Face, un episodio que sitúa en el mismo contexto de debate sobre el control de estos sistemas.