Sofia Liguori, ingeniera de investigación en Londres, dimitió de Google DeepMind esta semana tras tres años en la compañía. Habló con la BBC pese a que su contrato se lo restringe. Dice que saber que su empresa impulsa cada vez más la IA en operaciones militares le avergüenza, y que ha perdido la fe en que Google sea fiel a sus valores éticos. Andreas Kirsch, investigador de IA, también se fue este mes. Considera que la gobernanza y la supervisión de Google no bastan para desplegar IA con seguridad en entornos militares y clasificados, y que Google parece no tener derecho a controlar ni vetar cómo la usa el Pentágono ni apenas visibilidad sobre su despliegue.
El contrato de Google con el Pentágono, firmado este año, permite usar su IA en trabajo militar clasificado. El acuerdo habla de «cualquier propósito gubernamental lícito» y dice que los modelos no deberían usarse para vigilancia masiva doméstica ni armas autónomas, incluida la selección de objetivos, sin supervisión y control humanos apropiados. Contratos similares han firmado OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la startup Reflection. Un ejemplo destacado del uso militar de la IA es Maven Smart Systems, la plataforma del Pentágono desarrollada por Palantir, que ayuda a seleccionar e identificar objetivos.
Jack Shanahan, exdirector del Proyecto Maven, describe la filosofía actual como desplegar la IA lo más rápido y ampliamente posible, quizá a costa del rigor en las pruebas y la evaluación. Sarah Shoker, antes al frente del equipo de Geopolítica de OpenAI, advierte de que la IA comprime el tiempo de decisión del operador y de que, con cientos de objetivos y poco tiempo, es casi imposible revisar sus resultados. El Pentágono sostiene que adoptar IA es esencial para ganar guerras. Según Liguori, en Google la gente teme represalias y se siente vigilada. Google responde que sigue un proceso consistente para revisar estos contratos y que tiene canales para plantear inquietudes y políticas contra las represalias.
El artículo también recuerda el Proyecto Nimbus, el contrato de 1.200 millones de dólares con Amazon para el Gobierno y el Ejército de Israel, criticado por empleados en 2024.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.