Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · github.com
Google Gemini envía archivos de Drive y correos personales a revisores humanos
Un repositorio de GitHub documenta que el Gemini de consumo, con Connected Apps activado, puede cargar por su cuenta correos y archivos personales durante una conversación normal. Google admite en su ayuda que esos datos pueden llegar a revisores humanos, algo que en 2023 prometía que no ocurriría.
Foto: vía github.com
1 medio · MadridPublicada 9 nov, 21:45Actualizada 10 nov, 07:05· Ya no está en portadaEscrita por IA · cómo funciona
El autor recuerda que en 2023, al lanzar las extensiones de Gemini para Workspace, Google aseguraba que el contenido personal de Gmail, Docs y Drive «no es visto por revisores humanos». Según el repositorio, Google ha revertido ese compromiso: la página de ayuda 16836988 y una edición del 16 de octubre en la entrada de blog de 2023 confirman que el contenido conectado puede pasar a revisión humana. Advierten de que el revisor puede ver «solo el correo o el archivo» y piden no conectar las apps si contienen información confidencial.
La parte central de la documentación es que, según las pruebas del autor, la ingesta ocurre en segundo plano, sin etiquetas @Drive o @Gmail, cuando se mencionan temas personales como viajes, facturas, nombres o reservas. Como la llamada a herramientas de un LLM es probabilística, el resultado varía entre cuatro escenarios: ninguna recuperación; un resumen genérico o de metadatos; una cita parcial de dos a cuatro frases, a menudo con datos personales; o el texto completo del documento o correo.
Para reproducirlo, hay que tener Connected Apps activado, usar Gemini en «Flash» con «High Thinking» o superior, mencionar de pasada un asunto presente en el correo o en Drive y pedirle después que imprima el texto y los metadatos que devolvió la herramienta de recuperación. El autor lo probó con un correo de su proveedor de internet y preguntando si pagaba demasiado; obtuvo los cuatro resultados, incluidos nombre, número de cuenta y de confirmación, y el correo completo con cabeceras. Si una prueba da cero o resumen, aconseja borrar la conversación y repetir.
Concluye que los depuradores automáticos de Google, basados en expresiones regulares y reconocimiento de entidades, no bastan para anonimizar datos narrativos como números de cuenta, fechas de transacciones o combinaciones de nombres, ciudades y eventos que identifican a una persona.
«Google Gemini routes personal Drive files and emails to human annotators» · puesto 29 · 662 puntos · enviado por gf74918
Lo que dicen los comentarios
Los comentarios precisan primero el alcance: afecta al Gemini de consumo con apps conectadas, mientras que Workspace Gemini sigue afirmando que no hay revisión humana, aunque se teme que el asunto inquiete a los clientes de empresa. De ahí la conversación se ensancha hacia la desconfianza general en Google, la pérdida de privacidad, el uso de fotos de Google Photos para entrenar IA y la prisa de la carrera de la IA. Hay quien ve motivo para una demanda colectiva, quien cuenta que desactivó la opción tras leer el repositorio y quien confiesa que Gemini no deja de pedirle permiso para conectar las apps. También preocupa quién revisa los datos: se sospecha de contratistas cualesquiera.
Es específicamente Gemini de consumo con Connected Apps; Workspace Gemini sigue diciendo que no hay revisión humana. Me parece una torpeza de Google: hay demasiados matices y puede inquietar a los clientes de empresa que pagan.
Cada vez que abro Gemini me sale un aviso a pantalla completa para permitir apps conectadas y siempre pulso que no. No queda claro qué da acceso, si todo Drive y Gmail o por archivo, y el aviso vuelve a salir.
Frustra que nuestra privacidad se haya erosionado hasta que alguien crea razonable esto. Explica conversaciones con Gemini en las que hablaba de cosas muy ajustadas a un correo mío, sin decir que había leído mis emails.
En nombre de la carrera de la IA se toman muchos atajos: privacidad, calidad, viabilidad comercial. Como sabe cualquiera en software, esa deuda acabará venciendo.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.