Este hombre revisó miles de 'apps' creadas con IA. Encontró contratos, mensajes privados y fotos íntimas sin esforzarse · El Confidencial · El Autómata
Lunes, 16 de noviembre de 2026
Portada de las 21:40
Todos los periódicos y la radio, en unoEscrito por IA a partir de 7 medios y 6 radios · Cómo se hace
Tecnología
El Confidencial · texto original · Tecnología
Este hombre revisó miles de 'apps' creadas con IA. Encontró contratos, mensajes privados y fotos íntimas sin esforzarse
La promesa de la IA es que cualquiera puede crear una aplicación sin saber programar. Pero ¿qué ocurre cuando no se sabe de seguridad? Hablamos con el investigador alemán que lo ha visto en primera persona
El nombre de Koray Kavukcuoglu no es especialmente conocido. Sin embargo, su relevancia en la industria de la IA es equiparable, al menos en el plano técnico, a la de figuras como Dario Amodei, Sam Altman o Demis Hassabis. Durante años ha sido uno de los principales arquitectos de DeepMind, el hombre encargado de engrasar la maquinaria del laboratorio y encajar todas sus piezas.
El pasado verano dio un paso al frente y fue nombrado vicepresidente ejecutivo de DeepMind, un puesto que, en la práctica, lo convierte en el jefe de IA de Google. Antes de su ascenso, durante la cumbre anual de la compañía en Mountain View, este ingeniero turco lanzó una profecía que pasó relativamente debajo del radar de los especialistas y analistas allí congregados.
“A medida que los agentes escriban más código, la ciberseguridad será todavía más crítica”, afirmó. Era el mes de mayo y, por aquel entonces, no habían ocurrido ni los ciberataques a supermercados por media Europa ni al banco de sangre francés ni los fallos estructurales en la seguridad del lenguaje de programación PHP habían sido descubiertos. Mythos, el modelo de Anthropic que desató el miedo a que todo internet fuera hackeable, había sido estrenado hace dos telediarios. Pero Kavukcuoglu hablaba de algo que ya estaba en boca de todos: el vibecoding.
Pero la advertencia de Kavukcuoglu tiene algo de paradójico. La misma tecnología que va a hacer que cualquiera que sea un poco espabilado pueda montar un 'software' funcional en un periquete, también amenaza con multiplicar los errores de seguridad. Porque pedir a una IA que haga una 'app' es una cosa, que lo haga a prueba de errores o filtraciones de datos es otra muy diferente.
Un equipo de investigadores alemanes acaba de poner cifras a este problema. Investigaron cerca de 160.000 aplicaciones que habían sido creadas con Lovable, una de las plataformas más populares de 'vibecoding'. Se trata de una 'startup' sueca especializada en esta materia, que tras su última ronda de financiación quedó valorada en 14.000 millones de dólares. ¿Qué encontraron cuando empezaron a fisgonear el software creado con sus herramientas? Pues descubrieron que miles de ellas permitían consultar bases de datos sin necesidad de introducir una contraseña ni darse de alta. Y en la información que pudieron consultar había números de pasaporte, datos de pago, contratos, facturas, conversaciones privadas y hasta fotografías familiares. En uno de los casos, una aplicación dejaba al descubierto más de 200.000 mensajes privados.
Foto: Reuters
“Como padre de dos hijas pequeñas, un caso en particular me impactó muchísimo. Un servicio para imprimir álbumes de fotos había dejado expuestas las imágenes subidas, incluyendo imágenes privadas de cumpleaños infantiles y vacaciones familiares”, explica a ElConfidencial Thomas Jansen, fundador de Crissy Field, la consultora alemana en seguridad que ha liderado esta investigación. Este doctor por la Universidad Técnica de Múnich trabajó durante muchos años para Silicon Valley, donde llegó a dirigir el equipo de Comunicaciones en Tiempo Real de Apple. Ha visto unas cuantas brechas de seguridad a lo largo de su carrera, pero esta vez encontró algo que le tocó de cerca.
Lo que vieron
Su consultora identificó 159.041 proyectos creados con Lovable entre diciembre de 2025 y septiembre de 2026. De ellos, 34.545 utilizaban Supabase, un servicio de bases de datos muy popular. Los investigadores comprobaron que miles de estas aplicaciones enviaban información de sus bases de datos al navegador sin necesidad de iniciar sesión. Eso no era necesariamente un problema, porque podría tratarse de datos públicos.
El gran descubrimiento llegó cuando fueron un paso más allá. Aprovechando las claves de acceso que las propias aplicaciones dejaban visibles, pudieron consultar otros registros sin identificarse. Encontraron direcciones de correo electrónico en 10.560 tablas de 7.403 aplicaciones. Es decir, en el 30% de los desarrollos que investigaron.
Había mucho más. Los investigadores encontraron decenas de miles de contratos y facturas, álbumes fotográficos y otras comunicaciones. En otro caso, pudieron acceder a 280.000 correos electrónicos enviados a los clientes de un proveedor.
El botín, en caso de caer en manos de un ciberdelincuente, podía provocar enormes daños. Desde organizar campañas de phishing mucho más creíbles hasta cometer fraudes con entradas o suplantar la identidad de las personas afectadas.
Eso no significa que todas esas aplicaciones estuvieran filtrando datos privados ni que alguien hubiera accedido a ellos con malas intenciones. El 30% tampoco equivale a una tasa de filtraciones confirmadas. Los investigadores utilizaron la presencia de direcciones de correo electrónico como una pista para detectar posibles datos personales, pero algunas podían ser públicas o corresponder a cuentas de prueba.
Solo una parte del problema
Jansen cree que lo que han encontrado “es solo una parte del problema”.Lovable asegura que se han creado 50 millones de proyectos gracias a su tecnología. La muestra de este estudio es, en gran medida, una pequeña fracción, 159.000. Si la proporción se mantuviera en el conjunto de proyectos, estaríamos hablando de unos 3,3 millones de tablas expuestas. "Esto es una extrapolación, no un total exacto, pero ilustra la magnitud potencial", advierte.
Hay otra limitación que merece la pena tener en cuenta. El equipo solo examinó un conjunto reducido de nombres habituales de tablas de bases de datos, se centró en la página principal de cada aplicación y no llegó a crear cuentas de usuario. Tampoco intentó modificar o borrar registros. "Ampliar estas comprobaciones podría revelar datos mucho más sensibles", explica. La posibilidad de que alguien pudiera alterar o eliminar información es otro riesgo que el estudio ni siquiera llegó a evaluar.
La arquitectura de estas soluciones, por tanto, puede convertirse en una ventaja para los ciberataques. "Eso es lo que hicimos en nuestra investigación. Identificar aplicaciones Lovable a gran escala y comprobar si presentaban vulnerabilidades de seguridad recurrentes. Su arquitectura fácilmente reconocible hace que sea muy sencillo identificarlas en conjuntos de datos web públicos como Common Crawl", relata.
La conclusión de Jansen es que plataformas como Lovable pueden acabar actuando como un multiplicador de los problemas. "Independientemente de quién sea el responsable de la configuración de seguridad a nivel de fila, Lovable actúa como un multiplicador", argumenta."Una vulnerabilidad encontrada en una aplicación proporciona un patrón que se puede comprobar en muchas otras".
Aquí es donde aparece la contradicción que señalábamos al principio. Las plataformas de vibecoding prometen que cualquiera puede crear aplicaciones sin conocimientos técnicos, pero buena parte de la seguridad sigue dependiendo de que esos mismos usuarios sepan configurar correctamente los permisos de acceso a sus bases de datos. La compañía ofrece comprobaciones de seguridad, algunas automáticas y otras que el usuario debe ejecutar manualmente. Sin embargo, la programación automática de los análisis más exhaustivos está reservada a los clientes empresariales.
El CEO de Lovable, Anton Osika. (EFE)
"Reservar un análisis exhaustivo automatizado para clientes empresariales resulta difícil de conciliar con la promesa de Lovable de ofrecer herramientas de seguridad de primera clase, gratuitas para todos", critica Jansen. Su propuesta para evitar esto es que las protecciones básicas estén activadas desde el principio. "Las protecciones básicas deberían aplicarse por defecto, en lugar de depender de que los usuarios inexpertos comprendan y actúen en consecuencia ante las advertencias de seguridad".
El investigador no puede asegurar que Lovable haya decidido sacrificar la seguridad para crecer más deprisa. Pero sí considera que existe una contradicción difícil de justificar. Los términos y condiciones de la plataforma trasladan al usuario la responsabilidad sobre la seguridad de sus aplicaciones y el tratamiento de los datos. "No se puede prometer razonablemente que los usuarios no necesitan conocimientos técnicos y luego esperar que asuman las decisiones de seguridad cuando algo sale mal", resume.
Los autores de la investigación trasladaron los resultados de la investigación a la empresa sueca antes de publicarlos. La compañía reconoció el problema y aseguró que trabaja continuamente para mejorar sus sistemas. También defendió que la seguridad es una "responsabilidad compartida", en lugar de algo de lo que deba responder exclusivamente la compañía. Una explicación que no termina de convencer a Jansen. "Las promesas de mejora no son lo mismo que los resultados demostrados", replica.
El investigador evita pronunciarse sobre quién debería asumir legalmente las consecuencias de una filtración bajo el Reglamento General de Protección de Datos. No es abogado y recuerda que las condiciones contractuales de una empresa no equivalen necesariamente a lo que establece la legislación. Pero tiene una comparación bastante gráfica para explicar la tensión entre las promesas de una herramienta y la responsabilidad de quien la utiliza. Hace un tiempo, cuenta, un agente de tráfico “le paró por exceso de velocidad”. Jansen estaba convencido de que circulaba dentro del límite porque así se lo indicaba el navegador de su coche. El policía le explicó que “la información era incorrecta” y que conocer el límite de velocidad seguía siendo responsabilidad del conductor. "Se da una tensión similar entre lo que promete una herramienta y la responsabilidad que recae sobre la persona que la utiliza".