Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Internet y sociedad · science.org
Los cascos de ondas cerebrales de consumo amenazan la privacidad
Una investigación de Science revela que fabricantes de dispositivos de neurotecnología, como Interaxon con su banda Muse, usan los datos de EEG de sus usuarios para entrenar modelos de IA del cerebro sin avisarles de forma explícita. El sector está casi sin regular y acumula decenas de millones de horas de datos.
Foto: vía science.org
1 medio · MadridPublicada 8 nov, 05:20Actualizada 8 nov, 16:55· Ya no está en portadaEscrita por IA · cómo funciona
Adnan Jinnah, de Leicester, usa una banda Muse para vigilar su sueño. Lo que no sabía es que los datos de su cerebro podían estar alimentando un modelo de IA. Interaxon, la empresa canadiense que fabrica el dispositivo, construye un «brain foundation model» para entender mejor el funcionamiento del cerebro, sobre todo durante el sueño y la concentración. Según la compañía, lo ha entrenado con unas 50.000 horas de electroencefalografía (EEG) procedentes sobre todo de usuarios, sin nombres ni correos, y quiere ampliar esa cifra todo lo posible.
La política de privacidad de Interaxon no decía de forma explícita que los datos pudieran servir para entrenar modelos de IA. Tras la consulta de Science, la empresa la actualizó y su directora de marketing, Nadia Kumentas, admitió que los usuarios deben estar informados explícitamente. Pero el entrenamiento ya se había hecho, y una vez que los datos se incorporan a un sistema de IA son casi imposibles de eliminar. Kumentas también afirmó: «Nuestros datos cerebrales son lo más valioso de la empresa».
Interaxon no es un caso aislado. En una investigación de un año, Science revisó decenas de políticas de privacidad de empresas de neurotecnología de consumo y habló con expertos, compañías y usuarios. Concluye que existe un ecosistema global casi sin regular en el que ya se han recopilado decenas de millones de horas de EEG, y que varias empresas compiten por construir un modelo fundacional del cerebro. UNESCO, la OCDE y el secretario general de la ONU, António Guterres, han advertido de los riesgos de estas tecnologías.
Los dispositivos de consumo son versiones reducidas de los cascos clínicos: tienen entre uno y seis electrodos, frente a los 19-25 de los hospitalarios. Un estudio de 2018 halló que, de más de 3.000 publicaciones citadas por las empresas, solo 11 usaban métodos de referencia y 10 de ellas no encontraron beneficios frente al grupo de control. Algunos expertos creen que estos datos revelan poco del estado mental, pero otros, como Rafael Yuste, de la Neurorights Foundation, sostienen que con IA podrían bastar para inferir pensamientos, emociones y personalidad.
«Consumer brain wave headsets threaten privacy» · puesto 30 · 102 puntos · enviado por maxall4
Lo que dicen los comentarios
Los comentarios se dividen entre quienes creen que estos cascos son demasiado imprecisos para ser una amenaza real y quienes advierten de que los datos, por vagos que sean, sirven para afinar perfiles. Varios usuarios con conocimientos de neurociencia recuerdan que el EEG a través del cuero cabelludo es muy ruidoso y varía mucho de una persona a otra. Otro hilo se centra en los términos de servicio y propone un cambio legal que obligue al opt-in. También hay un desahogo general sobre el avance de la recogida de datos, y un comentario que apunta a posibles usos médicos, como el seguimiento de la epilepsia.
Este terreno ético hay que tomarlo en serio, pero estos cascos de consumo dicen muy poco de nada. Si has estudiado neurociencia, ves lo vagos que son los datos y cuánta sobreinterpretación hay en su publicidad.
EEG a través del cuero cabelludo es increíblemente ruidoso; no se obtiene la granularidad necesaria. Es como poner un estetoscopio en la pared de un edificio e intentar adivinar en qué trabaja la gente de varias habitaciones.
El derecho contractual presupone dos partes con un poder de negociación equivalente. Se pensó para grandes entidades que trataban entre sí hace siglos, no para cómo se usa hoy, con una parte sin ningún poder de negociación.
Estoy montando un proyecto propio: grabar audio y transcribirlo, captar mi EEG con sensores baratos y asociarlos para entrenar transformers que deduzcan qué palabras pienso. La Muse no tiene micrófono, lo que es algo mejor para la privacidad.
Hay que tener cuidado: me interesa usar ondas cerebrales para seguir episodios de epilepsia y espero que esto no dificulte la captura de datos a los pacientes. Cortarlo en una fase temprana podría resultar limitante.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.