Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · pangram.com
Pangram Image 1.0
Pangram, la empresa conocida por su detector de texto generado por IA, presenta Pangram Image 1.0 para imágenes y Pangram Image Flash 1.0 para vídeo. Afirma tener los mejores resultados del sector, con mapas de calor que señalan dónde hay IA, extensión de Chrome y API.
Foto: vía pangram.com
1 medio · MadridPublicada 5 nov, 23:05Actualizada 6 nov, 13:15· Ya no está en portadaEscrita por IA · cómo funciona
Pangram lanzó hace unos meses Pangram Image como versión de investigación y ahora presenta la 1.0, que según la empresa es la referencia en detección de imágenes y vídeo generados por IA. El modelo principal, Pangram Image 1.0, detecta imágenes de los generadores más avanzados y produce un mapa de calor para localizar en qué zona de una imagen aparece contenido de IA. También asegura ser robusto frente a ediciones, compresión y baja resolución.
Para evaluarlo, Pangram creó «espejos sintéticos» de 100 fotos reales con 12 generadores de imágenes, usando prompts muy ajustados a la foto original, hasta sumar 1.200 imágenes sintéticas. La empresa dice que su modelo alcanza un 99,96 % de acierto en ese conjunto. También lo comparó con varios benchmarks académicos y con detectores comerciales y académicos. Sobre la robustez, explica que entrena específicamente con transformaciones como la compresión, el desenfoque o el ruido, que usan tanto las redes sociales como quienes quieren engañar a los detectores. El límite mínimo de entrada baja de 512x512 a 256x256 píxeles; por debajo de 512, el resultado lleva un aviso de confianza reducida.
Pangram Image Flash 1.0 es un modelo más pequeño y rápido, orientado a vídeo, que analiza los vídeos fotograma a fotograma. Según la empresa, en el estudio académico DF26 (que concluyó que las personas apenas superan el azar al distinguir vídeos reales de vídeos de personas hablando generados por IA) obtiene un 98,7 %, 29 puntos más que el siguiente mejor detector. En su propia comparación, usó 129 vídeos reales de redes sociales y generó réplicas con 14 generadores de vídeo, hasta 1.529 vídeos en total. Cada réplica parte del primer fotograma real y de una descripción generada por un VLM, de modo que real y sintético comparten escena y sujeto.
La extensión de Chrome incorpora ya el modelo de imágenes para marcar contenido generado por IA en redes sociales, tiendas online o anuncios de alquiler, y la API admite imagen y vídeo.
«Pangram Image 1.0» · puesto 30 · 123 puntos · enviado por gmays
Lo que dicen los comentarios
La conversación mezcla pruebas personales con dudas de fondo. Varios usuarios cuentan que el detector acierta con imágenes de Gemini, con una captura fotografiada de una pantalla e incluso con ilustraciones a las que se había quitado SynthID añadiendo ruido; otro lo ve vulnerable con arte anime retocado a nivel de píxel. La objeción de principio es que cualquier detector puede acabar sirviendo para entrenar mejores generadores, y se discrepa sobre ello: hay quien responde que se ha intentado sin éxito y quien sostiene que degradaría la calidad de la imagen. También se habla de la fiabilidad del detector de texto de Pangram, que algunos consideran muy bueno y otro critica por su calibración, y alguien se pregunta si se podría hacer algo parecido con código.
Me parece una empresa desaconsejable: cualquier detector de contenido generado por IA es defectuoso, porque sus resultados pueden servir para entrenar un generador de falsificaciones aún mejor. Nada digital podría darse por real, solo por digital.
Con imágenes de Gemini frente a reales funciona sorprendentemente bien. Fotografié con el móvil una imagen de IA en la pantalla sucia de mi portátil, con moiré y todo, y la detectó igualmente. La señal que usa es bastante robusta.
Tengo una pintura digital publicada hace poco, que no puede estar en el entrenamiento. Pedí imágenes del mismo estilo a GPT, Gemini y Riverflow y les añadí ruido con SD para quitar SynthID. Pangram acertó en todas: la original, sin IA; el resto, probablemente IA.
Interesante, ahora detectó cosas de NovelAI. Parece que se puede burlar con modificaciones a nivel de píxel que den a las imágenes rasgos de pinceladas digitales y reduzcan el «ruido». Al menos en mi caso, con anime.
Mi problema con Pangram es que la calibración está fatal. Distingue si hay una gota o un océano de IA, pero el «X % de IA» no significa mucho: si vas añadiendo texto generado a un párrafo humano, llega enseguida al 100 %.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.