OpenAI publica el anexo de seguridad de GPT-Rosalind-6, un modelo para investigación en ciencias de la vida que usa los mismos pesos que GPT-6 Astra, sin datos de entrenamiento ni posentrenamiento adicionales. Se despliega solo con acceso de confianza y se clasifica como capacidad High en riesgo biológico y químico.
Foto: vía deploymentsafety.openai.com
1 medio · MadridPublicada 2 nov, 17:45Actualizada 2 nov, 18:55· Ya no está en portadaEscrita por IA · cómo funciona
El documento explica que GPT-Rosalind-6 comparte pesos con GPT-6 Astra, el modelo de razonamiento de referencia de OpenAI. No se han añadido datos de entrenamiento ni se ha hecho posentrenamiento adicional para esta versión; los detalles del modelo base están en la system card de GPT-6 Astra.
En genómica y biología cuantitativa, el benchmark GeneBench Pro v13 mide si un agente sabe planificar y ejecutar análisis cuantitativos de datos biológicos. Con el mayor presupuesto de razonamiento probado, la tasa de éxito en un solo intento fue del 37,7 % para GPT-Rosalind-6, frente al 16,7 % de GPT-Rosalind-5.5. OpenAI aclara que la evaluación usó una configuración específica que difiere de la de producción.
En el apartado biológico y químico, OpenAI trata este lanzamiento como de capacidad High, igual que hizo con GPT-6 Astra. Usa las cuatro evaluaciones de capacidad High (conocimiento y resolución de problemas de laboratorio) y las cuatro de capacidad Critical (diseño biológico que podría ayudar a un experto a desarrollar una amenaza nueva y muy peligrosa) de la system card de Astra. Las de proteínas y diseño de secuencias de ADN de GPT-Rosalind-5.5 se han retirado. Los umbrales Critical son estimaciones preliminares basadas en juicio experto y pueden cambiar. En las puntuaciones de las evaluaciones High se ajustan las negativas a responder como si fueran respuestas correctas, para estimar una capacidad que el entrenamiento de seguridad podría ocultar.
En salvaguardas, el modelo está pensado para ser más útil que los modelos de ChatGPT de acceso general en investigación biológica avanzada, incluidos algunos temas de doble uso que GPT-6 Astra puede rechazar. Se sigue entrenando para rechazar o responder con seguridad ante peticiones que facilitarían de forma significativa un arma biológica; ese entrenamiento es independiente del de los clasificadores y las mitigaciones offline, para descorrelacionar las protecciones. Al ser un despliegue de acceso de confianza, OpenAI se fija sobre todo en el benchmark Biosecurity - Severe. Los clientes aprobados deben mantener controles de identidad, acceso y administración, con mínimo privilegio y retirada del acceso a quien ya no lo necesite.
«GPT-Rosalind-6 System Card Addendum» · puesto 30 · 58 puntos · enviado por gmays
Lo que dicen los comentarios
Buena parte de la conversación gira en torno a los nombres y a la relación entre modelos: si Rosalind-6 tiene los mismos pesos que Astra, algunos preguntan qué lo distingue, y otros comentan si Sol-6.1 supera a Astra y por qué. Se discute también si es legítimo que una empresa decida quién accede al modelo, con réplicas que apelan a la regulación y al derecho de un vendedor a rechazar clientes. Hay escepticismo sobre el valor real de la IA en descubrimiento de fármacos, rebatido con ejemplos de usos prácticos en investigación. Un hilo lateral compara el comportamiento de Astra, Sol y Claude en tareas de planificación.
¿En qué se diferencia entonces de Astra, si son los mismos pesos y no se ha hecho ningún otro entrenamiento? ¿Han empaquetado básicamente un system prompt?
Supongo que Astra es el modelo más grande en parámetros y el de más potencia intelectual. Pero Sol-6.1 está más ajustado a las instrucciones para el uso medio, así que rinde mejor en benchmarks y se siente mejor.
Que yo sepa, el aprendizaje automático no era el cuello de botella del descubrimiento de fármacos. No quiero que los investigadores deleguen su pensamiento en un modelo especializado; solo permite hacer trabajo menos novedoso y de menor calidad, más rápido.
Para mí no es un problema resuelto, y la IA sigue ayudando: redactar solicitudes de financiación, encontrar fallos, proponer planes, buscar investigación reciente, escribir código de análisis o controlar microscopios y máquinas.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.