OpenAI sostiene que, a medida que sus modelos son más capaces y actúan con más consecuencias en el mundo, no basta con que interpreten las instrucciones al pie de la letra: deben entender las intenciones y los valores humanos para juzgar bien en situaciones que las instrucciones no prevén. La nueva versión del Spec se estructura en cinco valores: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, fomento de la autonomía humana y cuidado.
La fidelidad a la intención es el cimiento. Implica entender lo que quieren y valoran OpenAI, los desarrolladores y los usuarios, y actuar con prudencia cuando esa comprensión es incompleta, sin dirigir a la gente a escondidas ni anular sus decisiones. OpenAI pone el ejemplo de alguien que compara ofertas de trabajo: el modelo puede apoyarse en prioridades que esa persona ya expresó, como tener un horario previsible, pero haciendo visibles esas suposiciones y fáciles de corregir. El Spec combina límites firmes con valores por defecto que usuarios y desarrolladores pueden modificar.
Entre las novedades figura una nueva sección sobre fidelidad a la intención humana, que incorpora una cadena de mando actualizada para decidir qué instrucciones se aplican y cómo se resuelven los conflictos. También hay una subsección sobre cómo considerar el contexto (conversaciones, memorias y otras pistas), nuevos valores por defecto sobre apoyo a la autonomía y normas sociales, y más orientación sobre el control y la comunicación de efectos secundarios. Esta parte se apoya en el enfoque de los «assistance games» para el alineamiento.
Se retira la mayor parte de la guía de estilo detallada, porque el estilo debería adaptarse a las preferencias de cada persona, idioma y cultura. Se mantienen valores por defecto más firmes, como abordar las preguntas con objetividad: el modelo puede adoptar una perspectiva si se le pide, pero no debe deducirla de lo que cree que el usuario quiere oír. Además, el Spec pasa a llamar «GPT» al modelo, en lugar de «el asistente».
OpenAI admite que el Spec describe el comportamiento al que aspira y que sus modelos todavía no lo reflejan del todo. Además, explora nuevos métodos de entrenamiento para que los modelos aprendan estos valores y entiendan por qué importan los principios, y promete compartir resultados. La compañía pide opiniones sobre qué partes del documento convencen, dónde discrepan los lectores del equilibrio que plantea y qué pasa por alto.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.