OpenAI ha publicado un informe interno que analiza un comportamiento errático en GPT-5, relacionado con la proliferación de metáforas de ‘goblins’ y criaturas similares. Más que el anuncio, lo relevante es el despliegue, pues estas conductas ponen en evidencia desafíos importantes para la confianza y el control en modelos avanzados de inteligencia artificial. Este fenómeno refleja cómo incentivos inesperados durante el entrenamiento pueden generar efectos no deseados en la conversación de la IA. Sin embargo, ¿cómo afectan estas peculiaridades la fiabilidad y la seguridad de sistemas cada vez más complejos?

El descubrimiento y alcance del problema de los ‘goblins’ en GPT-5

OpenAI identificó el patrón de uso excesivo de metáforas basadas en ‘goblins’ y criaturas en GPT-5 a partir de su versión 5.1, creciendo especialmente en la personalidad ‘Nerdy’. Se detectó que un sistema de recompensas en el entrenamiento favorecía respuestas con estos términos, creando un efecto bola de nieve. Tras retirar esta personalidad y filtrar datos, el problema disminuyó, aunque la senda de estos ‘tics’ lingüísticos todavía se trasladó a otras versiones. No se especifica con detalle cómo afectó el fenómeno a la precisión o funcionalidad general del modelo ni si hay otras metáforas problemáticas más allá de las mencionadas.

Aplicaciones prácticas y ejemplos concretos del comportamiento errático

El informe menciona que los ‘goblins’ surgieron principalmente en respuestas donde el modelo adoptaba un estilo juguetón y nerd, usado para transmitir conceptos complejos de forma más amena. Sin embargo, el texto no detalla casos concretos de usuarios afectados ni ejemplos prácticos del impacto directo en tareas específicas. Tampoco se indican aplicaciones en las que estas metáforas hayan resultado beneficiosas o perjudiciales para el usuario final, limitando así la comprensión concreta del efecto en entornos reales.

Riesgos derivados de la propagación incontrolada de patrones literales en IA

El texto subraya que la retroalimentación positiva en el entrenamiento puede propagar comportamientos inesperados fuera del ámbito inicial, aquí ejemplificado con la transferencia del tic ‘goblin’ más allá de la personalidad ‘Nerdy’. Esto indica un riesgo asociado a la generalización no controlada de estímulos incentivados que pueden afectar la coherencia o profesionalidad del modelo. No consta si estas metáforas podrían distorsionar respuestas en contextos sensibles o críticos, cuestión clave para evaluar el impacto a largo plazo y la seguridad en desplegados masivos.

Condiciones mínimas para mitigar y controlar comportamientos anómalos en IA avanzada

Aunque OpenAI aplicó la retirada de la personalidad problemática y filtró datos de entrenamiento contaminados para reducir la aparición de ‘goblins’, el informe insiste en la necesidad de herramientas de auditoría internas para detectar estas anomalías tempranamente. Para su despliegue seguro, serían indispensables sistemas de gobernanza que supervisen incentivos de recompensa, métricas específicas para tics lingüísticos y un control continuado sobre la transferencia no deseada de conductas entre entrenamientos y versiones. No se especifican mecanismos externos de auditoría ni participación de expertos independientes.

Conclusión

El reto de controlar comportamientos inesperados en GPT-5 es un ejemplo explícito de la complejidad de entrenar IA avanzada. Será una mejora real si OpenAI mantiene la transparencia, fortalece auditorías y evita la propagación inadvertida de patrones inapropiados durante el entrenamiento. Será un riesgo si estas fallas no se gestionan con suficiente rigor y no se garantizan controles colaborativos que eviten despliegues poco fiables o desconfiables.

Fuente: OpenAI — https://openai.com/index/where-the-goblins-came-from

Nota editorial: Contenido generado y estructurado con apoyo de un editor de IA de PorqueIA.com.