OpenAI ha anunciado dos protecciones nuevas en ChatGPT: Lockdown Mode, un ajuste de seguridad opcional para usuarios de mayor riesgo, y etiquetas de Elevated Risk (Riesgo Elevado) para ciertas capacidades en ChatGPT, ChatGPT Atlas y Codex. Importa porque, a medida que estos sistemas asumen tareas más complejas y se conectan a la web y a aplicaciones, crece la exposición a ataques como la prompt injection, que buscan engañar al modelo para que revele información sensible. El dilema es claro: más conectividad y automatización puede significar más productividad, pero también más superficie de ataque y más dependencia de controles definidos por el proveedor. Más que el anuncio, lo relevante es el despliegue. ¿Quién decide qué se bloquea, qué se etiqueta como arriesgado y con qué transparencia se evalúa si realmente baja el riesgo?

Qué se anunció y cuál es el alcance real

OpenAI introduce Lockdown Mode en ChatGPT como un advanced, optional security setting orientado a un small set de usuarios highly security-conscious, como ejecutivos o equipos de seguridad. Según el texto, el modo tightly constrains la interacción con sistemas externos y deterministically disables ciertas herramientas y capacidades que podrían facilitar exfiltración de datos mediante prompt injection. Además, estandariza etiquetas de Elevated Risk para una short list of existing capabilities en ChatGPT, ChatGPT Atlas y Codex. No se especifica qué capacidades exactas integran esa lista en todos los productos, ni los criterios concretos para asignar o retirar la etiqueta, más allá de una intención general de actualizarla con el tiempo.

Para qué sirve en la práctica

El caso de uso principal es reducir el riesgo de que un atacante extraiga datos de conversaciones o aplicaciones conectadas mediante instrucciones maliciosas. El texto aporta ejemplos concretos: (1) en Lockdown Mode, la navegación web se limita a contenido en caché, de forma que no salen peticiones de red en vivo fuera de la red controlada por OpenAI, buscando evitar exfiltración a través del navegador. (2) Se desactivan por completo algunas funciones cuando OpenAI no puede ofrecer strong deterministic guarantees de seguridad de datos. (3) En Codex, se indica que los desarrolladores pueden otorgar acceso a red para acciones en la web (por ejemplo, buscar documentación) y que esa configuración llevará la etiqueta de Riesgo Elevado con explicación de cambios, riesgos y cuándo sería apropiado.

Qué riesgos abre si se despliega mal

El propio diseño introduce tensiones: para reducir riesgos, Lockdown Mode constriñe capacidades y desactiva funciones, lo que podría impactar en flujos críticos que dependen de aplicaciones; el texto reconoce esa dependencia al prometer controles granulares para administradores. También existe el riesgo de una seguridad percibida como total cuando el anuncio se centra en prompt injection y exfiltración, pero no detalla el rendimiento real, métricas o tasas de reducción de incidentes. En privacidad y vigilancia, la promesa de detailed visibility mediante la Compliance API Logs Platform podría mejorar control interno, pero también podría derivar en un uso intrusivo si no hay gobernanza clara; el texto no especifica políticas, límites ni salvaguardas de uso de esos registros.

Qué condiciones mínimas deberían exigirse

Primero, criterios verificables: si OpenAI va a retirar la etiqueta de Riesgo Elevado cuando la seguridad sufficiently mitigated lo permita, debería concretar qué métricas y umbrales usa; el texto no lo detalla. Segundo, gobernanza y auditoría: la disponibilidad para administradores (habilitar por roles, controles por aplicación y acción, y registros de cumplimiento) solo será útil si se acompaña de procesos internos, revisiones periódicas y responsabilidades definidas; nada de esto se especifica en la fuente. Tercero, continuidad operativa: si hay funciones deshabilitadas por falta de garantías deterministas, deberían existir alternativas documentadas y planes de excepción. Cuarto, control local: la granularidad prometida debe traducirse en configuraciones claras y auditables por Workspace Admins.

Conclusión

Lockdown Mode y las etiquetas de Riesgo Elevado apuntan a un problema real: la seguridad cambia cuando la IA se conecta a la web y a aplicaciones, y la prompt injection es un vector que el propio texto destaca. Será una mejora real si hay métricas públicas o al menos auditables sobre eficacia y si la gestión por roles, acciones y registros se acompaña de gobernanza interna y controles proporcionales. Será un riesgo si estas capas se convierten en una caja negra: restricciones que condicionan el uso y registros que aumentan vigilancia, sin transparencia suficiente sobre criterios, límites y resultados.

Fuente: OpenAI — https://openai.com/index/introducing-lockdown-mode-and-elevated-risk-labels-in-chatgpt

Nota editorial: Contenido generado y estructurado con apoyo de un editor de IA de PorqueIA.com.