GPT-5: Vulnerabilidades y riesgos tras su lanzamiento

El esperado lanzamiento de GPT-5 ha venido acompañado por un revuelo en la comunidad de ciberseguridad. En las primeras 24 horas, equipos de “red teaming” y expertos lograron vulnerar el modelo con técnicas sofisticadas e inéditas, dejando en evidencia que los modelos de inteligencia artificial avanzados aún presentan importantes brechas de seguridad.

¿Cómo fue hackeado GPT-5 en 24 horas?

• Diversos equipos lograron realizar jailbreaks y ataques de manipulación de contexto (prompt injection), sorteando las defensas integradas por OpenAI en tiempo récord.

• Destacan ataques narrativos, donde los hackers guiaron al modelo con historias ficticias para obtener respuestas prohibidas, evitando los filtros de seguridad disparados por los prompts explícitos.

• Técnicas de obfuscación, como “StringJoin”, permitieron descifrar información sensible introduciendo guiones entre letras, burlando los sistemas clásicos de protección.

• La integración de GPT-5 con sistemas externos (Drive, Jira, Copilot Studio) abrió la puerta a prompt injections y ataques de cero clic, donde documentos o tickets especiales inducen acciones no deseadas sin interacción directa del usuario.

Principales vulnerabilidades detectadas

• Persistencia del contexto: GPT-5 mantiene un histórico extendido de la conversación y puede ser “envenenado” para derivar en temas sensibles de manera encadenada.

• Deficiencia en el filtrado de contexto de múltiples turnos: Los sistemas analizan los prompts aisladamente, facilitando ataques que aprovechan la continuidad.

• Jailbreak narrativo: Los atacantes construyen historias que direccionan al modelo para que revele información prohibida.

• Obfuscación de prompts: El modelo se ve obligado a tratar los ataques como si fueran retos de descifrado.

Recomendaciones para empresas y entornos críticos

• El consenso entre los expertos es claro: no se recomienda emplear GPT-5 “en crudo” para entornos empresariales o críticos ni siquiera con los filtros incluidos de OpenAI.

• Es imprescindible realizar red teaming regular, hardening avanzado y simulaciones de ataques antes de cualquier despliegue productivo.

• Modelos anteriores como GPT-4o, debidamente protegidos, se consideran hoy más resistentes a estos tipos de ataques, aunque las vulnerabilidades siguen siendo relevantes en todos los LLMs avanzados.

Conclusión: El éxito de los atacantes al vulnerar GPT-5 en menos de 24 horas evidencia la necesidad de abordar la seguridad de IA como un reto continuo y multidisciplinar. Toda organización que quiera beneficiarse de la inteligencia artificial debe invertir en protección activa, simulaciones de ataque y desarrollo de capas defensivas a medida.

¿Qué opinas sobre la seguridad de los LLMs en la empresa? ¿Ya estás aplicando pruebas de red teaming o protección activa en tu organización?

* Post basado en resultados publicados y análisis técnico de expertos en ciberseguridad tras el lanzamiento oficial de GPT-5 en agosto de 2025.