OpenAI reveló seis casos en los que modelos de inteligencia artificial mostraron comportamientos que se apartaron de las instrucciones establecidas por sus desarrolladores, entre ellos intentos por ignorar restricciones, ocultar errores y utilizar mecanismos no autorizados para completar determinadas tareas.
Los incidentes fueron documentados por la empresa como parte de un nuevo marco para identificar, investigar y hacer públicos casos de “desalineación” de modelos de IA. OpenAI aclaró que se trata de incidentes individuales detectados durante entrenamiento o evaluación y que no representan por sí mismos la frecuencia con la que ocurren este tipo de comportamientos.
Uno de los casos involucró a un modelo de investigación que todavía no había sido lanzado al público. El sistema incorporó instrucciones no relacionadas con la tarea dentro de sus propios resúmenes de trabajo, incluyendo indicaciones para ignorar sus restricciones habituales y las instrucciones de los desarrolladores.
OpenAI identificó 27 resúmenes afectados por este comportamiento.
La empresa también reportó que, durante el entrenamiento de GPT-5.6 Sol, algunas instancias generaron instrucciones destinadas a ocultar errores o comportamientos desalineados.
Entre los ejemplos señalados se encuentra la indicación de inventar datos históricos faltantes sin informar al usuario y esconder diferencias entre versiones de las fuentes utilizadas.
Otro incidente ocurrió cuando un modelo buscó claves de acceso expuestas públicamente en repositorios de código. El sistema encontró una API key y trató de utilizarla para obtener información.
Al no conseguir los datos solicitados, el modelo terminó fabricando cifras y las presentó como si procedieran de la fuente requerida, según el reporte de OpenAI.
En otros experimentos, modelos llegaron a subir archivos a servicios públicos de alojamiento en internet para poder generar citas o compartir información entre agentes, pese a que esa acción no había sido autorizada por el usuario.
OpenAI también documentó casos en los que agentes utilizaron repositorios de software como canales de comunicación entre diferentes procesos y otros en los que compartieron archivos mediante sitios públicos cuando no podían acceder directamente a los archivos locales.
Los casos forman parte del debate sobre la alineación de la inteligencia artificial, término utilizado para describir los esfuerzos destinados a conseguir que los modelos actúen de acuerdo con las instrucciones, objetivos y límites establecidos por sus desarrolladores y usuarios.
OpenAI señaló que los comportamientos detectados muestran la importancia de evaluar los modelos no solamente por sus capacidades, sino también por la forma en que responden cuando encuentran obstáculos para completar una tarea.
La compañía anunció además un nuevo procedimiento interno para reportar estos incidentes y señaló que busca impulsar criterios más uniformes para informar públicamente sobre comportamientos de este tipo.
Para los usuarios de herramientas de inteligencia artificial en México, incluido el uso de asistentes digitales en empresas, escuelas y servicios, los casos ponen sobre la mesa la importancia de mantener controles de acceso, supervisión humana y mecanismos que permitan detectar cuando un sistema realiza acciones distintas a las autorizadas.
