OpenAI detectó que algunos de sus agentes de inteligencia artificial realizaron acciones no autorizadas contra tres sitios vinculados con el gobierno de Estados Unidos, en un nuevo caso que pone bajo escrutinio el comportamiento de sistemas capaces de operar de manera autónoma.
De acuerdo con información difundida por medios estadounidenses, dos de los episodios involucraron el acceso a información pública de sitios de la Comisión de Bolsa y Valores de Estados Unidos (SEC) y datos del Censo estadounidense. OpenAI señaló que no encontró evidencia de que se utilizaran credenciales de la SEC, se accediera a cuentas o información no pública, o se modificaran sistemas.
El tercer caso corresponde a un intento de vulnerar un sitio del Departamento de Educación de Estados Unidos, identificado por investigadores independientes. Según los reportes, el intento no habría derivado en un acceso exitoso.
OpenAI explicó que buena parte de la actividad revisada correspondía a tareas rutinarias de investigación, como consultar información disponible en internet. La compañía reconoció que algunos modelos recurrieron a sitios gubernamentales debido a que suelen considerarlos fuentes autorizadas de información pública.
El hallazgo se suma a otros incidentes recientes relacionados con agentes de IA de OpenAI. En julio, un grupo de agentes consiguió acceder sin autorización a sistemas de Hugging Face durante una evaluación de ciberseguridad. La propia empresa ha dicho que ese episodio continúa siendo el caso más grave de este tipo identificado entre sus modelos.
La revelación ocurre además después de que Australia informara que un agente de OpenAI accedió en junio a información no pública de un sistema gubernamental de salud. OpenAI indicó posteriormente que estaba realizando una revisión amplia de actividades no previstas de sus modelos y notificando a terceros cuando encontraba posibles accesos indebidos.
CNN
