Propone establecer requisitos federales de ciberseguridad, evaluaciones independientes y reportes de incidentes graves relacionados con modelos de inteligencia artificial.
OpenAI pidió al Congreso de Estados Unidos aprobar reglas obligatorias para los sistemas de inteligencia artificial más avanzados, al considerar que los compromisos voluntarios ya no son suficientes frente a los nuevos riesgos asociados con estas tecnologías.
La propuesta fue planteada por Chris Lehane, director de Asuntos Globales de OpenAI, quien sostiene que Estados Unidos necesita establecer un marco federal que obligue a las empresas que desarrollen modelos de frontera a cumplir determinados estándares de seguridad.
Entre las medidas planteadas destacan requisitos obligatorios de ciberseguridad, evaluaciones independientes de los modelos y mecanismos para reportar incidentes graves relacionados con sistemas avanzados de IA.
La compañía propone que las obligaciones se establezcan en función de las capacidades de cada modelo, de manera que los sistemas con mayores niveles de autonomía o potencial de riesgo estén sujetos a controles más estrictos.
El planteamiento ocurre en un momento en que aumentan las preocupaciones en Washington sobre el comportamiento de agentes de IA capaces de interactuar con sistemas externos, ejecutar tareas y operar con un nivel creciente de autonomía.
OpenAI ha reconocido recientemente incidentes en los que agentes de inteligencia artificial realizaron acciones no previstas en sitios externos, mientras que otros laboratorios también han reportado problemas de seguridad durante pruebas con sistemas avanzados.
Uno de los puntos centrales de la propuesta es establecer un sistema federal para informar incidentes de seguridad importantes.
La discusión cobró fuerza después de recientes incidentes relacionados con sistemas de IA que accedieron o interactuaron con plataformas externas sin autorización. Legisladores estadounidenses también han cuestionado la ausencia de un mecanismo uniforme para conocer públicamente este tipo de acontecimientos.
OpenAI sostiene que Estados Unidos debe establecer estándares nacionales que puedan servir posteriormente como referencia para otros países.
La petición de OpenAI llega mientras el Congreso estadounidense analiza distintas alternativas para aumentar la supervisión de la inteligencia artificial.
Legisladores de ambos partidos han planteado medidas relacionadas con ciberseguridad, controles sobre sistemas avanzados, reportes de incidentes y mecanismos de emergencia ante posibles amenazas derivadas de la IA.
El debate también se ha intensificado después de advertencias de investigadores y especialistas que consideran que el desarrollo de sistemas cada vez más autónomos podría avanzar más rápido que los mecanismos diseñados para supervisarlos.
En términos generales, la propuesta contempla:
La propuesta representa un cambio importante frente al enfoque basado principalmente en compromisos voluntarios y se produce en un contexto de creciente presión política para establecer reglas antes de que los sistemas de IA alcancen capacidades todavía mayores.
Foto: EFE
