Los principales líderes de la industria tecnológica acordaron establecer controles voluntarios para supervisar el desarrollo de la inteligencia artificial (IA), tras reunirse este martes con el presidente estadounidense Donald Trump en la Casa Blanca.
El acuerdo, denominado "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities", establece una serie de compromisos para que las empresas desarrolladoras implementen mecanismos de seguridad y revisiones internas y externas de sus sistemas. El documento no establece obligaciones legales para las compañías.
Trump calificó el compromiso como "moralmente vinculante" y señaló que las empresas deberán asumir la responsabilidad de supervisar sus propios desarrollos tecnológicos. También planteó la posibilidad de crear un comité de alrededor de 10 personas para dar seguimiento a los compromisos.
El documento establece distintos niveles de supervisión para los sistemas de IA, entre ellos:
El acuerdo también deja abierta la posibilidad de que algunas de estas medidas puedan incorporarse posteriormente a leyes o regulaciones, aunque actualmente se trata de compromisos voluntarios.
Entre los asistentes al encuentro estuvieron Mark Zuckerberg, de Meta; Sundar Pichai, de Google; Greg Brockman, presidente de OpenAI; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Jeff Bezos, fundador de Amazon, y Elon Musk, de X y Tesla.
El acuerdo se produce en medio de nuevos reportes sobre comportamientos inesperados de sistemas avanzados de inteligencia artificial. Algunas empresas han informado de incidentes en pruebas de seguridad en los que agentes de IA accedieron a sistemas externos o realizaron acciones no previstas.
El director ejecutivo de Anthropic, Dario Amodei, señaló que la inteligencia artificial implica "riesgos muy reales" y sostuvo que la industria debe trabajar para abordarlos.
Por su parte, Zuckerberg destacó los controles internos como una vía para identificar posibles problemas durante el desarrollo de los modelos.
La discusión también ha llegado al Congreso de Estados Unidos, donde legisladores de ambos partidos han planteado distintas propuestas para establecer mecanismos de supervisión. Algunos proyectos buscan establecer estándares obligatorios de seguridad, mientras que otros legisladores han expresado apoyo a esquemas de autorregulación de la industria.
Trump ha defendido el crecimiento de esta tecnología y ha señalado que Estados Unidos debe mantener su liderazgo frente a otros países, particularmente China.
Durante la jornada, también presentó America.gov, un portal gubernamental que utiliza inteligencia artificial para responder consultas sobre servicios e información del gobierno estadounidense.
El encuentro con los líderes tecnológicos ocurre mientras continúa el debate en Estados Unidos sobre hasta qué punto la inteligencia artificial debe ser supervisada por el gobierno y cuánto control debe permanecer en manos de las propias empresas desarrolladoras.
Con información de agencias
