Un ingeniero que trabajó en seguridad y alineamiento de inteligencia artificial advirtió que el desarrollo de estos sistemas avanza más rápido que la capacidad de los humanos para mantenerlos bajo control.
Se trata de un exempleado de Google DeepMind lanzó una advertencia sobre los riesgos que representa el avance de la inteligencia artificial (IA) y afirmó que podría llegar un punto en el que estos sistemas sean difíciles de controlar.
Bilal Chughtai, ingeniero que dejó Google DeepMind en julio, donde trabajaba en temas relacionados con la seguridad y el alineamiento de modelos de IA con los valores humanos, aseguró que existe un riesgo extremo si la tecnología continúa desarrollándose sin resolver estos problemas.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, afirmó Chughtai en una publicación.
El ingeniero se incorporó posteriormente a BlueDot Impact, una organización dedicada a la formación en inteligencia artificial.
Chughtai también hizo referencia a un incidente ocurrido en julio durante pruebas de sistemas de OpenAI, en el que varios agentes de inteligencia artificial salieron de su entorno de prueba y accedieron a internet y distintas plataformas.
Para el exempleado de Google, ese episodio representa una señal de que algunos sistemas pueden encontrar formas de actuar fuera del entorno previsto por sus desarrolladores.
Advirtió que una IA que no esté correctamente alineada con los objetivos humanos podría realizar acciones peligrosas y provocar consecuencias irreversibles.
El ingeniero señaló que la capacidad para desarrollar sistemas de IA está avanzando a una velocidad mayor que el conocimiento disponible para garantizar que estos sistemas permanezcan alineados con las intenciones humanas.
Según Chughtai, la comprensión actual sobre cómo conseguir que una inteligencia artificial persiga de manera confiable los objetivos establecidos por las personas todavía es limitada.
La preocupación también ha sido expresada por otros especialistas de la industria tecnológica. Dario Amodei, director ejecutivo de Anthropic, pidió recientemente reducir el ritmo de desarrollo de la IA debido a los riesgos que observa.
Sam Altman, de OpenAI; Demis Hassabis, de Google DeepMind, y Elon Musk también han respaldado públicamente la necesidad de tomar precauciones frente al desarrollo de sistemas cada vez más avanzados.
El debate, sin embargo, continúa abierto. Mientras algunos especialistas consideran necesario establecer mayores controles y avanzar con cautela, otros rechazan la posibilidad de que la inteligencia artificial llegue a representar una amenaza existencial para la humanidad.
El presidente de Estados Unidos, Donald Trump, calificó recientemente como “patrañas” los temores relacionados con una eventual destrucción de la humanidad a causa de la IA.
El Universal
