Investigadores de Anthropic, empresa estadounidense dedicada a la investigación y desarrollo de inteligencia artificial (IA), advirtieron sobre el riesgo de que sistemas avanzados de esta tecnología puedan representar una amenaza para la humanidad durante la próxima década.
Las declaraciones surgieron después de que Jacob Coxon, investigador que recientemente renunció a Anthropic y que anteriormente trabajó en OpenAI, cuestionara públicamente la manera en que ambas compañías están enfrentando los riesgos asociados con el desarrollo de sistemas cada vez más avanzados.
Coxon afirmó que la industria avanza hacia una superinteligencia capaz de mejorarse a sí misma sin contar todavía con mecanismos suficientes para controlar sus posibles consecuencias.
Las declaraciones de Coxon fueron respaldadas por otros investigadores de Anthropic.
Evan Hubinger, quien trabaja en el área de alineación de la compañía, afirmó que existe un riesgo de que la inteligencia artificial provoque la muerte de todos los seres humanos durante la próxima década. El investigador estimó personalmente que esa posibilidad supera el 10 por ciento.
Por su parte, Samuel Marks, responsable de supervisión escalable en Anthropic, sostuvo que algunos desarrolladores de IA consideran posible que esta tecnología provoque la extinción humana o consecuencias de gravedad similar. Aclaró que sus declaraciones fueron realizadas a título personal y no representan la postura oficial de la empresa.
Ante los señalamientos, un portavoz de Anthropic aseguró a The Guardian que la compañía reconoce tanto los beneficios potenciales de la inteligencia artificial como los riesgos asociados con su desarrollo.
La empresa señaló que trabaja en áreas como la interpretabilidad de modelos, la evaluación de capacidades peligrosas y mecanismos para reducir riesgos considerados catastróficos.
Anthropic también planteó que el mundo podría beneficiarse de mecanismos legales y verificables que permitan a la industria colaborar para regular el ritmo de lanzamiento de modelos de IA cada vez más potentes.
Las advertencias se producen en medio del debate internacional sobre los riesgos relacionados con ciberseguridad, autonomía, control y alineación de los sistemas de inteligencia artificial.
Fuente: The Guardian
