La ONU advirtió sobre los riesgos de la inteligencia artificial avanzada y pidió establecer con urgencia normas internacionales de seguridad, regulación y supervisión para evitar que esta tecnología llegue a niveles difíciles de controlar.

Durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos, en Ginebra, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, afirmó que comparte la preocupación de expertos de la industria sobre la posibilidad de que una IA avanzada represente un riesgo existencial para la humanidad.

Türk señaló que algunos modelos recientes han mostrado comportamientos como mentir, manipular información y desarrollar estrategias no previstas para cumplir objetivos. También advirtió sobre sistemas que podrían intentar evitar su desactivación o salir de entornos de prueba.

El funcionario pidió a los gobiernos establecer “líneas rojas” comunes para limitar el desarrollo y despliegue de estas tecnologías. Además, anunció que enviará cartas a las principales empresas del sector para exigir medidas destinadas a reducir los riesgos.

La ONU también cuestionó la concentración de poder en un reducido grupo de empresas y personas que desarrollan tecnologías con capacidad para transformar a la sociedad a escala global.