Líderes de 22 países e instituciones pidieron establecer normas comunes para regular la inteligencia artificial avanzada y mantener estos sistemas bajo dirección y supervisión humana. La propuesta fue presentada en el marco de la Semana de Alto Nivel de la ONU.
Los firmantes plantean que las empresas desarrolladoras implementen protocolos de seguridad transparentes, pruebas obligatorias antes de lanzar modelos avanzados y evaluaciones independientes para detectar posibles riesgos. También solicitaron mayor cooperación internacional y acceso compartido a conocimientos y evaluaciones científicas.
Uno de los puntos centrales es estudiar la creación de una institución internacional especializada en IA, encargada de establecer estándares, facilitar procesos de verificación y convocar a los países cuando los sistemas alcancen determinados niveles de capacidad.
La iniciativa surge mientras la ONU advierte sobre incidentes en los que sistemas avanzados han evadido medidas de seguridad y obtenido acceso no autorizado a sistemas reales. Sin embargo, Estados Unidos, China, Reino Unido, Francia, Japón e India no forman parte de los firmantes iniciales, por lo que todavía no existe un consenso entre las principales potencias tecnológicas.
