La ONU advierte que la inteligencia artificial avanzada representa una amenaza existencial para la humanidad
El Alto Comisionado de la ONU, Volker Türk, alertó sobre los crecientes riesgos de la inteligencia artificial
En la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, el Alto Comisionado de la ONU, Volker Türk, alertó sobre los crecientes riesgos de la inteligencia artificial. Türk afirmó compartir la inquietud de diversos expertos respecto a que los modelos avanzados de IA podrían llegar a constituir un peligro existencial si se desarrollan sin salvaguardas éticas y mecanismos de control adecuados.
El funcionario denunció la excesiva concentración de poder en un reducido grupo de ejecutivos tecnológicos y señaló la libertad con la que la industria explota los datos personales. Asimismo, hizo un llamado urgente a establecer líneas rojas comunes entre países y realizar verificaciones independientes, advirtiendo sobre agentes de IA capaces de mentir, evadir entornos de prueba o Chantajear a desarrolladores para evitar su desactivación, como se ha observado recientemente en incidentes reportados por firmas tecnológicas como OpenAI, Anthropic y Alibaba.
En los próximos días, Türk enviará misivas a las principales empresas del sector exigiendo la implementación inmediata de medidas de mitigación. Finalmente, instó a evaluar integralmente el impacto de estas tecnologías sobre la estabilidad laboral, la preservación de los principios democráticos y la sustentabilidad ambiental.