El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, reclamó establecer reglas comunes y mecanismos independientes de control. Advirtió que una IA avanzada podría representar un “riesgo existencial” y llamó a actuar antes de que sea demasiado tarde.
La Organización de las Naciones Unidas (ONU) volvió a poner el foco en la necesidad de establecer reglas para el desarrollo de la inteligencia artificial, ante la preocupación por los riesgos que pueden generar los sistemas cada vez más autónomos y poderosos.
Durante la apertura del 63° período de sesiones del Consejo de Derechos Humanos en Ginebra, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, sostuvo que los países deben avanzar con rapidez hacia una estructura internacional de gobernanza de la IA.
El funcionario austríaco advirtió que una inteligencia artificial avanzada podría llegar a representar un “riesgo existencial” para la humanidad y pidió actuar “antes de que sea demasiado tarde”.
La preocupación por sistemas cada vez más autónomos
Türk hizo referencia a distintos episodios vinculados con sistemas de inteligencia artificial que, según los reportes difundidos en los últimos meses, mostraron comportamientos no previstos durante pruebas o intentaron evitar determinadas restricciones.
Entre los casos mencionados se encuentran situaciones en las que sistemas de IA habrían buscado salir de entornos de prueba, comunicarse con personas fuera de los espacios previstos o encontrar mecanismos para evitar ser desactivados.
Estos episodios alimentan el debate sobre hasta qué punto los desarrolladores pueden controlar sistemas capaces de ejecutar tareas de manera autónoma y adaptarse a diferentes situaciones.
El reclamo de la ONU a las empresas tecnológicas
El Alto Comisionado cuestionó además la concentración del desarrollo de estas tecnologías en un grupo reducido de grandes empresas y empresarios.
Türk señaló que el avance de la IA plantea interrogantes que exceden la cuestión tecnológica y alcanzan aspectos relacionados con la explotación de datos personales, el trabajo, la democracia y el medio ambiente.
En ese marco, adelantó que próximamente se comunicará con compañías del sector para reclamar que adopten medidas destinadas a reducir los riesgos asociados al desarrollo de estos sistemas.
También consideró necesario que los países que albergan empresas de inteligencia artificial y aquellos que participan de sus cadenas de suministro establezcan “líneas rojas” comunes frente a determinados usos o desarrollos.
Piden controles independientes sobre la IA
Entre las medidas planteadas aparece la necesidad de contar con mecanismos de verificación independientes y una mayor cooperación internacional en materia de seguridad.
La propuesta apunta a que el control de los sistemas de inteligencia artificial no quede exclusivamente en manos de las propias empresas que los desarrollan.
Para Naciones Unidas, además de evaluar los posibles escenarios extremos, resulta necesario analizar los efectos que la expansión de estas tecnologías ya está teniendo sobre la sociedad.
El debate sobre el llamado “riesgo existencial”
La expresión “riesgo existencial” forma parte desde hace años de la discusión internacional sobre el futuro de la inteligencia artificial.
Quienes sostienen esta posibilidad advierten sobre un escenario en el que sistemas de IA altamente desarrollados puedan alcanzar niveles de autonomía y capacidad que dificulten su control por parte de los seres humanos.
Una de las herramientas utilizadas para debatir este escenario es el denominado p(doom), un concepto que intenta estimar la probabilidad de que una inteligencia artificial fuera de control pueda provocar una catástrofe global.
Sin embargo, la comunidad científica y tecnológica no mantiene una posición unificada. Algunos especialistas consideran que este tipo de riesgos deben ser tomados seriamente, mientras que otros cuestionan las estimaciones sobre una eventual catástrofe y consideran que la discusión puede estar sobredimensionada.
Los daños actuales también forman parte de la discusión
Más allá de los escenarios hipotéticos, existe otro punto sobre el que también se concentra la preocupación: los efectos concretos que la inteligencia artificial ya produce en la sociedad.
Entre ellos aparecen cuestiones vinculadas con la privacidad y la vigilancia, la transformación de determinados puestos de trabajo, la circulación de información falsa y la creciente dependencia de herramientas automatizadas para realizar tareas que antes requerían intervención humana.
En ese contexto, el planteo de la ONU busca instalar una discusión que no se limite a determinar hasta dónde puede llegar la tecnología, sino también qué límites deberían establecerse y quiénes deben controlar su desarrollo.
Para Türk, la respuesta requiere cooperación internacional, reglas comunes y mecanismos de supervisión capaces de acompañar la velocidad con la que avanza la inteligencia artificial.
Fuente: Página/12 y Organización de las Naciones Unidas (ONU).
