Por Redacción
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, reclamó a los Estados que establezcan reglas para controlar el desarrollo de los sistemas más avanzados de Inteligencia Artificial y sostuvo que las empresas tecnológicas no pueden definir por sí solas los límites de una tecnología que puede afectar servicios esenciales, infraestructuras críticas, derechos humanos e instituciones democráticas. La advertencia se produjo durante la apertura del cuarto foro mundial de la UNESCO sobre la ética de la inteligencia artificial, que se desarrolla en Riad, Arabia Saudita, hasta el 17 de septiembre.
La advertencia estuvo centrada en particular en la denominada IA “agéntica”, capaz de actuar de manera autónoma para cumplir tareas y alcanzar objetivos. Türk advirtió que “los fallos que impliquen sistemas de IA agéntica podrían paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas”. El funcionario de Naciones Unidas agregó que “poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros”.
A la vez, sostuvo que la Inteligencia Artificial ya interviene en los conflictos armados y puede incrementar la magnitud de esas confrontaciones mientras reduce las salvaguardias destinadas a impedir el lanzamiento de armas de destrucción masiva. En esa línea, aseguró que “estamos en el umbral de un cambio irreversible, que nos afectará no solo a nosotros mismos, sino también a las generaciones futuras”, declaró. Remarcó que todos los derechos humanos se encuentran amenazados, incluido el derecho a la vida.
El encuentro reúne a gobiernos, investigadores, empresas, organizaciones internacionales y representantes de la sociedad civil con el objetivo de avanzar desde los principios éticos hacia reglas concretas para el desarrollo de esta tecnología. En este marco, el planteo de la ONU no se limitó a los riesgos futuros. Türk señaló que “los perjuicios relacionados con la IA no son hipotéticos: ya se están produciendo, a la vista de todos”.
La automatización de servicios esenciales puede perjudicar a poblaciones marginadas, la explotación masiva de datos personales, las tecnologías de vigilancia y las campañas de desinformación. Para el organismo, estos usos representan amenazas para las libertades individuales, la cohesión social y las instituciones democráticas. La preocupación por el ritmo de desarrollo de esta tecnología alcanzó incluso a los responsables de las empresas que producen algunos de los modelos más avanzados.
Dario Amodei, responsable de Anthropic, planteó la necesidad de ralentizar los avances para disponer de mayor tiempo para comprender y controlar los riesgos asociados con las nuevas capacidades de estos sistemas, que, sin salvaguardas suficientes, podrían representar un peligro extremo. Frente a este escenario, Türk reclamó una intervención coordinada de los Estados y las empresas en el ámbito internacional. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos instó a “los Estados y las empresas a movilizarse con urgencia en el marco de instancias multilaterales para definir una vía de acción destinada” a encuadrar los modelos de inteligencia artificial de vanguardia.
El funcionario precisó las empresas cuentan con los medios y la responsabilidad necesarios para actuar, pero no pueden establecer por sí solas los límites de una tecnología cuyas consecuencias exceden ampliamente a sus usuarios y accionistas. Por eso, reclamó que los gobiernos establezcan obligaciones y mecanismos para exigir responsabilidades ante posibles incumplimientos. Entre las medidas planteadas incluyó una verificación independiente de las capacidades de los agentes de inteligencia artificial. Esa evaluación debería quedar en manos de expertos con competencias técnicas y acceso a los modelos, su documentación y sus entornos de prueba.
El funcionario reclamó que las empresas evalúen de manera permanente las consecuencias de sus productos sobre los derechos humanos y demandó que regulación no puede quedar limitada a las fronteras nacionales porque la inteligencia artificial se desarrolla y despliega a escala mundial. Manifestó que ningún país puede encuadrar por sí solo una tecnología de alcance global y que ninguna empresa debería determinar unilateralmente el nivel de riesgo que deberá aceptar el resto de la sociedad.
“Nadie debería verse obligado a renunciar a sus derechos humanos en nombre de un supuesto progreso tecnológico”, insistió Türk. El Alto Comisionado trasladó la discusión desde las capacidades técnicas de la Inteligencia Artificial hacia las decisiones políticas que definirán sus límites, los riesgos considerados aceptables y las condiciones para desplegar determinadas capacidades. Las decisiones adoptadas en el presente pueden resultar difíciles de revertir y sus consecuencias alcanzarán a generaciones que no participaron de esas definiciones.
En tal escenario, remarcó que «la generación que hoy entra en la edad adulta heredará las consecuencias de las decisiones tomadas sobre esta cuestión sin haber tenido voz ni voto”. Por último, llamó a la comunidad internacional a “velar por que estas decisiones se tomen con total transparencia, con respeto a sus derechos y con la humildad que exige la magnitud de esta empresa”.
