La tecnología de Inteligencia Artificial (IA) “no puede dejarse únicamente a los caprichos de los mercados”; por el contrario, requiere una gobernanza global que proteja los derechos humanos y beneficie a la sociedad, plantearon expertos reunidos por las Naciones Unidas.
Basado en un despacho de la agencia de prensa IPS, el sitio www.nodal.am informa que el grupo de 39 expertos, formado en octubre de 2023 a instancias del secretario general de la ONU, António Guterres, señaló que existe en el mundo “un déficit de regulaciones, estándares e instituciones globales capaces de gestionar el uso de la IA, mejorar sus beneficios y minimizar sus riesgos”.
El informe sostiene que “la necesidad de una gobernanza global es irrefutable”, por ello la primera propuesta del grupo es “la creación de un panel científico internacional independiente sobre IA, compuesto por expertos multidisciplinarios”, que genere conocimientos imparciales y creíbles sobre la materia.
Dicho panel deberá ayudar a los Estados a desarrollar una visión compartida de la nueva tecnología y a abordar las asimetrías de información entre los laboratorios y el resto del mundo, con informes sobre capacidades, tendencias y riesgos de la IA.
Antonio Guterres ha destacado que “para las economías en desarrollo, la inteligencia artificial abre la posibilidad de superar tecnologías obsoletas y servir directamente a las personas que más lo necesitan, pero el potencial de transformación positiva que ofrece resulta todavía difícil de asimilar”.
La inteligencia artificial es un campo de la ciencia relacionado con la creación de computadoras y máquinas que pueden razonar, aprender y actuar de una manera que normalmente requeriría inteligencia humana.
“Sin entrar a considerar posibles escenarios catastróficos, es claro que el uso malintencionado de la IA puede socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”, considera el secretario general de la ONU.
En esa línea, el informe de los expertos apunta que “el desarrollo, la implementación y el uso de la tecnología no pueden dejarse únicamente a los caprichos de los mercados” y aboga por regímenes globales de gobernanza de la IA para evitar la carrera armamentista y la privación de derechos.
Uno de los argumentos que respalda la propuesta de gobernanza global es el hecho de que las materias primas de la IA, desde minerales hasta datos de entrenamiento, provienen de todas partes del mundo. También se destaca que la tecnología se implementa más allá de las fronteras nacionales, con aplicaciones que se utilizan en varios países, y que el desarrollo de la IA se emplea para “concentrar poder y riqueza a escala global, con implicaciones geopolíticas y geoeconómicas”.
Según los expertos, los mercados de datos para la IA son actualmente una especie de “salvaje oeste”, que opera bajo la idea de “tomar lo que puedas y esconderlo bajo algoritmos opacos”, por lo que insiste en la necesidad de “un enfoque globalmente conectado, ágil y flexible, para gobernar la IA para la humanidad”.
Ante ese reto, los gobiernos y organizaciones nacionales y regionales serán cruciales, pero la naturaleza misma de la tecnología, que es “transfronteriza en estructura y aplicación”, requiere un enfoque global, según el informe.
Los autores advierten que “nadie actualmente comprende lo suficiente todas las capacidades y el funcionamiento interno de la IA para controlar completamente sus efectos o predecir su evolución” y agregan que los sistemas de IA “rápidos, opacos y autónomos” pueden desafiar los sistemas regulatorios tradicionales, impactar cada vez más el mundo del trabajo y generar armas autónomas, elementos que plantean “graves problemas legales, humanitarios y de seguridad”.
Un enfoque colaborativo entre países sería beneficioso para “estimular el aprendizaje, fomentar la interoperabilidad y compartir los beneficios” de la IA, por lo que presentan siete recomendaciones, la primera de las cuales es crear el panel.
Por ello, proponen un diálogo político intergubernamental y multilateral bianual sobre la gobernanza de la IA, al margen de las reuniones existentes de la ONU, y la creación de un mecanismo de intercambio de estándares que reúna a representantes de organizaciones y empresas de tecnología, nacionales e internacionales. Representantes de algunas de esas firmas participaron en el grupo de expertos reunido por la ONU.
De igual modo, sugieren la creación de una red de desarrollo de capacidades en IA para conectar centros colaborativos sobre la materia, afiliados a la ONU, proporcionando experiencia, datos informáticos y capacitación a las partes interesadas.
El grupo aboga también por la creación de una estructura de datos de inteligencia artificial y un fondo global para la IA que eviten la división y dispersión de recursos, así como por la creación de una oficina de IA en la secretaría de la ONU, dependiente del secretario general.
Imagen de portada: Tomada de Xataca.
