En el marco de la conferencia general de Unesco, los 193 países miembros adoptaron un documento que tiene por objetivo aportar los elementos suficientes para afrontar de manera responsable los efectos conocidos y desconocidos de la inteligencia artificial en los seres humanos, las sociedades, el medio ambiente y los ecosistemas, sentando las bases para un acuerdo global que permita a las naciones poner límites a los riesgos derivados de los desarrollos basados en inteligencia artificial.
¿Por qué es importante esta declaración realizada por Unesco?
Luego de varios meses de trabajo y el concurso de un importante grupo Interdisciplinario de Expertos, finalmente Unesco publicó un documento de 30 páginas, que, si bien en estricto sentido no es legalmente vinculante para los países miembros, se convierte en un gran acuerdo internacional de referencia neutra y universal, para el desarrollo, regulación y uso ético de todas las tecnologías derivadas de la Inteligencia Artificial[1].
Este documento no es el primero que existe en la materia, pues es posible encontrar textos y guías desarrollados por organizaciones gubernamentales y de la sociedad civil, sin embargo, si es el primer acuerdo que involucra tantas nacionales con un alcance realmente global.
Para la directora general de la UNESCO, este documento es un gran avance sin precedentes, que le permitirá a la sociedad contemporánea anticiparse a diversos factores de riesgos a través de una ruta crítica de trabajo para todas las naciones que hacen parte de UNESCO:
“La Unesco pide a sus 193 Estados miembros que tomen todas las medidas necesarias para aplicar este marco ético. La Organización evaluará periódicamente su aplicación, pidiendo a los Estados que informen sobre sus progresos y prácticas en este ámbito. Estos resultados serán analizados por expertos y sometidos a debate público de forma transparente”
Audrey Azoulay, Directora General de la UNESCO.
El contexto de la Inteligencia Artificial
La Inteligencia Artificial (AI, por sus siglas en inglés), hace referencia al tipo de procesamiento basado en algoritmos informáticos que puede desarrollar una máquina computacional, mediante un tipo de imitación electrónica de las funciones cognitivas humanas como percibir, razonar, aprender y resolver problemas[2].
La Inteligencia Artificial hace parte de los sistemas de algoritmos con los que se han diseñado las aplicaciones que usamos diariamente en nuestros móviles o computadores, incluyendo programas que utilizamos en muchos aspectos de nuestra cotidianidad.
En la siguiente generación de desarrollos tecnológicos, la Inteligencia Artificial estará presente prácticamente en todos los aspectos de la vida humana, y aunque en la mayoría de los casos se trata de soluciones para hacernos más fácil el mundo que habitamos, también existe un alto riesgo asociado a esta tecnología. Esto no solo porque puede utilizarse para usos militares y geopolíticos, sino porque en un determinado momento dicha inteligencia puede llegar a ser tan autónoma, que se vuelva en contra de la humanidad misma, al mejor estilo del argumento planteado por la trilogía de Matrix
Protegiendo la Civilización Humana
Una de la mayores motivaciones que dio origen al documento de UNESCO, es que la Inteligencia Artificial es uno de los desarrollos más vertiginosos de los últimos tiempos, es omnipresente y autónoma, haciendo posibles muchas de nuestras rutinas diarias presentes y futuras, desde las compras en línea, automóviles sin conductor, la personalización de nuestras noticias matutinas, la temperatura de una habitación, los semáforos de una ciudad, hasta las más complejas estrategias militares, además de un sin número de tareas sistematizadas en el plano público y privado.
El documento realizado por expertos internacionales a partir de la visión histórica de protección cultural que inspira a UNESCO, busca aportar valores y principios comunes en busca de orientar la construcción del andamiaje jurídico necesario para garantizar un desarrollo sustentable, ético, humano y duradero.
Es importante destacar que el documento parte de las bondades y beneficios que aporta la Inteligencia Artificial, en aspectos tan valiosos como la detección temprana del cáncer o la construcción de entornos inclusivos para personas con discapacidad o de cómo puede ayudar a combatir problemas globales como el cambio climático y el hambre en el mundo o como promueve la reducción de la pobreza optimizando la ayuda económica, es en ese sentido que el propósito no es restringir su desarrollo, sino evitar que se convierta en un bumerang que juegue en contra de la civilización humana.
Los Ejes de Intervención
El principal propósito del documento es hacer realidad las ventajas que la IA aporta a la sociedad y reducir los riesgos derivados, garantizando que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, promoviendo aspectos claves como la transparencia, la privacidad, el acceso plural a la información, la gobernanza de datos, la salud, educación, la cultura, y la economía, lo anterior enmarcado en cuatro grandes ejes estratégicos:
- Protección de datos
“La Recomendación pide que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas una mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales. Afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos. También incluye acciones para mejorar la protección de los datos y el conocimiento y derecho del individuo a controlar sus propios datos. También aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir” [3].
- Prohibición de los marcadores sociales y la vigilancia masiva
“La Recomendación prohíbe explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva. Este tipo de tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales y se utilizan de forma generalizada. La Recomendación subraya que, a la hora de desarrollar marcos normativos, los Estados Miembros deben tener en cuenta que la responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas” [4].
- Ayudar a supervisar y evaluar el impacto en las personas
“La Recomendación también sienta las bases de las herramientas que ayudarán a su aplicación. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente. La metodología de evaluación del grado de preparación ayuda a los Estados Miembros a evaluar su grado de preparación en términos de infraestructura jurídica y técnica. Esta herramienta ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica. Además, la Recomendación anima a los Estados Miembros a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo” [5].
- Protección del medio ambiente
“La Recomendación subraya que los actores de la IA deben favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que la IA se convierta en una herramienta más destacada en la lucha contra el cambio climático y en el tratamiento de los problemas medioambientales. La Recomendación pide a los gobiernos que evalúen el impacto medioambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA. Esto incluye su huella de carbono, el consumo de energía y el impacto ambiental de la extracción de materias primas para apoyar la fabricación de tecnologías de IA. También pretende reducir el impacto medioambiental de los sistemas de IA y las infraestructuras de datos. Incentiva a los gobiernos a invertir en tecnología verde, y si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen” [6].
En Conclusión, el documento presentado por Unesco en el marco de su asamblea general para definir los criterios generales que deben orientar la implementación y regulación de la Inteligencia Artificial alrededor del mundo, constituye una muy importante ruta de navegación que le permitirá a los gobiernos y a la sociedad civil anticiparse ante el riesgo que representa esta tecnología, siempre y cuando, los países firmantes tomen en serio los compromisos que adquieren e implementen a tiempo las acciones que les corresponden.
