El Senado brasileño aprobó el Proyecto de Ley 2338/23, una iniciativa que busca establecer un marco regulatorio para la inteligencia artificial (IA) bajo principios de “gobernanza responsable”. La medida, potencialmente un modelo para América Latina, ha generado tanto expectativas como preocupaciones sobre su alcance y sus implicaciones.
La promesa regulatoria en un campo de batalla desigual
La regulación de la IA avanza entre logros y desafíos a nivel global. Europa lidera con su Reglamento de IA, que clasifica riesgos y exige transparencia, aunque enfrenta presiones de grandes tecnológicas que buscan suavizar sus normas.
En Asia, China adopta estrictos controles estatales, pero estos priorizan la supervisión gubernamental por encima de la protección de derechos individuales.
En contraste, Estados Unidos carece de un marco federal, dejando que las empresas privadas establezcan las reglas en un entorno normativo fragmentado.
Casos como el de Cambridge Analytica han expuesto los riesgos de la autorregulación. Estas experiencias globales subrayan la necesidad urgente de marcos normativos sólidos para garantizar que la IA sirva al interés público, en lugar de reforzar intereses corporativos o estatales.
Canadá, pionero en derechos digitales, fue uno de los primeros países en desarrollar una Declaración de Impacto Algorítmico para evaluar los riesgos de los sistemas automatizados en el sector público.
El Reino Unido, con su Estrategia Nacional de IA, busca fomentar la innovación al tiempo que aborda preocupaciones éticas, aunque carece de un marco regulatorio vinculante como el europeo.
Australia, por su parte, ha implementado un Plan Nacional de IA centrado en principios de transparencia y equidad, pero enfrenta críticas por su limitada supervisión de aplicaciones comerciales.
En Corea del Sur, la regulación avanza con un enfoque proactivo: su Ley de Datos Personales, revisada en 2020, se considera una de las más estrictas de Asia, mientras que el gobierno promueve estándares éticos para el desarrollo y uso de IA, equilibrando la innovación tecnológica con la protección ciudadana.
Antecedentes en América Latina y Brasil
Latinoamérica ha transitado un camino desigual en regulación tecnológica. Desde la Ley de Protección de Datos Personales en México (2010) hasta la Ley General de Protección de Datos (LGPD) de Brasil (2018), la región ha buscado equilibrar innovación con derechos ciudadanos. Sin embargo, la influencia corporativa y las limitaciones estructurales han restringido el alcance de estas normativas.
En Brasil, el Marco Civil de Internet (2014) marcó un antes y un después, garantizando la neutralidad de la red y la privacidad como derechos fundamentales.
Posteriormente, la LGPD situó al país como líder regional en protección de datos. Sin embargo, el auge de la IA ha generado nuevos desafíos, especialmente en un entorno donde las plataformas digitales influyen en el debate público.
En respuesta, el gobierno creó comisiones como la CJSUBIA para abordar estos retos, aunque los intereses corporativos han complicado el consenso.
El Proyecto de Ley 2338/23
El PL 2338/23 pretende ser un marco integral para regular la IA en Brasil, abordando sectores como salud, transporte y moderación de contenidos en línea.
Sin embargo, desde sus primeras versiones, el proyecto enfrentó tensiones entre actores clave: el gobierno, la academia, organizaciones civiles y el sector tecnológico.
Durante las audiencias públicas, se evidenció la influencia de las grandes tecnológicas. Rafael Zanatta, de Data Privacy Brasil, señaló que “las directrices laborales que pretendían proteger a los trabajadores frente a los sistemas automatizados fueron eliminadas”. Según Derechos Digitales, el 31% de los participantes representaban al sector privado, mientras que la sociedad civil apenas alcanzaba el 19%. Este desequilibrio reflejó un sesgo hacia intereses corporativos.
La exclusión de sistemas de alto riesgo: ¿avance o retroceso?
Uno de los puntos más controvertidos del PL 2338/23 es la exclusión de los sistemas de moderación y recomendación automatizada de contenidos del listado de alto riesgo.
Originalmente, el proyecto reconocía estos sistemas como peligrosos por su capacidad de manipular comportamientos y limitar la diversidad en el debate público. Sin embargo, el artículo 77 del proyecto establece que la regulación de estos temas requerirá legislación específica, dejando sin supervisión inmediata su impacto en la democracia.
Expertos como Shoshana Zuboff, en La era del capitalismo de la vigilancia, advierten que estos sistemas, diseñados para maximizar la interacción, pueden priorizar el lucro sobre el bienestar colectivo.
Este vacío regulatorio plantea preguntas cruciales sobre la transparencia y la rendición de cuentas en un contexto donde las plataformas tienen un impacto desmedido en la opinión pública.
Ejemplos globales: lecciones para Brasil
El caso brasileño encuentra paralelismos en otros países.
En Europa, el Reglamento de IA busca regular sistemas de alto riesgo, incluyendo moderación de contenidos, pero enfrenta resistencia de gigantes tecnológicos que buscan reducir el impacto de las regulaciones.
En Estados Unidos, la ausencia de un marco normativo ha permitido que empresas como Meta y Google operen sin restricciones claras, generando escándalos como el de Cambridge Analytica, donde la manipulación de datos influyó en procesos electorales.
Estos casos subrayan los riesgos de postergar regulaciones efectivas.
Para Brasil, la exclusión de sistemas clave de alto riesgo puede convertir al país en un campo de pruebas para experimentos tecnológicos que priorizan beneficios económicos sobre derechos ciudadanos.
El impacto en la ciudadanía: entre la vigilancia y la desinformación
La exclusión de sistemas de moderación automatizada afecta directamente a los ciudadanos brasileños, dejando sin control la circulación de información en entornos digitales.
Este vacío normativo facilita la propagación de desinformación y polarización, fenómenos ya visibles en eventos como las elecciones de 2018 y 2022.
Organizaciones como Access Now destacan la necesidad de supervisar estos sistemas bajo principios de transparencia y responsabilidad. Sin controles efectivos, las plataformas pueden consolidar dinámicas que refuercen desigualdades sociales y erosionen la confianza pública.
En conclusión, La aprobación del PL 2338/23 en el Senado brasileño representa un hito en la regulación de la IA, pero también evidencia desafíos significativos. La influencia del sector privado y la exclusión de sistemas clave de alto riesgo plantean interrogantes sobre el equilibrio entre innovación y derechos ciudadanos. Mientras el proyecto avanza hacia la Cámara de Diputados, Brasil tiene la oportunidad de liderar en América Latina, aprendiendo de ejemplos globales y construyendo un marco regulatorio que priorice la justicia social y la democracia. El futuro de la IA en el país dependerá de su capacidad para resistir presiones externas y garantizar que la tecnología esté al servicio del bien común.
