Regulación de la IA: ¿Está preparado Brasil?

En un artículo publicado en el sitio Estadão, el Dr. Matheus Puppe, socio del área de TMT, Privacidad y Protección de Datos de Maneira Advogados, analiza el debate en torno a la regulación del uso de la inteligencia artificial en Brasil.

Reglamento de IA: ¿Está preparado Brasil?

10/07/2023

Matheus Puppe, Socio del área de TMT, Privacidad y Protección de Datos de Maneira Advogados. Miembro del GT de Cumplimiento del CNJ y del Comité de Integridad Judicial (CINT). Profesor invitado del posgrado en Nuevas Tecnologías, Compliance, ESG y Contratos de la USP.

Las tecnologías disruptivas se están expandiendo y el flujo de información global está aumentando a velocidades exorbitantes. Debido a la constante evolución de las tecnologías, nos enfrentamos diariamente a nuevos e inevitables desafíos y cambios constantes. Sin embargo, el derecho como metatecnología crucial para la cuarta revolución industrial todavía prospera en un mundo cada vez más basado en algoritmos, datos y responsabilidad social.

La ley y, en consecuencia, las leyes, se ajustan a las nuevas realidades, enmarcando los derechos y deberes de la sociedad, que se ve remodelada por nuevos y progresivos desarrollos. Como espejo de la vida, el derecho refleja ahora un mundo interconectado, cosmopolita y globalizado.

Como resultado, siguiendo los deseos y necesidades de los mercados y las sociedades per se, las corporaciones, entidades privadas, universidades e incluso gobiernos e individuos están en un proceso constante de creación de reglas y leyes globales. Un proceso similar a la lex mercatoria, capaz de encuadrar eficazmente avances acelerados. Un mecanismo autopoiético de elaboración de leyes, que ahora se centra en partes que antes no eran tradicionales.

Vinculante y autorregulador, el Estado de derecho se reformula para seguir las nuevas expectativas de la sociedad, además de protegerla legislando sobre la inteligencia artificial, observando las nuevas preocupaciones y utilizando las propias tecnologías en su beneficio, para garantizar nuestros derechos globalmente, de forma eficaz e innovadora.

Pensar en inteligencia artificial ciertamente nos lleva al futuro, pero el problema es claro: el futuro ha llegado. La ciencia ficción queda de lado cuando observamos que el proceso de baja de una suscripción telefónica lo realizan principalmente robots, siguiendo los pasos previstos (o no) en sus algoritmos, dialogando y, muchas veces, convenciendo al usuario humano detrás de la llamada telefónica sobre los siguientes pasos y opciones.

Además, ¿quién no ha tenido que marcar “No soy un robot” para acceder a una web concreta? Pues bien, el miedo a que los robots actúen en un entorno conectado e interactúen cada vez más con los seres humanos ya forma parte de nuestra vida diaria.

Pero ¿tendría el Estado no sólo el poder, sino la capacidad –técnica y jurisdiccional– para regular los robots? Creo que sí y ya estamos avanzando en esa dirección.

billetes brasileños

En el último proyecto presentado, la ley propone medidas de protección para grupos vulnerables, como niños, adolescentes y personas con discapacidad, evitando que las empresas se aprovechen de estas condiciones vulnerables, y establece la creación de un organismo vinculado a la Presidencia de la República para monitorear las actividades de las empresas de IA en Brasil y monitorear su cumplimiento.

Uno de los aspectos más importantes del proyecto de ley son las medidas punitivas para las empresas que violen las reglas. Las sanciones incluyen multas de hasta R$ 50 millones por cada infracción, prohibición de participar en proyectos de innovación experimental (sandbox regulatorio) por cinco años, suspensión de las actividades de la empresa y prohibición de procesar determinadas bases de datos.

El proyecto también garantiza derechos a los consumidores, como el derecho a ser informado con antelación sobre las interacciones con los sistemas de IA, a recibir explicaciones sobre las decisiones tomadas por la IA y el derecho a la no discriminación y a la corrección de sesgos discriminatorios.

Un proyecto muy similar a la iniciativa europea, pero necesitamos algo legítimamente brasileño y adaptado a nuestra realidad.

Propuesta europea

Para mantener a Europa preparada para la Década Digital, la Unión Europea ha estado aceptando la nueva realidad de la inteligencia artificial. De esta forma, plantearon una nueva propuesta regulatoria que se alinea con los principios de protección de datos (GDPR), otorgando incluso a la Autoridad Europea de Protección de Datos la facultad de imponer multas.

Con este fin, la Unión Europea ha estado discutiendo las reglas para el funcionamiento de la Inteligencia Artificial tanto en el sector público como en el privado, buscando garantizar la seguridad de las personas y los derechos fundamentales (sin duda una posición de principios). La visión de la UE es la seguridad, pero también la competitividad internacional, con el fin de facilitar la innovación en toda la UE y convertirse en un nuevo actor fuerte en el sector de la IA.

Algunos aspectos destacan dentro de este nuevo tipo de regulación. Por ejemplo, la propuesta menciona que ""los mismos elementos y técnicas que mejoran los beneficios socioeconómicos de la IA también pueden traer nuevos riesgos o consecuencias negativas para los individuos o la sociedad. A la luz de la velocidad del cambio tecnológico y los posibles desafíos, la UE se compromete a buscar un enfoque equilibrado […] Las normas para la IA disponibles en el mercado de la Unión o que afectan a las personas en la Unión deben, por lo tanto, estar centradas en las personas para que las personas puedan confiar en que la tecnología se utiliza de forma segura y de conformidad con la ley, incluido el respeto de los derechos fundamentales.”, lo que demuestra claramente su sesgo flexible y de principios.

De esta manera, siempre que se comercialicen o se inicien sistemas de IA incumpliendo los requisitos del reglamento, los Estados miembros tendrán que establecer sanciones efectivas, proporcionadas y disuasorias, incluidas cuantiosas multas administrativas, en relación con las infracciones y comunicación inmediata a la Comisión.

El reglamento proporciona algunos parámetros de multas que deben tenerse en cuenta.

Por lo tanto, para armonizar las normas y prácticas nacionales a la hora de fijar multas administrativas, la Comisión, con el asesoramiento de la Junta, desarrollará directrices específicas, como se hizo para el RGPD.

La Comisión también tiene la intención de abordar los riesgos generados por usos específicos de la IA a través de un conjunto de reglas complementarias y flexibles (flexibles incluso para alinearse con la propuesta de competitividad en el mercado global). Una estructura que proporciona a los desarrolladores, implementadores y usuarios de IA la claridad necesaria, teniendo como estructura legal un enfoque claro y fácil de entender, basado en el análisis de riesgos, con cuatro niveles distintos de riesgo.

Además, el cumplimiento se incorpora a la propuesta al otorgar a los proveedores de aplicaciones que no son de alto riesgo la posibilidad de garantizar que su sistema de IA sea confiable, desarrollar sus propios códigos de conducta voluntarios o adherirse a los códigos de conducta adoptados por otras asociaciones representativas. Esto se aplicará simultáneamente con las obligaciones de transparencia para determinados sistemas de IA. La Comisión alentará a las asociaciones industriales y otras organizaciones representativas a adoptar códigos de conducta voluntarios.

El avance de la inteligencia artificial (IA) en la sociedad contemporánea es innegable y su influencia se extiende a casi todos los aspectos de nuestras vidas. Por lo tanto, la necesidad de una regulación sólida es urgente.

El proyecto de ley propuesto recientemente en Brasil, así como las directrices establecidas por la Unión Europea, son pasos importantes para garantizar el uso ético y responsable de la IA, y dichas iniciativas resaltan la importancia del cumplimiento de la IA ética, considerando aspectos como la transparencia, la privacidad, la no discriminación y la responsabilidad de quienes desarrollan e implementan estos sistemas.

Es fundamental que dichas regulaciones establezcan medidas sólidas de protección para los individuos y la sociedad en su conjunto, así como promuevan la responsabilidad de las empresas que desarrollan y utilizan la IA.

A pesar de esto, regular la IA no es solo un desafío para Brasil y la Unión Europea, sino para el mundo entero, y es crucial que los países trabajen juntos para establecer directrices globales, dada la naturaleza transnacional de la tecnología y la economía digital.

Esto no solo permitiría una armonización de las prácticas de IA, sino que también proporcionaría un nivel equitativo de protección de los derechos de los ciudadanos en todo el mundo. Seguro que esta podría ser una gran oportunidad para que Brasil asuma un papel global en una nueva regulación, que traería más seguridad jurídica y, con ella, nuevos negocios para el país.

Sin embargo, regular la IA es una tarea compleja que requiere un delicado equilibrio. Por un lado, es esencial garantizar la privacidad, la seguridad y la equidad; por otro, las regulaciones no pueden sofocar la innovación, que es vital para el crecimiento económico y el progreso global.

Por lo tanto, a medida que avanzamos hacia una era cada vez más impulsada por la IA, es crucial garantizar que tanto esta como otras tecnologías emergentes se utilicen de manera beneficiosa, con regulaciones cuidadosas, directrices éticas y un compromiso con el bienestar de todos los ciudadanos, para dar forma al futuro de la IA de una manera que refleje nuestros valores más profundos, con nuevas regulaciones ajustadas y adaptadas a las realidades de países, como Brasil, imprescindibles. Y como diría el “terminador del futuro”: “Hasta la vista, baby”.

https://www.estadao.com.br/politica/gestao-politica-e-sociedade/regulacao-de-ia-o-brasil-esta-pronto/