Matheus Puppe habla con Canaltech sobre la regulación de la inteligencia artificial

Canaltech informó que una comisión de juristas formada por el Senado Federal para discutir la regulación de la inteligencia artificial expresó su oposición al uso de sistemas de reconocimiento facial por parte de la policía. El Dr. Matheus Puppe, socio del área de TMT, Protección de Datos y Privacidad de Maneira Advogados, fue entrevistado para comentar sobre el tema.

El Comité del Senado se opone al uso del reconocimiento facial por parte de la policía

Por Felipe Demartini | Editado por Claudio Yuge | 19 de mayo de 2022

(Imagen: Monkeybusiness/envato)

Una comisión de juristas formada por el Senado brasileño para discutir la regulación de la inteligencia artificial en el país parece unánime en la idea de prohibir los sistemas de reconocimiento facial por parte de la policía. En un repaso de los debates ocurridos desde abril, en Brasilia (DF), la idea era contraria al uso de la tecnología, que fue evaluada como reproductora del racismo estructural.

Al presentar las conclusiones, la relatora y jurista Laura Schertel Mendes señaló el riesgo de discriminación algorítmica en el uso de plataformas de este tipo para reconocer a sospechosos y acusados de delitos. La idea es que las plataformas de reconocimiento facial pueden reproducir el racismo arraigado en la sociedad y no coinciden con la propuesta de mayor apertura e igualdad que acompaña a la modernización de los sistemas judiciales.

Además, destacó las preocupaciones sobre el uso indebido de los datos recopilados por dichos sistemas, particularmente en relación con los niños y las operaciones de extracción de datos. En opinión de Mendes, es necesario establecer regulaciones que garanticen la seguridad y sean acordes a la complejidad del uso de este tipo de tecnologías, teniendo en cuenta también los riesgos que implica su adopción.

“Además de los prejuicios raciales ya mencionados, tales [sistemas] ofrecen riesgos intrínsecos para la libertad y la privacidad de la población en general y para la democracia misma”, comenta Marcelo Cárgano, abogado en el área de derecho digital y protección de datos de Abe Giovanini Advogados. “Imagínese el uso indiscriminado por parte de un gobierno de inclinaciones autoritarias para perseguir a sus oponentes y desplegar una plataforma de vigilancia masiva”.

Comisión del Senado se posicionó contra el uso del reconocimiento facial por parte de las autoridades, por el riesgo de reproducir racismo estructural (Imagen: Geraldo Magela/Agência Senado)

La idea de la comisión, que reúne a más de 160 expertos en 12 paneles, es crear subsidios para la elaboración de un proyecto de ley sustituto, que reúna diferentes proyectos de ley que se están tramitando en el Senado sobre el tema. Son tres en total, enfocados a la regulación y disciplina en el uso de sistemas de inteligencia artificial, de los que también forman parte las tecnologías de reconocimiento facial.

La propuesta surge de la preocupación internacional sobre el tema, como señala Cárgano. Recuerda que se están realizando otras consultas públicas de este tipo, por ejemplo en el Comité Europeo de Protección de Datos, que entendió que el uso del reconocimiento facial tiene impactos en la libertad de circulación, de reunión y de la dignidad humana. “Su uso en espacios públicos no tiene cabida en una sociedad democrática, y los temores no son hipotéticos ni exagerados, sino que se basan en ejemplos concretos”, añade.

Matheus Puppe, socio del área de TMT, privacidad y protección de datos de Maneira Advogados, aporta una visión diferente, a favor de estandarizar la programación de inteligencia artificial que pueda dejar de lado parámetros prejuiciosos. “No podemos ir en contra del avance de las nuevas tecnologías, pero sí adoptar medidas estrictas de autorregulación para que los proveedores de servicios no alimenten el sistema con datos injustos”, afirma.

El comité formado por el Senado recibe sugerencias externas por correo electrónico o personalmente hasta el 10 de junio. Después, la idea es ayudar a la casa a aprobar un proyecto que garantice la libertad y tenga reglas claras sobre el uso de inteligencia artificial y sistemas de reconocimiento facial en el país.

Fuente: Agência Senado

https://canaltech.com.br/governo/comissao-do-senado-e-contraria-a-uso-de-reconhecimento-facial-pela-policia-216761/