top of page

Regulamentação do uso da IA pela União Europeia

A Inteligência Artificial, mais conhecida como IA, já é uma realidade na vida de todos nós. Em algum momento do nosso dia e em diversos serviços que consumimos, ela está lá, nos servindo e facilitando algum processo rotineiro.





Com a introdução, quase que natural, do uso da tecnologia, a acessibilidade alcançando praticamente toda a sociedade, o uso da IA tem se tornado imprescindível e consequentemente, levando o debate sobre o seu uso em nossa rotina.


Sendo assim, o uso das ferramentas disponibilizadas pela tecnologia e, consequentemente, pela IA, de maneira exponencial, tem-se debatido a importância, os benefícios e recursos e também, os riscos e perigos, que podem ser alcançados com o seu uso.


A partir desse universo de possibilidades e novos recursos antes inimagináveis, a regulamentação do seu uso se torna algo urgente para a sociedade e os rumos do seu uso no futuro. Vários países já deram o pontapé inicial para esse debate. O país pioneiro a implementar leis a respeito do uso da IA foi a China, país altamente tecnológico e atrativo para empresas "unicórnio". O regulamento no país está baseado em transparência, moralidade e responsabilidade do uso de ferramentas de IA.


Outros países também já realizam o debate há algum tempo, mas sem avanços significativos, como Chile, Filipinas, Colômbia, Panamá e Brasil. Nos EUA, o Presidente Joe Biden reuniu em 2023 uma comissão para debates sobre a regulamentação, mas também houve pouca evolução para prosseguir com o tema.


Por aqui no Brasil, o debate começou em 2020, com o PL 2630/2020, que ficou conhecido como o "PL das Fake News", que tem como objetivo a regulamentação do uso das mídias sociais no país, buscando diminuir a disseminação de Fake News.


A União Europeia (UE), promoveu uma guinada no assunto já algum tempo. Desde 2022 o parlamento da UE colocou em pauta a regulação do uso de mídias sociais e uso de IA. Neste ano de 2024, colocou o projeto em votação, sendo a pioneira a aprovar a regulamentação da IA no ocidente. No dia 14 de março de 2024, após longo período de estudos e discussão, os eurodeputados aprovaram a regulamentação do uso da IA para o bloco.


A estruturação do regulamento: 



A regulamentação aprovada foi fundamentada em dois pilares:


1º - Os riscos iminentes do uso indiscriminado da IA relacionados à guarda da democracia e cuidados com populações minoritárias.


A base deste pilar foi estruturado a partir de diversas tentativas de ataques à democracia, violação de direitos e tentativas de interferências em processos eleitorais, algo que tem sido tomado por ondas da extrema direita e autoritarismo pelo mundo, o que tem colocado em risco a liberdade de expressão, o direito de ir e vir e a vida de milhares de pessoas.


Não é novidade para ninguém o crescente uso de desinformação para campanhas eleitorais da extrema direita pelo mundo. Alguns marcos importantes que deram vislumbre do uso da IA e seu potencial alcance foi a campanha para saída do Reino Unido do bloco econômico, que ficou conhecida como BREXIT, liderada por Boris Johnson. Johnson e sua equipe, lançaram mão do uso de dados de usuários de redes sociais como Facebook para arquitetar a campanha, utilizando temas que eram sensíveis aos eleitores e manipulando essas informações.


Do outro lado do Atlântico a IA foi usada de maneira maciça nas campanhas eleitorais de Trump, (2016 e 2020), que usou as redes sociais para o compartilhamento de desinformação contra os adversários do candidato republicano. As campanhas usaram aplicativos de mensagens para disseminar Fake News, alterando e criando imagens e editando áudios, através de IA, para propagar desinformação e incriminar adversários.

Algo bem semelhante aconteceu no Brasil nas eleições de 2018 e 2022, quando o candidato da extrema direita, fez uso indiscriminado de aplicativos de mensagens para compartilhamento de notícias falsas e ataques aos três poderes, tentando destruir o tripé fundamental que assegura o Estado Democrático de Direito. O uso da IA foi ferramenta para ataques a ministros do Supremo Tribunal Federal, de maneira pessoal e também atacando direta e de maneira indiscriminada a veracidade das urnas eletrônicas.

Houveram vários episódios em que o uso de fake e cheap News foram utilizadas e que serviram de ferramenta para incentivar protestos e manifestações, como por exemplo, a convocação aos atos de 08 de janeiro de 2023.


A segunda parte deste primeiro tópico, preocupa-se quanto a seguridade e discriminação de populações minoritárias. É verídica essa preocupação a partir de situações já vividas. 

De acordo com artigo de Garcia (2020), não são poucas as vezes em que a autora se deparou com situações discriminatórias com o uso da IA. Um deles foi a seleção de currículos realizados pela Amazon em 2018, onde a seleção de currículos indicou maioria de candidatos homens e não mulheres. 


Além disso, a autora cita a falácia da tentativa da Microsoft, que em 2016 disponibilizou um chatbot nomeado por Tay. A intenção era que a IA fosse desenvolvida e adquirisse conhecimento através da interação com usuários, porém, a IA se tornou misógina e racista em pouco mais de 15 horas de uso. A Microsoft foi obrigada a descontinuar a IA.

Sendo assim, é previsto no regulamento que grupos minoritários como alguns grupos religiosos, negros, mulheres, entre outros, estejam de alguma forma protegidos e amparados quanto a ataques digitais.


Outro ponto sensível alcançado pelo regulamento prevê necessidade de transparência das empresas no uso de imagens de vídeo como dados. Isso é preocupante no uso dos dados de pessoas para reconhecimento facial. Geralmente, bancos de dados utilizados para isso vem a partir de circuitos de segurança, presentes em ambientes privados e também em monitoramento em grandes cidades do mundo. 


Todo esse zelo serve de construção para o segundo pilar do regulamento aprovado pela UE, a preocupação com os dados. 


2º - O regulamento propõe maior transparência sobre os dados utilizados para treinamento das IA's.


Para ser gerada alguma informação na IA é necessário que se tenha dados. São a partir desses dados que a IA gera a informação quando solicitada. Porém, pouco se sabe sobre como as empresas de tecnologia obtêm dados e qual a sua qualidade para alimentação da IA e o seu devido fim. 


Qualquer ação pode se tornar um dado. Uma curtida no instagram, o compartilhamento de uma informação no Facebook, o CPF informado na farmácia, uma matéria lida em um jornal on-line, tudo é dado. Porém, surge a pergunta: Quando realizada a ação e gerado o dado, para onde ele vai?


É neste momento que o regulamento aprovado pela UE entra, é para que fique mais claro de onde vem o dado utilizado pela empresa, como é usado e para o que é usado, impondo às empresas maior transparência no processo de desenvolvimento e treinamento da IA.

Investidores europeus temem que a regulamentação do uso dos dados afaste empresas de IA.


O bloco, que é pequeno no desenvolvimento de IA em comparação com EUA e China, após a regulamentação, pode se tornar menos atrativo. Até então as empresas não possuem políticas claras e informações concretas sobre o uso dos dados e treinamento das IA's no seu desenvolvimento, o que será obrigatório após a implantação do regulamento.


Essa reação de investidores expressa claramente a necessidade do desenvolvimento de leis e regulamentos que deixem mais transparente o processo de criação, desenvolvimento e uso dessas tecnologias diante dos avanços.


Segundo Garcia (2020), o cuidado com os dados é fundamental para o uso da IA com qualidade e responsabilidade. Para a autora, os dados possuem três características básicas: 1º: Os dados não são neutros; 2º: Dados tem validade; e 3º: Dados podem carregar viesses escondidos.


O conhecimento desses três pontos e o desinteresse na regulamentação por parte dos investidores, demonstra a necessidade e urgência da regulamentação do uso dos dados e da IA.


Com a regulamentação da IA na UE, para onde vamos?


A regulamentação é um pontapé inicial. É um movimento que há muito é ensaiado no mundo, mas havia mínimos avanços. Este regulamento se torna um instrumento norteador para o ocidente, mas é necessário mais.


Em meio ao mundo capitalista e a diversas crises políticas e sociais, o movimento para a regulamentação deve ser mundial. A conclusão da necessidade desse movimento mundial vem a partir do tamanho das big techs. Embora seja necessário a criação de leis norteando comunidades locais, o movimento de normatização deve ser do tamanho ou, se possível, maior que as big techs, detentoras de tecnologias e projetos megalomaníacos para o uso das IA’s.


A evolução da tecnologia é exponencial e, na grande maioria dos casos, a criação das leis não. Por isso é urgente o debate sobre regulamentação do seu uso.



Texto escrito por Felipe Bonsanto

Formado em Administração de empresas, pós-graduação em marketing e apaixonado por Los Hermanos. É militante pelos direitos LGBTQIAP+, trabalha com educação há oito anos, atua como co-host no podcast O Historiante e é colunista do Zero Águia.




Revisão: Eliane Gomes

Edição: Eliézer Fernandes

 





 

Comments


bottom of page