União Europeia com forte vigilância à inteligência artificial

A União Europeia (UE) deu um passo importante na regulamentação da crescente tecnologia de IA. Na quarta-feira, o organismo governamental aprovou o primeiro projeto de lei sobre a IA, que impõe restrições à utilização da inteligência artificial na região. O seu objetivo é transformar o projeto em lei até ao final deste ano. A proposta de lei também proíbe sistemas de identificação biométrica remotos e em tempo real, bem como o reconhecimento facial. Dito isto, é uma certeza que a União Europeia terá uma grande vigilância à Inteligência Artificial.

União Europeia com forte vigilância à inteligência artificial

Os apelos à regulamentação da IA aumentaram nos últimos meses, sobretudo depois de ferramentas de IA generativa como o ChatGPT terem conduzido a indústria tecnológica a uma nova revolução. No entanto, há já alguns anos que se está a trabalhar nesse tipo de regulamentação. Os legisladores europeus propuseram o primeiro quadro regulamentar para a IA na região em abril de 2021. Após mais de dois anos de inúmeros debates, o órgão de governo aprovou agora um projeto de lei.

A Lei da IA tem regras variáveis consoante o nível de risco dos sistemas

O projeto de lei sobre a IA aprovado pela UE especifica regras diferentes para diferentes níveis de risco. Assim proíbe os “sistemas de IA de risco inaceitável”, que incluem “manipulação cognitiva comportamental de pessoas ou grupos vulneráveis específicos”, “classificação de pessoas com base no comportamento, estatuto socioeconómico ou características pessoais” e “sistemas de identificação biométrica remota e em tempo real”.

Outros sistemas de IA de menor risco serão avaliados antes do lançamento no mercado e também ao longo do seu ciclo de vida.

Estes incluem tecnologias de IA utilizadas em vários domínios, como a identificação biométrica, a gestão e o funcionamento de infraestruturas críticas, a educação e a formação profissional, a aplicação da lei, entre outros. Os fornecedores devem registar esses sistemas numa base de dados da UE antes de os colocarem no mercado.

Por último, mas não menos importante, as ferramentas de IA generativa, como o ChatGPT e o Google Bard, que estão na moda atualmente, terão de cumprir os requisitos de transparência na UE quando o AI Act se tornar lei. Estas ferramentas têm de divulgar os conteúdos gerados pela IA e impedir os utilizadores de gerar conteúdos ilegais. A UE também exige que estas ferramentas publiquem resumos dos dados protegidos por direitos de autor utilizados para a formação.

“A prioridade do Parlamento Europeu é garantir que os sistemas de IA utilizados na UE sejam seguros, transparentes, rastreáveis, não discriminatórios e respeitadores do ambiente”, afirmou o órgão legislativo num comunicado de imprensa. “Os sistemas de IA devem ser supervisionados por pessoas, e não por automação. Tudo para evitar resultados prejudiciais. O Parlamento quer também estabelecer uma definição uniforme e neutra em termos tecnológicos para a IA, que se possa aplicar a futuros sistemas”. Uma vez aprovada, a Lei da IA da UE será o primeiro grande regulamento do mundo sobre IA.