Regulamentação da IA na União Europeia. O que entra em vigor

A inteligência artificial (IA) tem sido um tema abordado nestes últimos anos por diferentes organismos, sejam governamentais ou empresariais, nas mais variadas áreas de ação. A forma como a utilizamos tem sido equacionada e debatida. Pode ser entendida como uma ferramenta, mas também como uma ameaça no campo da segurança e da ética.

Do muito que já foi falado sobre o assunto, as opiniões divergem quanto aos seus diferentes campos de ação. Mas têm algo em comum, a perceção de que regulamentar a utilização desta tecnologia é vital para o desenvolvimento da mesma dentro de padrões razoáveis de funcionalidade e segurança. Contudo, a criação de um conjunto de regras que vise o controlo da utilização da IA não é, por si só, unânime entre todos aqueles quer usufruem desta ferramenta tecnológica. Existem interesses comerciais e preocupações no campo da ética, da transparência e da segurança, sem esquecer quem concebe esta tecnologia.

Como forma de dar um passo em frente, o Parlamento Europeu (e o Conselho da União Europeia) publicou a 13 de junho de 2024, no Jornal Oficial da União Europeia, o primeiro documento, o AI Act, com um conjunto de regras claras e definidas quanto à sua utilização e conceção. A UE torna-se pioneira a nível mundial, ao regular a tecnologia de forma a garantir transparência, segurança e ética na utilização da IA. Isto, para assegurar a proteção dos direitos fundamentais dos cidadãos e garantir o desenvolvimento responsável desta tecnologia dentro do espaço comunitário. O Regulamento entrou em vigor 20 dias após a sua publicação e tem de estar implementado até agosto de 2026. Pelo meio, e ao fim de seis meses, entram em vigor as regras relativas às práticas proibidas de IA, que vigoram a partir de fevereiro de 2025.

Para o utilizador comum, é provável que esta ação não se faça sentir. Para quem já aplica a tecnologia no seu dia-a-dia, certamente irá sentir a diferença. Falamos de utilizadores recorrentes, profissionais em diferentes áreas e empresas que aplicam a IA no seu modelo de negócio como forma de angariar um maior número de clientes ou utilizadores, dependendo da área de ação. Até aqui, tudo pode ser aceitável desde que não viole os direitos humanos, e é neste campo que o IA Act vem atuar.

As práticas proibidas da IA

De volta às práticas proibidas, definidas no AI Act, estão divididas em quatro níveis de risco, com regras diferentes consoante o grau de risco. Assim:

a) Risco mínimo ou nulo. Falamos na maior parte de sistemas de IA. Como exemplo, os filtros do email, que podem ser utilizados livremente;

b) Risco limitado, relacionado com sistemas que geram conteúdos. Terá de informar os utilizadores que os conteúdos foram criados por IA, garantindo que as obrigações de transparência foram cumpridas;

c) Risco elevado. Trata-se de sistemas que devem seguir obrigações rigorosas para serem implementadas, com transparência e supervisão humana. Podemos inserir neste nível a identificação biométrica de indivíduos envolvidos em atos criminosos;

d) Risco inaceitável. Este último tem maior impacto, pois visa a proteção do utilizador contra a exploração de vulnerabilidades de pessoas. Como sejam, a classificação dos cidadãos para efeitos públicos e privados, proibição de recolha de imagens de rostos (a partir da Internet ou da televisão) com o intuito de criar ou expandir bases de dados, ou identificação biométrica de pessoas para deduzir a sua raça, opiniões políticas, convicções religiosas ou filosóficas ou orientação sexual.

Em suma, este Regulamento vem garantir que o cidadão tem um nível superior de proteção com transparência e segurança, com a garantia dos seus direitos fundamentais. Mas, também, proporcionar um futuro promissor para quem concebe e implementa a IA.

Quanto ao futuro, será certamente uma aprendizagem para todos, sejam os que a concebem, os utilizadores e os reguladores. Esta é uma tecnologia em constante desenvolvimento, não será fácil a sua implementação. Duas dúvidas finais se levantam. Estarão os governos preparados para supervisionar e fazer cumprir as regras? Terá a UE capacidade de acompanhar o desenvolvimento desta tecnologia, com um regulamento que seja capaz de evoluir? Este será o maior desafio dos governos e da União.