Próximo de sua provação, europeus tornam o AI ACT (The Artificial Intelligence Act) ainda mais rígido.

O texto da futura lei europeia para Inteligência Artificial deu passos importantes para se tornar a primeira lei do mundo específica sobre a tecnologia. Para isso, passou a contar com regras para controlar a IA Generativa e o banimento de vários tipos de sistemas de identificação e categorização biométrica, e de reconhecimento de emoções. O projeto foi aprovado por duas comissões do parlamento europeu: Mercado Interno e Liberdade Cívicas.

A intenção da lei é criar uma base regulatória sólida, que promova a inovação responsável, proteção dos direitos fundamentais e segurança na utilização de IA na União Europeia.

Os principais aspectos considerados na AI ACT são:

• Categorias de risco

Identificação de diferentes categorias de sistemas de IA, de acordo com o nível de risco que representam, como sistemas de alto risco, sistemas de risco limitado e sistemas de IA proibidos. Os de alto risco incluem as áreas de segurança, saúde, transporte e infraestrutura crítica;

• Requisitos para sistemas de alto risco

Estabelecimento de requisitos específicos, como avaliação de conformidade antes da colocação no mercado, utilização de dados de alta qualidade, documentação detalhada, supervisão humana adequada, registro da UE e nomeação de um representante responsável pela conformidade;

• Proibições específicas

Proibição de determinadas práticas de IA consideradas inaceitáveis, como sistemas de IA que manipulam o comportamento humano, sistemas de pontuação social em tempo real por autoridades públicas e sistemas de IA que visam explorar vulnerabilidades específicas de grupos sociais.

• Sistema de conformidade

Criação de um sistema de conformidade que envolve a avaliação de riscos, a obtenção de certificados de conformidade de terceiros e a implementação de medidas de mitigação de riscos.

• Supervisão e aplicação

Supervisão de conformidade com as regras de IA por autoridades competentes e penalização em caso de não conformidade.

O Parlamento Europeu enrijeceu as regras, a fim de tornar os sistemas de IA supervisionados por pessoas, seguros, transparentes, rastreáveis, não discriminatórios, ecologicamente corretos e tecnicamente neutros. Com isso, aumenta-se o direito dos cidadãos de reclamações sobre os sistemas IA.

Com os ajustes, foram incluídos na lista de proibidos diversos sistemas de identificação e categorização biométrica e de reconhecimento de emoções. Houve, também, mudanças na classificação de alto risco para incluir danos à saúde, segurança, direitos fundamentais e meio ambiente.

Considerada a maior mudança, foram incluídos requisitos específicos para modelos fundamentais de IA Generativa, como o ChatGPT. Os fornecedores serão obrigados a aplicarem verificações de segurança, medidas de governação e riscos, tudo isso antes de colocarem seus modelos no mercado. Será necessário divulgar que o conteúdo foi gerado por IA, projetar o modelo para evitar conteúdos ilegais e publicar resumos de dados protegidos por direitos autorais usados para treinamento. Além de cumprir todos os requisitos de design, informação e meio ambiente, os produtores precisarão se registrar no banco de dados da União Europeia.

Há isenções para atividades de pesquisa

Muitos acreditam que as regulamentações podem acabar inibindo a inovação, o que hoje já é um grande desafio. Entretanto, os parlamentares tiveram o cuidado de adicionar isenções às regras para atividades de pesquisa e componentes de IA fornecidos sob licença de código aberto. Além disso, a lei também promove sandboxes regulatórios, com ambientes controlados, estabelecidos por autoridades para testar a IA antes de sua implementação.

O projeto ainda precisa ser aprovado por todo o parlamento para passar a vigorar. A expectativa é de que a lei seja aprovada em meados de 2024.