Hoje, há um grande movimento dentro das cidades para demonstrar transparência no uso de dados e algoritmos. No entanto, os pioneiros estão descobrindo que existem obstáculos significativos para cumprir esses compromissos.

A cidade de Amsterdã adotou o Manifesto Tada, com seus princípios para uso responsável de dados. Lançou, também, um registro online obrigatório para sensores do governo e do setor privado (excluindo câmeras da polícia) e, junto com Helsinque, foi uma das primeiras cidades a criar um registro de algoritmo detalhado, como os usados nos serviços municipais. O modelo chamou a atenção e cidades como Toronto e Barcelona planejam seguir o exemplo.

Até o momento, o registro de Amsterdã tem sete listas, incluindo reconhecimento de placas para gerenciamento de estacionamento, abordagens personalizadas para reduzir crimes graves, detecção precoce de risco de pobreza e priorização de investigações sobre aluguéis de temporada ilegais. O registro de Inteligência Artificial de Helsinque também possui sete entradas, relacionadas, principalmente, a chatbots e serviços de bibliotecas.

Douwe Schmidt, especialista em ética de dados da cidade de Amsterdã, disse que a implementação do registro de algoritmo provou ser muito difícil até agora. “Ainda não estamos felizes com os resultados alcançados, pois existem muitos algoritmos ocultos na cidade. É um verdadeiro desafio para a organização descobrir todas as partes em que usamos algoritmos e depois explicá-los adequadamente.”

Teatro da ética?

Pesquisadores da Universidade de Oxford, do Instituto Alan Turing e da Universidade de Cardiff, disseram em um artigo, no ano passado, que os registradores de algoritmo podem funcionar, mas que, em suas versões atuais, são leves e oferecem apenas uma visão geral limitada dos sistemas algorítmicos utilizados e desenvolvidos pelas cidades.

Tais esforços podem excluir aplicações mais sensíveis da IA e equivaler ao que os autores chamam de “teatro ético”.

De acordo com Schmidt, “o registro foi propositalmente lançado em fase beta, quando ainda não estava claro como exatamente deveria funcionar e o que deveria fazer. Dessa forma, Amsterdam esperava que acadêmicos, ONGs e outros pudessem comentar o que estava faltando”.

“Dado o estágio beta do projeto, haveria espaço suficiente para mudanças e melhorias. Além disso, como podemos ver agora, preenchê-lo com algoritmos é a parte realmente difícil. Queríamos garantir que a parte do registro voltada para o público estivesse de acordo com as expectativas das pessoas.”

Schmidt acredita que há um problema entre o governo e os pesquisadores que ele chama de “estrangulamento mútuo”, em que as instituições públicas temem as críticas dos pesquisadores e evitam compartilhar qualquer coisa sobre a qual não estejam 100% confiantes e, por sua vez, os acadêmicos e o público ficam frustrados com os governos por apenas compartilharem trabalhos que estão completos, mas não têm espaço para alterações ou críticas.

Ele acrescentou “fazer o registro em primeiro lugar provou ser um passo importante para convencer mais e mais pessoas de que devemos documentar nossos algoritmos de maneira universal para podermos ser transparentes sobre isso. Mas esse trabalho é, agora, o maior obstáculo a ser superado e não acontecerá da noite para o dia.”

Os esforços para avaliar e documentar novos algoritmos e encontrar e documentar algoritmos existentes estão bem encaminhados, mas exigem um investimento significativo do tempo das pessoas para serem concluídos.

Regulamentação do uso de IA no Brasil

O uso da Inteligência Artificial também chegou ao poder público no Brasil. Entretanto, assim como em todos os países, a política de transparência é uma das grandes preocupações.

Segundo o Relatório Global AI Adoption Index 2021, 40% dos profissionais brasileiros de tecnologia afirmam ter adotado ferramentas de IA em suas companhias, o que equivale quase ao dobro comparado ao restante da América Latina. Por outro lado, 79% dos entrevistados relataram falta de habilidades ou treinamentos para o desenvolvimento de gerenciamento de uma IA confiável e explicável. Portanto, esse também é um desafio a ser vencido no Brasil.

Hoje, já existe no Brasil a Lei Geral de Proteção de Dados (LGPD), que traz princípios para a utilização de dados pessoais. Ela busca limitar o uso de informações que não sejam necessárias para o desempenho da IA, agindo com transparência perante o titular.

Fica claro que os algoritmos da Inteligência Artificial são utilizados para resolver problemas e ajudar as instituições que a utilizam em tomadas de decisões. Essa função da IA se enquadra na previsão do Artigo 20 da LGPD como ‘decisões tomadas unicamente com base em tratamento automatizado de dados pessoais’. Nesses casos, o titular dos dados pode solicitar a revisão delas.

Seguindo a mesma linha, o Projeto de Lei 5051/2019, que tramita no Senado Federal, dispõe que os responsáveis pela Inteligência Artificial devem esclarecer, observando o princípio da razoabilidade, quais parâmetros utilizados pela tecnologia, o que traz a necessidade de uma supervisão humana de modo a gerar confiabilidade no processo de utilização regulamentada da IA.

Por fim, há o Projeto de Lei 21/20, que define o marco legal do uso e desenvolvimento da IA no Brasil desde que se protejam os cidadãos do mau uso da tecnologia.