Retomando o assunto sobre Inteligência Artificial ou, simplesmente “IA”, quero abordar como esse tema está sendo acordado na União Europeia, uma das primeiras representações de países a buscar regulação, bem como, em que pé estamos aqui no Brasil.
Recentemente tivemos a aprovação do texto final do “EU AI Act”, que é o regulamento sobre inteligência artificial na União Europeia. Este documento estabelece regras para o desenvolvimento e uso de sistemas de IA, que também poderá ser aplicável fora da Europa.
A regulação impacta tanto o implantador, sendo aquele que utiliza um sistema ou ferramenta de IA para otimização de suas atividades e processos, quanto ao provedor, sendo aquele que desenvolve e coloca no mercado um sistema ou modelo de IA de uso geral.
Para os que utilizam a IA, as principais obrigações previstas são: seguir as instruções de uso, atribuir supervisão humana, notificar o provedor em casos de risco ou incidente, conservar os logs do sistema e “alfabetizar” os usuários do sistema. Para os que desenvolvem IA, suas obrigações são: fornecer as informações completas de uso, elaborar e estabelecer processo de gestão de risco e documentação técnica, monitoramento do sistema, conservação de logs e avaliações de conformidade contínua.
Em meio a muitos desafios, uma importante preocupação sobre a IA é quanto à transparência. A construção dessas ferramentas é muito complexa, contudo, dado seu potencial uso que possa acarretar danos à privacidade, vieses discriminatórios, violação a direitos autorais, serão necessárias técnicas de “interpretabilidade” e “explicabilidade” para melhorar sua compreensão.
Aqui no Brasil, a questão fica mais aquecida à medida em que estamos em ano eleitoral, e muitos problemas já foram noticiados na mídia sobre uso de Inteligência Artificial para gerar “Fake News” envolvendo possíveis pré-candidatos a prefeituras. Inclusive o TSE (Tribunal Superior Eleitoral), tem se manifestado sobre o tema que, de tão complexo, debateremos em um artigo próprio.
Após várias discussões no Congresso Nacional, desde 2019, o Senado Federal cria a Comissão de Juristas para elaboração do Projeto de Lei PL 2.338/2023 que, após diversas audiências públicas, o texto foi apresentado e já conta com três emendas sugeridas pelos senadores Marcos Pontes e Carlos Viana.
O PL2.338/23 assim conceitua Inteligência Artificial: “sistema computacional, com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou lógica e representação do conhecimento, por meio de dados de entrada provenientes de máquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real”. E, Autoridade Competente sendo: “órgão ou entidade da Administração Pública Federal responsável por zelar, implementar e fiscalizar o cumprimento desta Lei em todo o território nacional”.
Posteriormente, trataremos em detalhes os fundamentos do Projeto de Lei, entre eles, o da centralidade da pessoa humana, respeito aos direitos humanos e à privacidade, a proteção de dados e a autodeterminação informativa, bem como, seus princípios, direitos e deveres, entre eles, a obrigatoriedade de realizar Avaliação de Impacto Algorítmico, com o objetivo de analisar os benefícios e riscos conhecidos e previsíveis do sistema, a probabilidade e a eventual gravidade de consequências adversas, e o possível esforço necessário para mitigá-las.
O Projeto de Lei de IA se encontra no Senado Federal, e foi encaminhada à Comissão Temporária sobre Inteligência Artificial no Brasil, com o objetivo de analisar a disciplina de IA com as demais leis de proteção de direitos e liberdades fundamentais.
(Colaboração de Rodrigo Toler, advogado de Privacidade e Proteção de Dados no Opice Blum, Bruno Advogados. É Mestre em Direito, Tecnologia e Desenvolvimento pelo IDP. Email: [email protected]).
Publicado na edição 10.836, de sábado a terça-feira, 13 a 16 de abril de 2024
