Marco legal para IA avança ao Plenário e acumula propostas de emendas
A Comissão Temporária sobre Inteligência Artificial (CTIA) do Senado Federal aprovou nesta quinta-feira, 5, a proposta de marco legal para a tecnologia no Brasil. O projeto de lei seguiu ao Plenário, onde ficou prevista votação na próxima semana.
O texto que avança para a próxima fase é a sexta versão de um substitutivo construído a partir de proposição formulada em comissão de juristas ao longo de 2022, o PL 2338/2023. Entre a primeira e a última versão, ocorreram diversas flexibilizações. Contudo, senadores já adiantam que haverá tentativa de mais mudanças antes do projeto chegar na Câmara (saiba mais abaixo).
Em síntese, o projeto estabelece uma classificação de risco para os sistemas de IA (veja lista mais abaixo). Há um grupo com definição de “risco excessivo”, que será expressamente proibido e aqueles considerados de “alto risco”, que devem tomar medidas para garantir os seguintes direitos à pessoa ou grupo afetado por ele:
- direito à explicação sobre a decisão, recomendação ou previsão feitas pelo sistema;
- direito de contestar e de solicitar a revisão de decisões, recomendações ou previsões de sistema de IA; e
- direito à revisão humana das decisões, levando-se em conta o contexto, risco e o estado da arte do desenvolvimento tecnológico.
Entre as medidas previstas está a apresentação de documentações, possuir meios que admitam auditorias e tomar medidas para mitigar e prevenir vieses discriminatórios.
Para acompanhar o cumprimento da lei, o projeto prevê a criação de um Sistema de Governança e Regulação sobre Inteligência Artificial (SIA), definido como um “ecossistema” a ser coordenado pela Autoridade Nacional de Proteção de Dados (ANPD) com a finalidade de “promover e garantir a cooperação e a harmonização com as demais autoridades setoriais e entes reguladores, sem vínculo de subordinação hierárquica entre eles, e outros sistemas nacionais para a plena implementação e fiscalização do cumprimento da lei em todo o território nacional com segurança jurídica”.
Ou seja, os órgãos reguladores continuarão responsáveis pelos seus respectivos setores, e a ANPD zelará pela atuação harmoniosa entre eles, seguindo as diretrizes previstas na lei.
Conforme a proposta, a ANPD, em conjunto com os órgãos setoriais, poderão realizar investigações em casos de suspeita de violação aos princípios, direitos e deveres.
O SIA contará também com um Comitê de Especialistas e Cientistas de Inteligência Artificial (CECIA) com o objetivo de orientar e supervisionar de forma técnica e científica o desenvolvimento e aplicação da IA de forma responsável, e um Conselho Permanente de Cooperação Regulatória de Inteligência Artificial (CRIA), que funcionará como um fórum de colaboração com a ANPD.
Uma das principais competências do SIA é a possibilidade de incluir ou excluir sistemas da classificação de riscos de IA nos próximos anos, em procedimento que garanta o direito ao contraditório, e mediante avaliação de impacto algorítmico.
Independentemente da classificação de riscos, a lei impõe fundamentos que devem ser observados no desenvolvimento, implementação e uso de sistemas de IA no país, entre eles, a proteção ao meio ambiente, privacidade, proteção de dados pessoais e integridade da informação.
Classificação e mudanças
Os últimos ajustes no relatório, confirmados nesta manhã, incorporam mudanças na lista de sistemas de alto risco, entre eles, o que se destina especificamente às plataformas digitais (provedores de aplicação de internet).
O trecho retirado considerava de alto risco os sistemas de “curadoria, difusão, recomendação e distribuição, em grande escala e significativamente automatizada, de conteúdo por provedores de aplicação de internet, com objetivo de maximização do tempo de uso e engajamento das pessoas ou grupos afetados, quando o funcionamento desses sistemas puder representar riscos relevantes à liberdade de expressão e acesso à informação e aos demais direitos fundamentais”.
Ao retirar esse trecho, o relator justificou que “a previsão anterior mostrou-se excessivamente genérica, considerando que a imprecisão técnica pode ter repercussões indesejáveis para setores importantes, vinculados inclusive à proteção de direitos fundamentais”. Ainda de acordo com o relator, “a garantia da liberdade de expressão apresenta-se como premissa básica a qualquer sociedade democrática e o texto ora relatado jamais poderia ser utilizado para afetar essa prerrogativa”.
Diante disso, as listas ficaram previstas da seguinte forma
IA no Plenário
O projeto de lei prevê que o agente de IA que utilizar conteúdos protegidos por direitos de autor e direitos conexos em processos de mineração, treinamento ou desenvolvimento de sistemas de IA deve remunerar os respectivos titulares. As plataformas desenvolvedoras são contrárias, e alguns parlamentares também.
O senador Marcos Rogério (PL-RO) adiantou a tentativa de debater a questão dos direitos autorais nos sistemas de IA em plenário. O parlamentar também se manifestou contra o fundamento de integridade da informação previsto na lei. Para ele, não está claro "quem vai determinar" o que seria tal integridade.
No texto, o conceito é definido como o "resultado de um ecossistema informacional que viabiliza e disponibiliza informações e conhecimento confiáveis, diversos e precisos, em tempo hábil para promoção da liberdade de expressão".
Apesar do substitutivo prever a integridade da informação entre os fundamentos a serem observados pelos agentes do sistema de IA, o relator já retirou o termo de outras regras, acatando emenda de Marco Rogério, como é o caso da lista de aspectos analisados para identificação futura de sistemas de alto risco, por parte do SIA. No entanto, o parlamentar entende que as modificações ainda não foram suficientes.
No Plenário, o projeto de regulação da IA já contava com mais de 25 propostas de emendas pouco após a chegada. O texto entrou na ordem do dia desta tarde, mas a votação foi adiada, a princípio, para terça-feira, 10.
Durante a sessão, o líder da oposição, Rogério Marinho (PL-RN), pediu tempo para presentar uma "nota técnica" sobre a proposta aos parlamentares de sua bancada sobre as mudanças promovidas.
Da base do governo, o senador Humberto Costa (PT - PE) também apresentou propostas de mudanças. O parlamentar busca reincluir o trecho retirado do substitutivo sobre as plataformas digitais.
Costa também sugere atribuir ao Conselho de Cooperação Regulatória de Inteligência Artificial a garantir de revisão humana em decisões automatizadas que instituem punições disciplinares e dispensa de trabalhadores.
O presidente do Senado, Rodrigo Pacheco (PSD-MG), afirmou que confia no trabalho realizado por Eduardo Gomes no relatório do projeto, mas que considerou a vontade coletiva de dar mais alguns dias para a análise.
