Guia de IA do TCU para Administração Pública fica pronto no próximo ano
O Tribunal de Contas da União (TCU) vai elaborar um guia de IA com a definição de diretrizes, parâmetros e eventuais riscos para auxiliar líderes e gestores públicos no processo de implementação ou contratação de serviços que envolvam o uso de inteligência artificial. Paralelamente, o TCU está em processo de contratação de uma solução para desenvolvimento de aplicações IA.
O Tribunal está recebendo projetos de Pesquisa e Desenvolvimento (P&D) de solução de inteligência artificial para apoiar a instrução de denúncias e representações. A contratação da proposta selecionada será feita por meio de Encomenda Tecnológica (Etec), iniciada em fevereiro. No ano passado o TCU anunciou a economia de R$ 70 milhões com projetos de IA como instrução assistida e análise cognitiva.
O guia de IA do TCU é resultado final do trabalho de investigação iniciado com o processo de levantamento do estágio de implementação de IA, a Estratégia Brasileira de Inteligência Artificial (EBIA) e a disponibilidade e aplicabilidade da IA nos órgãos públicos federais. Este estudo investigou 263 órgãos públicos, revelando que embora 27% dessas instituições não têm sequer previsão de usar solução de IA, 28% têm a possibilidade de usá-la e 45% já utilizavam ativamente soluções baseadas em IA, em setembro de 2021. De acordo com o estudo, esse número tende a crescer exponencialmente nos próximos anos.
O ministro Aroldo Cedraz, relator da matéria, determinou a realização de nova etapa do trabalho, e definiu entre os objetivos o estabelecimento e a validação de referencial teórico e metodológico próprio do TCU para auditoria de aplicações e algoritmos de inteligência artificial, abrangendo tanto sistemas especialistas baseados em regras, como soluções de aprendizagem de máquina.
Tibério Loureiro, supervisor do relatório de levantamento sobre as tecnologias de Inteligência Artificial na administração público informa nesta entrevista que o Guia deverá estar disponível a partir de 2023 e a nova ferramenta de desenvolvimento está em processo de contratação. Ele também analisa a Estratégia Brasileira de Inteligência Artificial.
A seguir, os principais trechos da entrevista:
DMI: A experiência bem-sucedida que o TCU teve no uso da inteligência artificial – IA – foi o que motivou o tribunal a desenvolver esse guia de boas práticas?
Tibério Loureiro: O TCU tem essas soluções em constante desenvolvimento e implementação e está em processo de encomenda tecnológica, uma nova modalidade de contratação, para escolher uma empresa para o desenvolvimento de soluções de
instrução assistida. O levantamento que fizemos é um tipo de instrumento de fiscalização cujo objetivo é que o tribunal adquira informações sobre um tema para atuar tanto na indução do tema dentro do governo, como na elaboração de estratégias. Essa investigação faz parte de uma trilha de levantamentos que o TCU tem feito, por meio da Secretaria de Fiscalização de Tecnologia da Informação, sobre tecnologias emergentes. Já levantou informações sobre computação na nuvem, em 2018, e sobre blockchain em 2019. Em 2021, fizemos o levantamento na área de IA.
DMI: O que esse levantamento do TCU revelou?
Tibério Loureiro: O levantamento ocorreu de março a junho de 2021 e teve três objetivos principais. O primeiro foi verificar a utilização da IA pelos órgãos da Administração Pública Federal. O segundo objetivo foi analisar a Estratégia Brasileira
de Inteligência Artificial (EBIA), lançada em junho do 2021, quando estávamos finalizando o levantamento. Em vários países tem sido o principal instrumento de direcionamento das ações do governo E, por fim, o terceiro aspecto foi levantar como TCU pode usar IA nas atividades de controle. À medida em que os órgãos da administração estão implementando soluções de IA, o TCU precisa se preparar para fiscalizar e auditar essas soluções.
DMI: E a que conclusões o TCU chegou nesses três pontos do guia de IA?
Tibério Loureiro: Com relação ao estágio atual, foi elaborado um questionário enviado a 293 órgãos e tivemos a resposta de 263. O questionário abordou planejamento, perspectiva de uso de IA, se já existe alguma solução implementada, qual o nível de desenvolvimento das equipes. As principais constatações é de que 27% dos órgãos não têm previsão de usar solução de IA; 28% têm a possibilidade de usar e 45% já compreendem o potencial da tecnologia e estão planejando a implementação. Com base no framework do Gartner, levantamos as dificuldades. O principal entrave é o baixo número de colaboradores com conhecimento de IA. O segundo problema é a dificuldade de obtenção de dados úteis, relevantes e confiáveis, que não estão disponíveis no governo federal. Vale destacar que focamos em aprendizados de máquinas, que incluem soluções de visão computacional, processamento de linguagem natural, modelos preditivos. O terceiro problema identificado é a falta de clareza das oportunidades e benefícios que a IA pode trazer.
DMI: Ou seja falta pessoal qualificado, dados de qualidade e clareza sobre de que forma a IA pode ser útil. Em relação à Estratégia Brasileira de Inteligência artificial o que vocês concluíram?
Tibério Loureiro: Analisando a conjuntura internacional, verificamos que vários países como EUA, Alemanha, Austrália, China, Reino Unido, Japão já desenvolveram e publicaram suas estratégias. A China tem a meta de ser líder em IA até 2030. Durante o levantamento, a estratégia brasileira estava em elaboração ainda. É uma política pública, e usamos um instrumento de análise de políticas públicas que avalia três estágios: a formulação, implementação e avaliação. Avaliamos a formulação e a implementação e chegamos a alguns achados. O primeiro conclui que os objetivos não são específicos, mensuráveis, alcançáveis, delimitados e não
têm um recorte temporal.
DMI: Isso é ruim?
Tibério Loureiro: Seguindo a sigla SMART, os objetivos têm de ser específicos, mensuráveis, alcançados e delimitados no tempo. Por exemplo: o Plano Nacional de Educação tem como objetivo elevar a taxa de alfabetização da população em 15 anos ou mais para 95% até 2015. A estratégia brasileira não tem essas informações e sim princípios e propostas abertas. Também não foi feita a explicitação do estágio inicial, ou seja, o ponto de partida ou marco zero. Só posso saber se melhorei se sei de onde parti. E não foram estabelecidos indicadores e metas. Além de não ter sido construído um modelo lógico com relação aos problemas e oportunidades, até porque não foi feita uma linha de base.
DMI: Podemos concluir que a Estratégia Brasileira de Inteligência Artificial está muito fluida: não tem mecanismos de mensuração, de onde partiu, e nem objetivos de implementação. É um arcabouço, mas sem coisas muito concretas?
Tibério Loureiro: Exatamente, foi feito um trabalho para levantar essas questões, mas elas não foram claramente identificadas. Ao final de 2024, como se quer estar em temos de utilização da IA pela sociedade brasileira? Outra constatação é que não havia sido implementado ainda uma estrutura de governança, o que foi feito depois no segundo semestre do ano passado.
DMI: No terceiro item do levantamento, a aplicabilidade, o que vocês identificaram?
Tibério Loureiro: A IA está sendo usada principalmente na automação de processos robóticos, especialmente no judiciário. Isso também pode ser usado na atividade de controle. Há soluções para otimizar as pesquisas e avaliar riscos, para extração de informações de grandes bases de dados, e processamento de linguagem natural com soluções que permitem que os algoritmos automatizem a classificação das observações de auditoria, com base em dados históricos e possam aprender processo e auditoria. Esse levantamento não envolve os 263 órgãos federais, mas instituições de auditoria internacionais como a norte-americano Government Accountability Office (GAO) e o ISSAI, da União Europeia (Normas Internacionais das Entidades Fiscalizadoras Superiores (ISSAI).
DMI: O TCU fez um benchmark para fazer o guia de IA?
Tibério Loureiro: Não chegou a ser um benchmark. O objetivo foi avaliar o que já existe para, a partir daí – como o relator deliberou no acórdão – o TCU deve desenvolver uma metodologia para auditoria em soluções de IA na administração pública.
DMI: E quanto ao Guia, qual o objetivo e a previsão de publicação?
Tibério Loureiro: O acórdão saiu em 25 de maio e recomentou a evolução do levantamento para a fase de acompanhamento, ambos processos de fiscalização do TCU. Não temos um prazo fixado, e objetivo é distribuir para toda a administração pública um guia de boas práticas, riscos possíveis e os entraves. É uma forma de auxiliar o gestor médio que não tem o conhecimento de tecnologia.
DMI: Encerrado o levantamento quando começa a próxima fase de acompanhamento?
Tibério Loureiro: Foi determinado que o TCU avalie periodicamente o nível de maturidade dos órgãos da administração pública no uso da IA. O questionário será aplicado novamente abrangendo mais órgãos, possivelmente a partir de 2023. Outro aspecto determinado no acordão para o acompanhamento é desenvolver e validar uma metodologia do TCU para fiscalizar as aplicações que serão criadas. Paralelamente, estamos num processo de encomenda tecnológica para a contratação
de uma ferramenta de desenvolvimento para uma solução de instrução assistida.
