Tele.Síntese Convida avança nos rumos da inteligência artificial no país
A possibilidade de responsabilização sobre o uso da inteligência artificial (IA) é um dos pontos importantes na discussão sobre o desenvolvimento e a regulação dessa ferramenta no Brasil. É o que acreditam Miriam Wimmer, diretora da Autoridade Nacional de Proteção de Dados (ANPD), e Thais Cerioni, Head de marketing Brasil e Gerente de comunicação SoLA no SAS.
As duas participaram do mais novo programa do Tele.Síntese, o Tele.Síntese Convida, que foi ao ar nesta terça-feira, 16 de julho, e pode ser visto no portal e em nosso canal do YouTube. Durante quase uma hora, elas conversaram com Miriam Aquino, diretora executiva do Tele.Síntese, sobre “Os rumos da inteligência artificial no Brasil”.
“É preciso assegurar que os sistemas que geram maior risco e maior dificuldade de identificação de onde ocorreu o problema respondam de maneira mais forte”, disse Wimmer “Não saber quem é o responsável é um dos principais problemas da IA”, corroborou Cerioni.
As duas executivas concordaram também que, no entanto, as regras para o uso da IA não podem frear a inovação. “A regulação não deve ser uma ferramenta para limitar a inovação, mas para estabelecer uma condição de contorno dentro da qual a inovação será legítima”, afirmou a diretora da ANPD.
Na visão de Wimmer, o projeto de lei em tramitação no Senado apresenta um regime mais detalhado do que se pode ou não fazer com a utilização da IA quando comparado ao projeto apresentado na Câmara dos Deputados. Em contraposição a quem acredita que uma legislação calcada em princípios como sendo melhor para a inovação, a executiva defendeu uma regulação mais descritiva.
“Em vez de tratar de princípios vagos, como a dignidade da pessoa humana, um regime regulatório que diga o que pode ou não fazer, quais os direitos do indivíduo, traz mais segurança jurídica”, argumentou.
Para Cerioli, inovação e legislação devem caminhar juntas como forma de ganhar a confiança das pessoas, em geral, ainda muito duvidosas sobre os benefícios do uso da IA no seu dia a dia. “Ter regras claras, transparência, impulsiona a inovação. Isso vai facilitar que as pessoas abracem de maneira mais confiante a IA”, afirmou.
A executiva também defendeu que o tema seja discutido por todos os players envolvidos com a IA, sejam os governos, sejam as empresas, entidades não governamentais e os próprios consumidores.
Ela lembrou que o SAS participa de comitês de discussão sobre IA em diversas partes do mundo e que, nos Estados Unidos, sede da empresa, há uma vice-presidência voltada para o tema, cujo executivo participa do board de discussão sobre IA do governo federal. “Não está lá legislando em causa própria, mas para garantir que o futuro da inovação tecnológica da IA seja sustentável e responsável”, disse.
Os vieses da IA
As participantes do Tele.Síntese Convida também abordaram um dos aspectos mais discutidos quando o assunto é a inteligência artificial: os vieses que a ferramenta pode apresentar.
Wimmer exemplificou o risco de viés na utilização da IA num sistema de distribuição de benefícios sociais que resulte na exclusão de mulheres negras, ou ainda no emprego da ferramenta por empresas para a promoção dos funcionários que direcione somente para os homens. “Existe uma preocupação sobre o tipo de dados que podem ser usados para treinar sistemas de IA e quais as hipóteses legais para não permitir que esses vieses e preconceitos se perpetuem. Esse é o papel das organizações e do regulador”, disse.
De acordo com Cerioni, o SAS tem se preocupado em desenvolver suas plataformas e produtos já com funcionalidades que ajudem a garantir uma governança capaz de evitar vieses. A executiva também falou da criação de dados sintéticos como forma a diminuir distorções de representatividade gerados pela ferramenta. “Se por um lado é preciso tomar cuidado para que os modelos não repitam os vieses que as pessoas carregam, por outro, podemos desenvolver plataformas com governanças que orientem maneiras de equalizar esse problema”, ressaltou.
