Para organizações civis, algoritmos não devem ser sigilosos

A próxima fronteira do direito digital está nos algoritmos. Essas instruções matemáticas definem o funcionamento de diferentes tecnologias que usam dados pessoais. A grande questão, debatida hoje durante o 8º Seminário de Proteção à Privacidade e aos Dados Pessoais, organizado pelo NIC.br, é: empresas devem manter em segredo o funcionamento de seus algoritmos?

O temor de especialistas que se debruçam sobre o tema é de que os algoritmos fechados, desconhecidos do público por serem considerados segredo industrial por seus criadores, estejam causando discriminação no mundo digital, que transborda para o mundo real.

Carlos Affonso Souza, do ITSRio, alerta. “Ao usar um algoritmo, devemos sempre nos perguntar quem o programou, como os dados são coletados e porque aquelas informações interessam”, disse.

Segundo ele, o ser humano confia demais na inteligência artificial. “Estamos fazendo mais perguntas às máquinas do que somos capazes de responder nós mesmos. É importante que não passemos nossas responsabilidades para as máquinas”, lembrou.

Souza ressaltou que já há casos no mundo de algoritmos cujo uso equivocado tem efeitos sociais perversos. “Na Polônia usou-se um algoritmo para classificar o nível de empregabilidade de desempregados. E ele classificou uma parcela de pessoas como impossíveis de contratar”, frisou

A China estuda adotar, nos próximos meses, uma espécie de score social, que deverá regular o direito dos cidadão a certos benefícios. “Como um cidadão saberá se sua nota é baixa e como revertê-la sem conhecer o algoritmo?”, questionou.

Transparência, pero no mucho

No setor corporativo, a ideia de expor o funcionamento do algoritmo usado por uma empresa causa arrepios. Conforme Vanessa Butalla, da Serasa Experian, esses sistemas são criados em sigilo para garantir o diferencial ante a concorrência e para dificultar a manipulação pelos usuários.

A seu ver, o usuário não precisa conhecer o funcionamento do algoritmo, mas quais dados o sistema coleta e processa.

“O importante é assegurar clareza e a transparência de quais dados são usados pelos algoritmos. O consumidor precisa entender quais são os dados a respeito dele que podem ser coletados, de onde vieram, como podem ser usados e como fazer para retificar caso estejam errados”, afirmou.

Para Thiago Tavares, do CGI.br e da SaferNet, a falta de transparência sobre o funcionamento dos algoritmos dificulta a criação de leis sobre proteção de dados pessoais.

“A gente não quer regulações que criem barreiras aos negócios. Mas é necessário que a esfera pública encontre respostas para regular este enigma [que são o adequado uso de dados pessoais]. E é muito difícil fazer isso quando a resposta depende de um segredo”, concluiu.