Uso da Inteligência Artificial levanta questões éticas e de regulação

Do viés do algoritmo ao uso de sistemas muito mais sofisticados que o necessário, instituições financeiras analisam implicações e a melhor forma de recorrer à inteligência artificial, durante o Digital Money Meeting
Primeiro Painel - Banking as a Service e Inteligência Artificial – Tecnologias que estão mudando os serviços do sistema financeiro- Digital Money Meeting 2023
Primeiro Painel – Banking as a Service e Inteligência Artificial – Tecnologias que estão mudando os serviços do sistema financeiro – Digital Money Meeting 2023

A Inteligência Artificial é considerada pelo Banco do Brasil uma tecnologia revolucionária, que vai transformar o mundo nos próximos anos. Mas, para além de oportunidades, traz também urgência na definição de regras de governança para que se evite usos discriminatórios, avalia Pedro Bramont, Diretor de Negócios Digitais & Open Finance do banco estatal.

O executivo participou hoje, 12, do Digital Money Meeting, evento organizado pela Momento Editorial, a respeito de inovações no mercado financeiro.

Bramont ressaltou que a inteligência artificial pode ser usada no setor para a predição do comportamento dos clientes e análise de crédito em tempo real, oferecer experiências personalizadas de investimento, indicar produtos financeiros com base no perfil do cliente, gerenciar risco, combater fraudes e melhorar a cibersegurannça.

Mas a adoção da tecnologia traz consigo enormes desafios. Um deles diz respeito às implicações éticas, que exigem uma regulamentação da tecnologia.

“Lembro do filme Minority Report, em que a inteligência preditiva é utilizada para evitar crimes, mas tem uma margem de erro. Mesmo pequena, se houver um caso na margem de erro, coloca todo o sistema em questão”, ponderou.

A seu ver, é preciso ter diretrizes para o uso responsável e traçar fronteiras, limites, para o uso da inteligência artificial. “Os vieses existem e podem causar muitos problemas. Imaginem usar uma base de dados sobre todos os presos em um presídio e, a partir dessa base, querer traçar previsões para o resto da sociedade. Vai ter vieses. Será correto? Discriminatório?”, provocou.

Enquanto a regulação não vem…

Por enquanto, legisladores, ativistas e acadêmicos debatem os limites éticos da inteligência artificial. Sem uma diretriz universal ou governamental, cabe às empresas se policiarem. Felipe Carvalho da Silva, Gerente Executivo de Políticas de Crédito do Banco Inter, contou que ali a IA também é usada para predição de crédito e customização de serviços.

Ele concorda com a percepção de Bramont quanto às implicações éticas e de possíveis erros a serem cometidos pelos algoritmos. Mas vai além. Lembra que inteligências artificiais regenerativas, como o ChatGPT, não lidam bem com a privacidade de dados e citou casos de empresas que proíbem funcionários de usá-las para evitar vazamentos de segredos industriais, uma vez que tudo fica registrado em sua memória e serve de base ao aprendizado.

Defendeu, assim, simplicidade na adoção. “As empresas às vezes querem adotar soluções complexas de inteligência artificial, mas em alguns casos nem têm massa de dados suficiente para usar toda a capacidade da tecnologia. Às vezes, o caso de uso não exige uma IA tão sofisticada”, lembrou.

Thiago Zaninotti, CTO da Celcoin, citou notícias recentes de big techs proibindo funcionários de colocar códigos fonte para depuração no ChatGPT, pois este acaba por exibir os códigos a outros usuários dependendo das consultas realizadas.

Para ele, as preocupações com a IA são exageradas, e a tecnologia terá papel importante no atendimento por bancos a nichos de mercado. “O maior desafio é explicar a decisão da IA e com isso sustentar a tomada de decisão da empresa. Em uma indústria regulada como a nossa [financeira], a tomada de decisões tem que estar dentro do arcabouço regulatório”, concluiu.

O painel foi mediado por Elias Sfeir, presidente-executivo da ANBC

Avatar photo

Rafael Bucco

Artigos: 4241