ChatGPT ainda não atende requisitos de precisão, indica força-tarefa da UE

Ferramenta da OpenAI apresenta informações inconsistentes e não está em conformidade com as regras de proteção de dados do bloco, aponta relatório preliminar
ChatGPT ainda não está em conformidade com as regras da UE
Relatório diz que ChatGPT ainda não está em conformidade com as regras da UE (crédito: Freepik)

O ChatGPT ainda não atende aos padrões de precisão de informação estabelecidos pela União Europeia (UE), indicou o Comitê Europeu de Proteção de Dados (EDPB, na sigla em inglês), em relatório preliminar sobre o chatbot de Inteligência Artificial (IA) da OpenAI.

A avaliação decorre de uma força-tarefa montada pela autoridade europeia em abril do ano passado a respeito do funcionamento da IA generativa mais famosa do mundo. Segundo o documento, apesar dos esforços da OpenAI, o ChatGPT ainda produz resultados inconsistentes com os fatos, de modo que a ferramenta não garante, portanto, total conformidade com as regras de proteção de dados da UE.

A força-tarefa, vale lembrar, foi criada após autoridades nacionais de proteção de dados terem iniciado investigações em separado sobre o ChatGPT. Apurações desse tipo foram anunciadas por órgãos da Itália, França e Espanha, por exemplo.

“Embora as medidas tomadas para cumprir o princípio da transparência sejam benéficas para evitar interpretações errôneas dos resultados do ChatGPT, elas não são suficientes para cumprir o princípio da precisão dos dados”, afirma o EDPB, em trecho do relatório, divulgado na sexta-feira, 24.

A precisão dos dados é um dos princípios orientadores do conjunto de regras de proteção de dados da UE. O relatório indica que alguns Estados-membros ainda seguem investigando a ferramenta da OpenAI individualmente. Desse modo, ainda não há uma conclusão definitiva sobre o futuro do ChatGPT no bloco.

“Devido à natureza probabilística do sistema, a atual abordagem de formação conduz a um modelo que também pode produzir resultados tendenciosos ou inventados”, diz o documento.

A autoridade europeia ainda demonstrou preocupação com a assimilação das informações apresentadas pela ferramenta. “Os resultados fornecidos pelo ChatGPT provavelmente serão considerados factualmente precisos pelos usuários finais, incluindo informações relacionadas a indivíduos, independentemente de sua precisão real”, alerta a órgão.

Avatar photo

Eduardo Vasconcelos

Jornalista e Economista

Artigos: 840