O que você precisa saber
- OpenAI está sob escrutínio depois que o ChatGPT compartilhou informações incorretas sobre pessoas.
- A NOYB, organização sem fins lucrativos de privacidade com sede na UE, apresentou uma queixa contra a empresa, alegando que estava ciente de sua incapacidade de corrigir as informações falsas geradas pelo ChatGPT, mas não parecia se importar.
- A organização quer que o regulador investigue as operações da OpenAI e obrigue-a a fornecer informações detalhadas sobre como utiliza os dados das pessoas.
A OpenAI está sob escrutínio mais uma vez depois que a organização sem fins lucrativos de privacidade NOYB, sediada na UE, apresentou uma nova reclamação à Autoridade Austríaca de Proteção de Dados (DPA), citando os “episódios de alucinação” do ChatGPT e sua incapacidade de corrigir informações enganosas geradas por IA sobre pessoas (via Quartzo).
Como você deve saber, a alucinação do chatbot não é um fenômeno novo no cenário da IA. Testemunhamos alguns desses episódios durante o lançamento do Microsoft Copilot (antigo Bing Chat), levando os usuários a acreditar que a tecnologia está ficando mais burra.
A reclamação da NOYB baseia-se no Regulamento Geral de Proteção de Dados (GDPR) da UE, que controla e regula como ferramentas como o ChatGPT lidam com os dados pessoais que coleta das pessoas. A organização indicou que a OpenAI admitiu abertamente que não pode corrigir informações imprecisas geradas através da sua ferramenta ChatGPT.
Ele também apontou que a OpenAI não consegue explicar de onde o ChatGPT obtém seus dados ou os dados pessoais que coleta e armazena dos usuários. Estranhamente, a organização indicou que o criador do ChatGPT estava ciente deste problema, mas não parecia se importar.
O GDPR permite que usuários baseados na UE solicitem alterações em informações imprecisas sobre eles geradas pela ferramenta. Como tal, a OpenAI não pode satisfazer este direito, tornando-o incompatível, o que é a base da NOYB para a reclamação.
De acordo com o advogado de proteção de dados da NOYB, Maartje de Graaf:
“A obrigação de cumprimento dos pedidos de acesso aplica-se a todas as empresas. É claramente possível manter registos dos dados de formação que foram utilizados para pelo menos ter uma ideia sobre as fontes de informação. acha que seus produtos não precisam estar em conformidade com a lei.”
Qual é o caminho plausível para o OpenAI?
Sam Altman, da OpenAI, admitiu que é impossível desenvolver ferramentas como o ChatGPT sem conteúdo protegido por direitos autorais. E como você já deve saber, a Microsoft e a OpenAI estão travando várias batalhas legais sobre questões de violação de direitos autorais.
Sem acesso a informações protegidas por direitos autorais, as respostas às consultas geradas por IA não são tão detalhadas e precisas. A organização afirma que as ações da OpenAI são “inaceitáveis” porque ela gerencia o ChatGPT, mas não consegue corrigir informações imprecisas geradas pela ferramenta ou explicar onde obtém seus dados.
NOYB quer que a DPA investigue as operações da OpenAI, incluindo como ela processa dados e treina seus modelos. Além disso, a organização deseja que a DPA force a OpenAI a permitir que os usuários acessem os dados, traçando uma imagem clara dos dados pessoais que a empresa coleta dos usuários e muito mais.
Se a OpenAI não cumprir estas exigências, poderá ser penalizada com uma pesada taxa de 20 milhões de euros ou 4% do volume de negócios anual global. Não esquecendo quaisquer custos adicionais caso os usuários afetados optem por buscar indenização por danos.