Depois que a Samsung Semiconductor permitiu que seus engenheiros de fábrica usassem o ChatGPT para obter assistência, eles começaram a usá-lo para corrigir rapidamente erros em seu código-fonte, vazando informações confidenciais como notas de reuniões internas e dados relacionados ao desempenho da fábrica e rendimentos no processo. A empresa agora planeja desenvolver seu próprio serviço de IA semelhante ao ChatGPT para uso interno. Mas, por enquanto, limita o tamanho das perguntas enviadas ao serviço a 1024 bytes, relata Economista.
Até agora, a Samsung Semiconductor registrou três casos de uso do ChatGPT que levaram a vazamentos de dados. Embora três possam não parecer muito, todos eles aconteceram ao longo de 20 dias, então a situação é bastante perturbadora.
Em um caso, um funcionário da Samsung Semiconductor enviou o código-fonte de um programa proprietário ao ChatGPT para corrigir erros, que essencialmente revelou o código de um aplicativo ultrassecreto para uma inteligência artificial administrada por uma empresa externa.
O segundo caso talvez tenha sido ainda mais alarmante, pois outro funcionário inseriu padrões de teste destinados a identificar chips defeituosos e solicitou otimização. As sequências de teste destinadas a identificar defeitos são estritamente confidenciais. Enquanto isso, otimizar essas sequências de teste e possivelmente reduzir seu número pode acelerar os procedimentos de teste e verificação de silício, o que reduz significativamente os custos.
Ainda outro funcionário usou o Navio Clova aplicativo para converter a gravação de uma reunião em um documento e, em seguida, enviou-o ao ChatGPT para preparar uma apresentação.
Essas ações claramente colocam informações confidenciais em risco, levando a Samsung a alertar seus funcionários sobre os perigos do uso do ChatGPT. A Samsung Electronics informou a seus executivos e funcionários que os dados inseridos no ChatGPT são transmitidos e armazenados em servidores externos, impossibilitando a empresa de recuperá-los e aumentando os riscos de vazamento de informações confidenciais. Embora o ChatGPT seja uma ferramenta poderosa, seu recurso de dados de aprendizado aberto pode expor informações confidenciais a terceiros, o que é inaceitável na altamente competitiva indústria de semicondutores.
O conglomerado está preparando medidas de proteção para evitar acidentes semelhantes no futuro. Caso ocorra outro incidente, mesmo após a implementação de medidas emergenciais de proteção de informações, o acesso ao ChatGPT poderá ser bloqueado na rede da empresa. Ainda assim, está claro que coisas como IA generativa e várias ferramentas de automação de design eletrônico habilitadas para IA são um aspecto importante do futuro da produção de chips.
Quando perguntado sobre o incidente de vazamento de informações, um porta-voz da Samsung Electronics se recusou a confirmar ou negar a informação, pois era um assunto interno.