Um grupo de pesquisadores da OpenAI e de diversas universidades publicou um documento de 104 páginas no qual defende a regulamentação da computação de inteligência artificial, incluindo a possibilidade de implementação de interruptores de interrupção para prevenir o uso malicioso de IA. O PDF original foi divulgado online pela Universidade de Cambridge, conforme um post no Dia dos Namorados.
O PDF, intitulado “O poder do computador e a governança da inteligência artificial“, explora como a capacidade de processamento de computadores (ou seja, a potência da GPU) está sendo utilizada para trabalhos de IA, e sugere que a regulação desse hardware pode ser mais viável devido à alta concentração de fornecedores na cadeia de suprimentos.
Na seção “Riscos da governança computacional e possíveis mitigação”, os pesquisadores detalham alguns riscos relacionados à IA e propõem soluções para eles. Alguns pontos-chave dessa seção são resumidos abaixo.
- Ameaças à privacidade pessoal — Aumento do monitoramento e relatórios de hardware de IA podem expor informações privadas.
- Oportunidades de vazamento de informações estratégicas e comerciais sensíveis — O compartilhamento de informações com decisores políticos pode aumentar a probabilidade de vazamento de informações sensíveis.
- Impactos econômicos negativos — A desestabilização dos mercados de trabalho que utilizam IA é um aspecto conhecido e controverso.
- Riscos da centralização e concentração de poder — A regulamentação da computação em IA possui implicações políticas e econômicas.
- Modelos especializados de baixa computação com capacidades perigosas — Mesmo as regulamentações atuais não são suficientes para prevenir o uso malicioso de modelos de baixa computação.
O artigo propõe uma variedade de possíveis soluções para esses problemas, incluindo um registro global de chips de IA e o uso de “kill switches” para desativar hardware de IA usado para fins maliciosos. No entanto, essas soluções também apresentam riscos próprios.
À medida que a tecnologia e a política em torno da inteligência artificial continuam a evoluir, é importante considerar como o poder sobre essa nova fronteira será consolidado. Especialistas, incluindo pesquisadores da OpenAI, defendem que uma maior parte desse poder deveria ser concedida aos reguladores, diante dos perigos da alternativa.