O que você precisa saber
- O Future of Life Institute compartilhou uma carta aberta que pede que todos os laboratórios de IA parem o treinamento de inteligência artificial por pelo menos seis meses.
- Elon Musk, Steve Wozniak, vários CEOs de tecnologia e muitos professores universitários assinaram a carta.
- A carta pede que laboratórios e desenvolvedores de IA criem e implementem protocolos de segurança e sejam auditados e supervisionados por especialistas independentes.
A inteligência artificial é um dos tópicos mais quentes da tecnologia, mas alguns estão pedindo mais orientações e regulamentações antes que os laboratórios impulsionem a IA ainda mais. O Future of Life Institute escreveu um carta aberta pedindo a pausa imediata de todos os treinamentos de IA para sistemas mais poderosos que o GPT-4. O instituto sugere uma pausa de pelo menos seis meses para projetar, desenvolver e implementar protocolos para o uso seguro da IA.
“Deve deixamos as máquinas inundarem nossos canais de informação com propaganda e inverdades? Deve automatizamos todos os trabalhos, incluindo os satisfatórios? Deve desenvolvemos mentes não-humanas que podem eventualmente superar em número, ser mais espertas, obsoletas e nos substituir? Deve corremos o risco de perder o controle de nossa civilização?”, diz a carta.
Ele continua, afirmando que “poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”.
Embora você não tenha ouvido falar do Future of Life Institute, provavelmente já ouviu falar das pessoas que assinaram a carta aberta do instituto. Elon Musk e Steve Wozniak estão entre os mais de 1.100 nomes atualmente anexados à carta. Essa lista também inclui um vencedor do Prêmio Turing, vários professores universitários e o cofundador do Skype, Jaan Tallinn.
A chamada à ação afirma:
“Pedimos a todos os laboratórios de IA que parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4. Essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória.”
Como as empresas responderão a esta carta não está claro. O Bing Chat da Microsoft e o Bard do Google estão em uma batalha pela IA voltada para o consumidor. A OpenAI acaba de lançar o GPT-4 no início deste mês. Tecnologia como essa tende a acelerar no desenvolvimento, não ficar parado por seis meses.
Abaixo estão alguns dos nomes mais notáveis que assinaram a carta. A lista completa está no final da carta:
- Josué BengioFundador e Diretor Científico da Mila, vencedor do Prêmio Turing e professor da Universidade de Montreal
- Stuart RusselBerkeley, professor de Ciência da Computação, diretor do Centro de Sistemas Inteligentes e co-autor do livro padrão “Inteligência Artificial: uma Abordagem Moderna”
- Elon MuskCEO da SpaceX, Tesla e Twitter
- Steve WozniakCo-fundador, Apple
- Jan TallinnCofundador do Skype, Centro para o Estudo do Risco Existencial, Future of Life Institute
- Evan SharpCofundador, Pinterest