O que você precisa saber
- AI é um campo crescente de tecnologia que alimenta vários serviços, incluindo o Bing Chat da Microsoft.
- A Microsoft investiu ou se comprometeu a investir 11 bilhões em pesquisa e desenvolvimento da OpenAI.
- A Microsoft acaba de demitir a equipe responsável por garantir que a IA seja usada de maneira ética.
- As ferramentas de IA foram criticadas por muitos artistas e escritores profissionais.
A nova ferramenta Bing Chat da Microsoft está causando grandes ondas, mas a gigante da tecnologia agora carece de uma equipe dedicada para se concentrar na implementação da tecnologia de IA de uma forma que atenda às diretrizes da empresa.
De acordo com um novo relatório da jogo de plataforma (através da The Verge (abre em nova aba)) A Microsoft recentemente demitiu a equipe responsável por lidar com a ética no uso de IA. Isso ocorre em um momento em que o Bing Chat está explodindo em popularidade, com a ferramenta levando o Bing a mais de 100 milhões de usuários ativos diariamente.
Platformer observa que, embora ainda haja um conjunto de princípios orientadores na forma do Office of Responsible AI da Microsoft, não há mais uma equipe dedicada para interpretar esses princípios em um campo de tecnologia em rápida evolução.
“As pessoas olhavam para os princípios que saem do escritório da IA responsável e diziam: ‘Não sei como isso se aplica'”, disse um ex-funcionário. “Nosso trabalho era mostrá-los e criar regras em áreas onde não havia nenhuma.”
A maior parte da equipe já havia sido transferida para outras partes da Microsoft, mas os funcionários restantes da equipe de ética foram demitidos em 6 de março de 2023.
“A Microsoft está comprometida em desenvolver produtos e experiências de IA com segurança e responsabilidade, e o faz investindo em pessoas, processos e parcerias que priorizam isso”, afirmou a empresa em comunicado.
“Nos últimos seis anos, aumentamos o número de pessoas em nossas equipes de produtos e no Escritório de IA responsável que, junto com todos nós da Microsoft, são responsáveis por garantir que colocamos nossos princípios de IA em prática. […] Agradecemos o trabalho pioneiro que a Ethics & Society fez para nos ajudar em nossa jornada contínua de IA responsável.”
Em 2020, a equipe de Ética e Sociedade contou com 30 integrantes, entre engenheiros, designers e filósofos. A equipe foi reduzida para cerca de sete pessoas, de acordo com o relatório da Platformer.
A agência também informou que a gigante da tecnologia pressionou para lançar a IA rapidamente, resultando na movimentação de muitos funcionários.
“A pressão de [CTO] Kevin [Scott] e [CEO] Satya [Nadella] é muito, muito alto pegar esses modelos OpenAI mais recentes e os que vêm depois deles e movê-los para as mãos dos clientes em uma velocidade muito alta”, disse John Montgomery, vice-presidente corporativo de IA em uma reunião com a equipe de Ética e Sociedade , de acordo com o áudio obtido pelo Platformer.
A equipe supostamente recuou, mas Montgomery disse: “posso reconsiderar? Acho que não”. Ele continuou: “Porque, infelizmente, as pressões permanecem as mesmas. Você não tem a visão que eu tenho e provavelmente pode ser grato por isso. Há muita coisa sendo moída na linguiça.”
O CVP disse na época que a equipe de Ética e Sociedade não seria eliminada. A empresa, no entanto, eliminou totalmente a equipe durante uma ligação feita em 6 de março de 2023.
Tomada do Windows Central
A IA é cada vez mais popular e as grandes empresas de tecnologia em todo o mundo estão correndo para encontrar novas maneiras de usá-la e aproveitar o que ela oferece. Essa tecnologia também sofreu imensas críticas, com geradores de imagens de IA coletando dados com base no trabalho dos artistas sem qualquer forma de crédito ou compensação. Eu pessoalmente acompanho muitos artistas e nenhum deles está feliz com o rumo que essa tecnologia está tomando.
Para uma empresa como a Microsoft continuar investindo bilhões de dólares em IA, ela precisa ter uma abordagem cuidadosa que ajude as pessoas e não roube o trabalho de outras pessoas. Abandonar a já murcha equipe de Ética e Sociedade que ajudou a responder a esses tipos de perguntas não inspira confiança.