A introdução de um novo recurso Alexa que permite falar usando as vozes dos mortos causou choque e horror generalizados.
A ferramenta foi comparada com a ficção científica distópica e trouxe preocupações sobre a forma como a tecnologia poderia ser usada para enganar as pessoas, bem como quebrar as preocupações éticas usuais.
O recurso permite que os alto-falantes inteligentes Alexa simulem a voz de outras pessoas – particularmente, disse a Amazon, aqueles que morreram – e permitem que o sistema de IA fale usando-o.
O que é Alexa característica?
Destina-se, quase literalmente, a canalizar os mortos. Pode pegar um pequeno trecho de voz gravada e usá-lo como a voz de Alexa, permitindo que o sistema de IA fale como alguém que não está mais vivo.
No exemplo usado pela Amazon na manifestação, Alexa leu um livro para uma criança na voz de sua avó morta.
Ele observou que o recurso pode ser útil para ajudar as pessoas a manter as memórias de pessoas mortas e sugeriu que essa ferramenta poderia ser especialmente útil durante uma pandemia que viu muitas pessoas perderem amigos e familiares.
O recurso é capaz de fazer tudo isso com apenas um trecho de áudio de um minuto, disse a Amazon. Isso presumivelmente significaria que o recurso poderia ser usado mesmo para pessoas que não gravaram especificamente sua voz para o sistema antes de morrer.
Saiu agora?
Não. A ferramenta foi demonstrada como parte de um conceito da Amazon, embora pareça ser real e disponível para a própria Amazon.
Não deu nenhuma indicação de quando poderia chegar aos dispositivos Alexa de todos os outros. E após a reação de choque generalizada, pode nunca chegar.
Quão difundida é essa tecnologia?
Embora o recurso Alexa possa ser a primeira vez que foi lançado em um dispositivo de consumidor voltado para o público, a tecnologia que usa IA para recriar as vozes das pessoas existe há algum tempo.
Ganhou notoriedade pública particularmente quando foi usado em filmes. Recentemente, por exemplo, essa tecnologia foi usada em um documentário de Anthony Bourdain para recriar a voz do falecido chef enquanto ele lia cartas e permitir que Val Kilmer falasse em Top Gun: Maverick como ele fez antes de sua voz ser afetada pelo câncer de garganta.
Mas também é usado de maneiras menos óbvias e mais diárias. O software de edição de áudio pode usar a voz das pessoas para trocar palavras se uma pessoa falar errado, por exemplo.
Esse uso – e a facilidade com que pode ser feito – levou a preocupações de que poderia ser facilmente usado para criar “deepfakes de áudio”, de pessoas aparentemente dizendo coisas que nunca disseram. Essa preocupação levou empresas como a Microsoft a limitar o acesso a essa tecnologia, na esperança de garantir que ela fosse usada com responsabilidade.
Por que as pessoas estão comparando Espelho preto?
Além de ser o tipo de invenção tecnológica distópica que seria mostrada no programa, o recurso Alexa tem uma semelhança ainda maior com partes específicas da série de TV. No episódio ‘Be Right Back’, exibido pela primeira vez em 2013, um personagem é mostrado tornando-se amigo de um andróide construído para copiar o comportamento de seu parceiro morto.
Assim como o Alexa é capaz de criar a voz de uma pessoa com apenas um minuto de áudio, o Android é construído a partir de conversas de texto e postagens de mídia social. Em ambos os casos, real e fictício, a inteligência artificial é capaz de usar uma quantidade relativamente limitada de dados para construir uma versão detalhada – ainda que incompleta – da pessoa.
A reação ao episódio de Black Mirror foi misturada da mesma maneira que foi para o recurso Alexa. Os críticos notaram que era distópico, mas também tocante, talvez da mesma maneira que alguns possam ver o recurso Alexa.
E a Espelho preto episódio já inspirou a tecnologia real – alguns anos depois, uma tecnóloga construiu uma versão de seu amigo morto, citando o episódio como inspiração. Como era de se esperar, isso se mostrou controverso: alguns acharam o chatbot notavelmente semelhante ao seu amigo perdido, mas outros reclamaram que sua criadora Eugenia Kuyda havia perdido o ponto do episódio.
