Presidente da Signal, Meredith Whittaker, em 23 de maio (Foto: Miguel Medina / AFP)
Paris – As atuais tecnologias de inteligência artificial (IA) baseiam-se na vigilância em massa”, que se tornou “o motor econômico da indústria tecnológica”, alerta Meredith Whittaker, presidente da Signal, de mensagens encriptadas, reunida pela AFP no salão VivaTech em Paris.
A IA “requer uma quantidade astronômica de dados” e os produz “cada vez que faz uma previsão ou gera conteúdo”, lembra Meredith Whittaker, que trabalhou por mais de dez anos em questões de ética da IA dentro do Google, antes de bater a porta.
Estes dados, que podem ser completamente falsos, têm o poder “de dirigir as nossas vidas de uma forma que nos deveria alarmar”, continua ela.
O risco da IA, para este especialista, é acreditar no mito de uma “inteligência com capacidades sobre-humanas” e não ver que está “nas mãos de um punhado de empresas tecnológicas americanas que controlam a inteligência artificial e as infra-estruturas que governá-lo.
“Este é o resultado do modelo econômico de vigilância em massa que nasceu na década de 1990 nos Estados Unidos e que se tornou o motor econômico da indústria tecnológica”, acredita.
“Acolhemos estas empresas nos nossos governos e nas nossas instituições mais fundamentais – e até nas nossas vidas – sem responsabilização”, alerta Meredith Whittaker.
A IA é “uma ferramenta para quem tem acesso ao capital, que geralmente é testada naqueles que têm menos poder”, acrescenta ela. “A maioria de nós não é usuário de inteligência artificial, nossos empregadores ou as autoridades governamentais a usam contra nós.”
“Reimaginando” a IA
Lançado em 2014 e financiado por doações, sem campanha de marketing ou orçamento de comunicação, o Signal rapidamente se tornou popular entre denunciantes e jornalistas.
Em termos de segurança de dados, o aplicativo americano é referência: não exige que o usuário compartilhe seu número de telefone, as mensagens são criptografadas por meio de um protocolo desenvolvido internamente e a quantidade de metadados aos quais o Signal tem acesso é mínima.
Sua popularidade aumentou no início de 2021, quando seu concorrente WhatsApp anunciou que compartilharia mais dados com sua empresa-mãe, o Facebook. No entanto, com mais de 40 milhões de utilizadores regulares, segundo especialistas, continua muito atrás dos gigantes WhatsApp (mais de 2 mil milhões de utilizadores) ou Messenger (quase mil milhões).
A fundação californiana responsável pelas mensagens fixou residência em Paris até ao final do ano para se concentrar no mercado europeu.
Mas, para Meredith Whittaker, a Europa não deveria tentar competir com os Estados Unidos ou a China numa corrida de IA “com algoritmos que reforçam sistemas de desigualdade e controlo”.
Por outro lado, ela apela aos líderes europeus para “reimaginarem a tecnologia que possa servir sociedades mais democráticas e que respeitem os direitos”.
O patrão “acha que o Signal é um bom exemplo e mostra que podemos construir uma tecnologia diferente que rejeite o modelo econômico de vigilância”.
“Sinto vontade de chorar”
Quanto à necessidade de IA de código aberto (ou seja, com código-fonte de acesso livre), defendida pelas empresas francesas Mistral AI ou Hugging Face, mas também pela americana Meta, Meredith Whittaker e não acredito.
” O que é Código aberto sobre uma tecnologia que requer US$ 100 milhões em poder computacional para treinar um único modelo?”, pergunta a mulher que co-escreveu um artigo sobre o assunto, que será publicado em breve na revista científica Natureza.
Tornar os conjuntos de dados acessíveis e permitir mais transparência nos modelos continua a ser útil, para a Sra. Whittaker, mas “precisamos de rever a definição e perguntar-nos o que realmente queremos dizer com código aberto”.
Também nos convida a aceitar com cautela as promessas da IA em relação ao meio ambiente.
“Há uma conversa constante sobre ciência ambiental, sobre um tipo de intervenção climática que virá da capacidade de analisar grandes quantidades de dados, identificar padrões recorrentes e usar inteligência artificial para o clima”, observa ela.
“Mas a quantidade de energia necessária para a criação e implantação destes sistemas dá vontade de chorar”, afirma o presidente da Signal, apontando “uma utilização massiva de combustíveis fósseis e recursos hídricos”.
Por Daxia Rojasa, Agência France-Presse
Assine nossa newsletter temática para receber conteúdos que vão de encontro à sua realidade:
Techno – Toda segunda-feira
Encontre conselhos de nossos especialistas em segurança cibernética, análises sobre criptomoedas e as últimas notícias sobre inovações tecnológicas.