Um estudo indica que tal cenário apocalíptico provavelmente ocorrerá “iminente”. (Foto: Shahadat Rahman para Unsplash)
TRABALHO MALDITO! é a seção de Olivier Schmouker que responde às suas perguntas mais interessantes (e relevantes) sobre o mundo do trabalho e suas peculiaridades. Um encontro para ler terças feiras e a Quintas-feiras. você quer participar? Envie-nos a sua pergunta para [email protected]
P. — “Trabalho no departamento de contabilidade de uma grande empresa e o nosso mais novo colega é… uma inteligência artificial (IA). Devo admitir que suas habilidades são fenomenais e que ela pode ser de grande utilidade para nós em muitas áreas. Mas me pergunto: como é apenas um robô, não tem sentido moral e poderia, portanto, pensando bem, realmente cometer um crime financeiro. Isso é ficção científica de “Black Mirror” ou uma possibilidade real?” — Etienne
R. — Caro Etienne, sua pergunta é judiciosa e relevante. Como prova, refiro-me a um estudo recente sobre o assunto que você está discutindo, assinado por Aslihan Asil, doutorando em economia financeira em Yale, e Thomas Wollmann, professor de economia na Universidade de Chicago. Vamos ver isso juntos.
Os dois pesquisadores observaram que a inteligência artificial (IA) tem cada vez mais rédea solta nas empresas que utilizam seus serviços, principalmente nas áreas de finanças e contabilidade. O princípio é simples: a empresa descobre que a IA é capaz de realizar mil e uma proezas, na velocidade da luz e sem cometer erros. Ela então pede que ele resolva problemas cada vez mais complexos e percebe que a performance está sempre presente; ela então chega a pedir que ele apresente novas ideias para melhorar ainda mais o desempenho financeiro da empresa. E é aqui que o perigo aponta a ponta do nariz…
O estudo considera um cenário fictício:
— A IA tem a missão de aumentar a lucratividade da empresa.
— Ela contata o diretor financeiro da principal empresa concorrente e se oferece para ajustar seus preços.
— O gerente aceita a proposta, e os preços sobem um pouco, para não chamar a atenção.
— Isso é bom para as duas empresas em questão (mas, é verdade, não para os consumidores).
Missão cumprida? De acordo com a IA, certamente. Mas de acordo com a lei, de forma alguma, porque isso é um ato de conluio.
Daí o questionamento dos dois pesquisadores: nesse caso, é crime previsto nas leis antitruste dos Estados Unidos e, se sim, quem pode ser responsabilizado? Após análise, chegaram à conclusão de que “este comportamento violaria a primeira seção da lei de Sherman”, que proíbe acordos ilícitos que visam restringir o comércio e o comércio, e, portanto, que “conluio seria comprovado”. Portanto, ambas as empresas podem ser consideradas criminalmente culpadas, assim como o líder da empresa concorrente que concordou com o acordo proposto pela IA.
Isso não é tudo. A Sra. Asil e o Sr. Wollmann apontam em seu estudo que seu cenário fictício deve ocorrer na realidade em breve. As empresas estão confiando cada vez mais responsabilidades às IAs, sem implementar todos os controles necessários para garantir que as ações por elas praticadas estejam, entre outras coisas, em conformidade com a lei. Especialmente em finanças e contabilidade.
Soma-se a isso outro ponto: e se, no cenário proposto, a IA não entrasse em contato com um ser humano de uma empresa concorrente, mas a IA desta última também fosse responsável por aumentar a lucratividade? As duas IAs podem se dar bem em um piscar de olhos e inventar todo um plano de ajuste de preço em fases, de modo que seja praticamente indistinguível. E isso colocaria as duas empresas na ilegalidade, sem que elas soubessem; o que não os impediria de serem fortemente condenados se algum dia viesse à tona.
Resumindo, Etienne, você trouxe à tona um ponto cego no atual advento da IA. Os robôs encarregados de missões financeiras e contábeis podem muito bem cometer crimes pelos quais os seres humanos devem responder. E estaria mesmo prestes a acontecer, a acreditar nos dois investigadores de Yale e da Universidade de Chicago.
Dedos cruzados para que isso não aconteça com você. No mínimo, não até que você tenha medidas de controle rígidas sobre seu novo colega de trabalho.
A propósito, o escritor francês Georges Bernanos disse em França contra robôs: “Um mundo ganho pela tecnologia é perdido pela liberdade”.