Quantas manchetes você viu nas últimas semanas que o fariam pensar que ferramentas de IA como ChatGPT e Bing Chat são ruins? Aposto que são pelo menos alguns. E então você vai a lugares como o Reddit.
Esses novos produtos empolgantes são uma verdadeira revolução na forma como conseguimos conduzir negócios on-line de todos os tipos. Os grandes modelos de linguagem (LLM) nos quais eles são treinados produziram algo que pode ajudá-lo a aprender, solucionar problemas, economizar tempo no seu dia, uma série de coisas úteis.
Mas, como qualquer coisa, o outro lado disso é “bem, o que posso fazer com que não deva” ou “como posso fazer com que diga (xyz) coisas estúpidas”. Você entendeu a ideia. Eu já estou muito, muito cansado de ver tantos artigos e tópicos sobre todas as porcarias idiotas, ou pior, porcarias perigosas, que as pessoas estão criando chatbots de IA. Isso apenas prova que a IA não é o problema. Nós somos. Os humanos são os piores.
AI LLMs são treinados em recursos feitos pelo homem
Por que um chatbot de IA pode fazer algo ruim em primeiro lugar? Porque as pessoas produziram o conteúdo sobre o qual foi treinado. Isso não é mágica. O ChatGPT não surgiu apenas um dia por conta própria. Tudo começa conosco. Com humanos.
Posso, é claro, estar errado, mas não acredito que os engenheiros da OpenAI por trás do GPT tenham tomado uma decisão consciente de incluir coisas terríveis em seu modelo. O GPT, como outros LLMs, é treinado em conteúdo e recursos que já existem no mundo. Se tem coisa ruim aí é porque uma pessoa fez primeiro.
Isso destaca a necessidade de cautela, ou melhor, até de regulamentação, sobre a IA, porque sem a resposta emocional de que uma pessoa é capaz, esta máquina produzirá o que pensa ser a resposta certa. Existem limites no software, e os da Microsoft são ainda mais rígidos que os do OpenAI, mas não são à prova de balas. E as pessoas podem contorná-los sem muito trabalho duro.
Eu entendo, no entanto. “Pedi ao Bing Chat para fazer algo estúpido e ele deu uma resposta igualmente estúpida” é o tipo de título em que as pessoas clicam. Eu mesmo fiz isso ao pedir que escrevesse um poema sobre o Windows Phone. Eu diria que isso não é necessariamente ruim, mas a enxurrada constante de pessoas na Internet fazendo coisas estúpidas está ficando cansativa e distraída de como útil IA pode ser.
Se ele lhe deu uma resposta idiota para alguma coisa, é provável que tenha sido baseado em algo igualmente idiota em que foi treinado para começar. E o prompt que foi inserido na primeira instância. Começa e termina conosco.
Comece a se concentrar no bem antes que alguém o estrague
Eu fui inspirado neste tópico pelo Reddit post abaixo de u/Cooltake. Seu contexto foi inicialmente direcionado para o Bing Subreddit, mas acho que é aplicável ao espaço mais amplo da IA agora.
Postagens que odeio: ‘Eu fiz o Bing dizer XYZ’ e ‘Bing compartilhando seus sentimentos sobre XYZ’ de r/bing
Os exemplos citados nesse post são extremos (e esperançosamente fictícios), mas dão conta do recado. Com minha cabeça profissional, estou muito animado com as ferramentas de IA agora. Estou gastando muito tempo usando-os e escrevendo sobre eles. Mas isso também significa passar por muito desse tipo de escória.
Todos nós nos divertimos, sabemos que o ChatGPT e o Bing Chat podem dizer coisas bobas ou podem ser ‘jailbroken’ para dizer coisas que não deveriam dizer. Mas podemos superar isso agora e começar a focar no positivo.
Aqui está um exemplo para você. Ainda esta tarde, eu, alguém sem experiência em codificação, tive uma sessão deliciosamente perspicaz com o Bing Chat, onde me apresentou como usar a API do OpenAI em um projeto Python simples. Ele entendeu que eu era um novato e, com o prompt certo, me fez perguntas, ofereceu um código de amostra e começou a explicar o referido código. Em seguida, perguntou-me se eu havia entendido o que acabara de me mostrar. E eu fiz, surpreendentemente.
Este é o tipo de coisa que eu quero ver mais. Quero ver como as pessoas estão usando IA para melhorar a si mesmas e suas vidas. Para educar, para automatizar, como essas coisas estão nos ajudando a melhorar a nós mesmos.
Se continuar gastando muito esforço para quebrar essas ferramentas e gerar manchetes com um viés negativo, o que vai acontecer? Já existem proibições para o ChatGPT em alguns países, a UE está ameaçando com mais, e fazendo com que as pessoas que deveriam (mas não sabem) temerem que essas ferramentas caiam em suas mãos.
Então, vamos tentar falar mais sobre o positivo. Divertir-se é ótimo, desde que tenha sentido e não prejudique ninguém. Mas quero saber mais sobre as coisas incríveis que as pessoas estão fazendo com o ChatGPT e o Bing Chat. Então, por favor, compartilhe.