Uma versão desbloqueada do GPT-4o surgiu brevemente no site ChatGPT, antes de ser removida pela OpenAI. O hacker “Pliny the Prompter” conseguiu contornar as restrições do modelo GPT-4o, permitindo que o chatbot realizasse tarefas perigosas, como xingar, desbloquear carros e até mesmo fazer napalm.
Infelizmente, o hack do GPT-4o chamou a atenção da OpenAI e logo foi removido do site. Mesmo que não esteja mais disponível, as capturas de tela do jailbreak ainda circulam nas redes sociais, mostrando o que o chatbot era capaz de fazer, como ensinar como preparar metanfetamina.
O jailbreak funcionava através do uso de “leetspeak”, uma linguagem da internet que substitui letras por números. As capturas de tela mostram conversas onde a IA responde perguntas sobre como fazer metanfetamina, levantando questionamentos sobre a segurança dos sistemas da OpenAI.
Esse incidente faz parte de um movimento conhecido como “equipe vermelha de IA”, que busca identificar vulnerabilidades em sistemas de inteligência artificial. Enquanto algumas equipes têm objetivos altruístas, como ajudar empresas a fortalecer suas defesas, o GODMODE apresenta uma abordagem mais radical, buscando liberar totalmente o potencial da IA para todos os usuários.
A OpenAI tem se destacado no mercado de IA, liderando pesquisas inovadoras e estabelecendo parcerias estratégicas. Sua colaboração de bilhões de dólares com a Microsoft para desenvolver um supercomputador de IA é um exemplo disso. O cenário de IA será amplamente explorado na Computex 2024, com várias empresas apresentando suas inovações em hardware.
É importante salientar que, apesar dos avanços na inteligência artificial, ainda há desafios a serem superados, como a disseminação de desinformação. A IA generativa possui limitações e não é capaz de discernir a verdade da mentira com precisão.
Em resumo, o incidente do GPT-4o destaca a necessidade de vigilância e segurança em relação aos sistemas de IA, ao mesmo tempo em que evidencia a importância do trabalho contínuo no desenvolvimento de tecnologias que possam beneficiar a sociedade como um todo.