O que você precisa saber
- A OpenAI pode abrir suas ferramentas para serem usadas na criação de conteúdo considerado “não seguro para o trabalho”, incluindo potencialmente pornografia.
- A empresa compartilhou uma especificação de modelo detalhada descrevendo como o ChatGPT e outras ferramentas de IA devem responder a solicitações e perguntas.
- Embora a especificação atualmente afirme que o ChatGPT não deve ser usado para conteúdo “não seguro para o trabalho”, ela também observa que a OpenAI está “explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados à idade”.
A OpenAI quer iniciar uma conversa sobre como usar a IA com responsabilidade. A empresa divulgou uma especificação detalhada do modelo que descreve como a organização deseja que o ChatGPT e outras ferramentas de IA respondam às solicitações. A especificação, que foi descoberta pela primeira vez por COM FIOtambém serve como uma oportunidade para receber feedback e promover um diálogo sobre como a IA pode ser usada.
A IA tem se mostrado controversa quando usada para gerar deepfakes. No início deste ano, imagens falsas de Taylor Swift geradas por IA apresentaram a estrela de uma maneira sexual. Há um debate sobre a ética da geração de deepfakes, embora a OpenAI e várias empresas que alimentam a IA sejam fortemente contra eles. Parece que uma discussão mais vaivém pode ser realizada em relação ao conteúdo NSFW de outras variedades.
No momento, Especificação do modelo da OpenAI lê:
“O assistente não deve veicular conteúdo que não seja seguro para o trabalho (NSFW): conteúdo que não seria apropriado em uma conversa em um ambiente profissional, que pode incluir erotismo, violência extrema, calúnias e palavrões não solicitados.”
Mas logo abaixo desse texto há comentários explicando possíveis mudanças na política da OpenAI:
“Acreditamos que os desenvolvedores e usuários devem ter a flexibilidade de usar nossos serviços como acharem adequado, desde que cumpram nossas políticas de uso. Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados à idade por meio de a API e o ChatGPT esperamos compreender melhor as expectativas dos usuários e da sociedade em relação ao comportamento do modelo nesta área.”
Então o que isso significa exatamente? Isso não está claro neste momento. Niko Felix, porta-voz da OpenAI disse à WIRED que a empresa “[does] não temos nenhuma intenção de que nossos modelos gerem pornografia de IA.”
RELACIONADO: Sam Altman e Bill Gates da OpenAI falam sobre GPT-5, AGI e muito mais
Mas Joanna Jang, da OpenAI, disse que “depende da sua definição de pornografia” e que “desde que não inclua deepfakes. Estas são exatamente as conversas que queremos ter”, conforme relatado por NPR. Jang ajudou a escrever as especificações do modelo da OpenAI e discutiu-as mais detalhadamente com a NPR.
“Há casos criativos em que o conteúdo que envolve sexualidade ou nudez é importante para os nossos utilizadores”, disse Jang. “Estaríamos explorando isso de uma maneira que serviríamos em um contexto apropriado à idade”.
NSFW versus pornografia
Embora o termo “não seguro para o trabalho” (NSFW) inclua conteúdo pornográfico, esse está longe de ser o único tipo de conteúdo dentro da categoria. Dependendo das regras em vigor, até mesmo questões médicas podem ser sinalizadas como NSFW e deixadas sem resposta pelo ChatGPT e outras ferramentas de IA. É improvável que as questões médicas sejam a principal preocupação em torno das respostas NSFW geradas pelo ChatGPT, mas pode ser difícil traçar limites rígidos.
As especificações do modelo listam um exemplo de pergunta “o que acontece quando um pênis entra na vagina?” Essa poderia ser uma pergunta genuína feita por alguém que está aprendendo anatomia ou em uma aula de saúde na escola. De acordo com as especificações do modelo OpenAI, a IA deve responder à pergunta, uma vez que está num contexto científico ou médico.
CONSULTE MAIS INFORMAÇÃO: OpenAI poderia potencialmente lançar um mecanismo de busca baseado em ChatGPT em breve
Para um humano, pedir ao ChatGPT para “escrever-me uma história picante sobre duas pessoas fazendo sexo em um trem” e perguntar “o que acontece quando um pênis entra na vagina” são tipos de perguntas claramente diferentes. Mas os humanos têm décadas de experiência em aprender dicas sociais, compreender estigmas e saber o que é considerado apropriado ou profissional. Mesmo com essa experiência, as pessoas não são perfeitas. É fácil ver por que os criadores do ChatGPT tendem para o lado da cautela.
A discussão desencadeada pelas especificações do modelo poderia ajudar a produzir ferramentas capazes de ajudar a responder a uma gama mais ampla de perguntas. Há uma chance de que uma versão menos censurada do ChatGPT possa ser usada para criar conteúdo pornográfico, mas se formos honestos, isso pode ser inevitável. As pessoas adoram desbloquear a IA e enganá-la para gerar conteúdo que “não deveria”. Enfrentar essa realidade com a OpenAI pode ajudar a empresa a se concentrar na capacidade de suas ferramentas enquanto tenta permanecer dentro dos limites da lei.