Embora o uso da IA ​​para gerar conteúdo adulto não seja novo-já que o GPT-3.5 trouxe a IA para o mainstream em 2023, todo novo lançamento de modelo de IA viu uma corrida de revisores de tecnologia e entusiastas on-line-o caso de Grok 3 é particularmente flagrante. A comunidade de IA sempre foi rápida em explorar novos modelos para o conteúdo adulto, e Grok 3 não é exceção. Plataformas como Reddit e Arxiv estão repletas de guias sobre como ignorar as restrições e gerar material explícito.

As principais empresas de IA têm se esforçado para implementar críticas morais rigorosas para conter esse uso indevido. Por exemplo, o Midjourney, uma plataforma líder de geração de imagens de IA, possui políticas rigorosas contra o conteúdo do NSFW (não é seguro para o trabalho), incluindo imagens violentas, nuas ou sexualizadas. Violações podem levar a proibições de conta. No entanto, essas medidas geralmente ficam aquém quando os usuários encontram maneiras criativas de contornar restrições, uma prática conhecida coloquialmente como "jailbreak".

A demanda por conteúdo adulto é um fenômeno global e atemporal, e a IA apenas forneceu uma nova saída. Recentemente, até o OpenAI relaxou algumas de suas restrições de conteúdo sob pressões de crescimento, exceto pelo conteúdo envolvendo menores, o que permanece estritamente proibido. Essa mudança tornou as interações com a IA mais humana e envolvente, como evidenciado pelas reações entusiasmadas ao Reddit.