Embora o uso de IA para gerar conteúdo adulto não seja novidade — desde que o GPT-3.5 tornou a IA popular em 2023, cada novo lançamento de modelo de IA tem sido alvo de uma onda de críticos de tecnologia e entusiastas online — o caso da Grok 3 é particularmente flagrante. A comunidade de IA sempre foi rápida em explorar novos modelos para conteúdo adulto, e a Grok 3 não é exceção. Plataformas como Reddit e arXiv estão repletas de guias sobre como contornar restrições e gerar material explícito.

Grandes empresas de IA têm se esforçado para implementar avaliações morais rigorosas para coibir esse uso indevido. Por exemplo, a Midjourney, uma plataforma líder em geração de imagens de IA, possui políticas rígidas contra conteúdo NSFW (Not Safe For Work), incluindo imagens violentas, de nudez ou sexualizadas. Violações podem levar ao banimento da conta. No entanto, essas medidas muitas vezes não são suficientes, pois os usuários encontram maneiras criativas de contornar as restrições, uma prática coloquialmente conhecida como "jailbreaking".

A demanda por conteúdo adulto é um fenômeno global e atemporal, e a IA apenas forneceu uma nova saída. Recentemente, até mesmo a OpenAI flexibilizou algumas de suas restrições de conteúdo devido à pressão do crescimento, exceto para conteúdo envolvendo menores, que permanece estritamente proibido. Essa mudança tornou as interações com a IA mais humanas e envolventes, como evidenciado pelas reações entusiasmadas no Reddit.