Publicidade
O Grok, inteligência artificial (IA) da rede social X, entrou em diversas discussões nas últimas semanas após diversos usuários alegarem que a ferramenta permitia editar fotos em prol da exploração sexual de crianças e mulheres.
As imagens são realizadas a partir do pedido de usuários, o que provocou reações das redes sociais, que exigiram um posicionamento do X, que anunciou atualizações na IA.
O perfil oficial da rede afirmou que a equipe segue empenhada em deixar a plataforma segura para todos e mantém política de tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
Continua depois da publicidade
“Tomamos medidas para remover conteúdo violador de alta prioridade, incluindo material de abuso sexual infantil e nudez não consensual, aplicando as medidas cabíveis contra contas que violam nossas Regras X. Também denunciamos às autoridades policiais, quando necessário, contas que buscam materiais de exploração sexual infantil”, afirmou, em nota.
Em relação às atualizações do Grok, o X indicou que foram implementadas medidas tecnológicas para impedir que a conta da IA permita a edição de imagens de pessoas reais com roupas reveladoras, como biquíni. Essa restrição se aplica imediatamente a todos os usuários, incluindo assinantes pagos.
Além disso, a criação e edição de imagens por meio da conta Grok na plataforma X agora estão disponíveis apenas para assinantes pagos, o que, para a equipe de segurança, adiciona uma camada extra de proteção.
Houve ainda um bloqueio geográfico para usuários de criarem imagens de pessoas reais de biquíni, roupa íntima e trajes semelhantes por meio da conta Grok e no Grok X nas jurisdições onde isso é ilegal.
Elon Musk, dono da rede social e da xAI, responsável pela criação e controle do Grok, indicou que não sabe de qualquer imagem gerada pela IA que contenha nudez.
“Não tenho conhecimento de nenhuma imagem de menores de idade com nudez gerada pelo Grok. Literalmente zero. Obviamente, o Grok não gera imagens espontaneamente, apenas mediante solicitação do usuário. Quando solicitado a gerar imagens, ele se recusará a produzir qualquer conteúdo ilegal, pois o princípio de funcionamento do Grok é obedecer às leis de qualquer país ou estado. Pode haver momentos em que tentativas de invasão maliciosas do Grok resultem em algo inesperado. Se isso acontecer, corrigiremos o bug imediatamente”, escreveu em post.
Continua depois da publicidade