O governo da Índia ordenou que o X (ex-Twitter), empresa do bilionário Elon Musk, realize alterações técnicas imediatamente em seu chatbot de inteligência artificial (IA), o Grok. Usuários do serviço em todo o mundo alertaram sobre a geração de conteúdo “obsceno” pela ferramenta, contendo “nudez, sexualização, conteúdo sexualmente explícito ou material ilegal de qualquer outra forma”.
Nesta sexta-feira (2), o Ministério de Tecnologia da Informação do país emitiu uma ordem instruindo a companhia a restringir a criação desse tipo de conteúdo, dando 72 horas para que o X apresente um relatório detalhado das medidas tomadas para impedir a hospedagem ou disseminação de conteúdo considerado “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou proibido por lei de qualquer outra forma”.
Segundo o site TechCrunch, o descumprimento pode comprometer as proteções que a plataforma possui, incluindo a imunidade legal contra responsabilidade por conteúdo gerado pelo usuário sob a lei indiana.
Reclamações contra o Grok
Diversos usuários compartilharam exemplos de solicitações feitas ao Grok para alterar imagens de pessoas, principalmente mulheres, fazendo-as parecer estar usando biquínis, o que levou a uma queixa formal da parlamentar indiana Priyanka Chaturvedi.
Relatos recentes apontaram situações em que o chatbot de IA gerou imagens sexualizadas envolvendo crianças, problema reconhecido pelo X, que diz ter removido as imagens. Mas as imagens geradas pelo Grok tendo como alvo mulheres que não autorizaram o uso de suas fotos permanecem no ar.
Regulação das redes
Na segunda-feira (29), o governo indiano emitiu uma ordem dirigida às plataformas de redes sociais ressaltando que o cumprimento das leis locais que regem conteúdo obsceno e sexualmente explícito é um pré-requisito para manter a imunidade legal contra responsabilidade por material gerado pelo usuário.
“Reitera-se que o não cumprimento dos requisitos acima será encarado com seriedade e poderá resultar em severas consequências legais contra a sua plataforma, seus responsáveis e os usuários da plataforma que violarem a lei, sem aviso prévio”, advertiram as autoridades do país.
O X contesta na Justiça da Índia as regras de regulamentação de conteúdo do país. A companhia de Musk alega que os poderes de remoção de conteúdo do governo federal representariam um risco de abuso de poder.
Com informações do TechCrunch