A startup de inteligência artificial de Elon Musk, XAI, processou um homem da Carolina do Sul preso no início deste ano por acusações de abuso sexual infantil, depois que ele alegou ter usado indevidamente o sistema de inteligência artificial da empresa, Grok, para criar imagens de abuso sexual infantil.
A XAI alegou em uma ação movida no tribunal federal do Texas na terça-feira que Terry Harwood violou os termos de serviço da empresa. O caso é um dos primeiros movidos por uma empresa de IA contra um de seus usuários por supostamente usar o sistema de IA para produzir material de abuso sexual infantil.
Os porta-vozes da xAI não responderam imediatamente a um pedido de comentário na quarta-feira. O processo da empresa contra Harwood ocorre depois que a XAI lançou uma rigorosa investigação global sobre alegações de que Grok permitiu que usuários criassem deepfakes sexualizados não uniformes, ou vídeos de aparência realista feitos por inteligência artificial. As informações de contato de Harwood, que foi preso em fevereiro, não estavam disponíveis imediatamente.
depois da campanha do boletim informativo
A denúncia da xAI dizia que a empresa “aplica suas políticas contra os infratores, suspendendo contas, encerrando contas e denunciando material suspeito de exploração sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas”.
A XAI alegou que Harwood carregou imagens não sexuais de adultos e menores para Grok e tentou usar o sistema para criar falsificações profundas sexualmente explícitas com base nelas. A denúncia também alegou que ele criou uma imagem sexual não consensual de adultos.
A empresa buscou uma quantia não especificada em indenização monetária e uma ordem judicial proibindo permanentemente Harwood de usar Grok.
“As ações do Réu foram um plano calculado para transformar a ferramenta do Requerente em uma arma para fins criminais, sujeitando as vítimas reais a danos profundos e duradouros, ao mesmo tempo em que expôs o Requerente a riscos legais e de reputação significativos”, disse XAI no processo.
