Homem de Wisconsin preso por supostamente criar material de abuso sexual infantil gerado por IA

Um engenheiro de software de Wisconsin foi preso na segunda-feira por supostamente criar e distribuir milhares de imagens de material de abuso sexual infantil (CSAM) geradas por IA.

Documentos judiciais descrevem Steven Anderegg como “extremamente experiente em tecnologia”, com formação em ciência da computação e “décadas de experiência em engenharia de software”. Anderegg, 42, é acusado de enviar imagens geradas por IA de menores nus para um menino de 15 anos via DM do Instagram. Anderegg foi colocado no radar das autoridades depois que o Centro Nacional para Crianças Desaparecidas e Exploradas sinalizou as mensagens, que ele supostamente enviou em outubro de 2023.

De acordo com informações policiais obtidas do Instagram, Anderegg postou uma história no Instagram em 2023 “consistindo em uma imagem realista da GenAI de menores vestindo roupas de couro com tema BDSM” e encorajou outros a “verificar” o que estavam perdendo no Telegram. Em mensagens privadas com outros usuários do Instagram, Anderegg supostamente “discutiu seu desejo de fazer sexo com meninos pré-púberes” e disse a um usuário do Instagram que tinha “toneladas” de outras imagens CSAM geradas por IA em seu Telegram.

Anderegg supostamente começou a enviar essas imagens para outro usuário do Instagram depois de saber que ele tinha apenas 15 anos. “Quando este menor deu a conhecer a sua idade, o arguido não o rejeitou nem fez mais perguntas. Em vez disso, ele não perdeu tempo em descrever a esse menor como ele cria imagens GenAI sexualmente explícitas e envia à criança conteúdo personalizado”, afirmam os documentos de acusação.

Quando as autoridades revistaram o computador de Anderegg, encontraram mais de 13.000 imagens “com centenas – senão milhares – dessas imagens retratando menores pré-púberes nus ou semivestidos”, segundo os promotores. Documentos de cobrança dizem que Anderegg fez as imagens no modelo de texto para imagem Stable Diffusion, um produto criado pela Stability AI, e usou “prompts extremamente específicos e explícitos para criar essas imagens”. Anderegg também supostamente usou “instruções negativas” para evitar a criação de imagens representando adultos e usou complementos de Difusão Estável de terceiros que “se especializaram na produção de genitália”.

No mês passado, várias grandes empresas de tecnologia, incluindo Google, Meta, OpenAI, Microsoft e Amazon, disseram que revisariam seus dados de treinamento de IA para CSAM. As empresas comprometeram-se com um novo conjunto de princípios que incluem modelos de “testes de resistência” para garantir que não estão a criar CSAM. A Stability AI também aderiu aos princípios.

De acordo com os promotores, esta não é a primeira vez que Anderegg entra em contato com as autoridades policiais por causa de sua suposta posse de CSAM por meio de uma rede peer-to-peer. Em 2020, alguém usando a Internet na casa de Anderegg em Wisconsin tentou baixar vários arquivos de CSAM conhecidos, afirmam os promotores. As autoridades fizeram buscas em sua casa em 2020 e Anderegg admitiu ter uma rede ponto a ponto em seu computador e redefinir frequentemente seu modem, mas não foi acusado.

Num documento de apoio à prisão preventiva de Anderegg, o governo observou que ele trabalhou como engenheiro de software durante mais de 20 anos e que o seu currículo inclui um trabalho recente numa startup, onde utilizou o seu “excelente conhecimento técnico na formulação de modelos de IA”.

Se for condenado, Anderegg pode pegar até 70 anos de prisão, embora os promotores digam que “a faixa de pena recomendada pode ser tão alta quanto a prisão perpétua”.

theverge