Um ex-diretor atlético de uma escola secundária de Baltimore foi preso e acusado de usando um serviço de clonagem de voz de IA para incriminar o diretor da escola.
A Bandeira de Baltimore relata que a polícia de Baltimore acredita que uma suposta gravação do diretor da Pikesville High School, Eric Eiswert, fazendo comentários racistas e anti-semitas foi falsificada. Especialistas disseram A Bandeira de Baltimore e a polícia de Baltimore que a gravação, que circulou pelas redes sociais em janeiro e resultou brevemente na suspensão de Eiswert, tem um “tom monótono, sons de fundo excepcionalmente limpos e falta de sons respiratórios consistentes ou pausas”.
A polícia de Baltimore rastreou a gravação até Dazhon Darien, um ex-diretor atlético da escola cujo nome também foi mencionado no clipe de áudio. Ele supostamente acessou os computadores da escola para procurar “ferramentas OpenAI”. Não está claro qual plataforma de voz de IA Darien supostamente usou.
Neste ambiente tenso, a OpenAI decidiu em março retirar a sua plataforma de geração de texto para voz de IA, Voice Engine, do uso público. O serviço, que requer apenas um clipe de áudio de 15 minutos para clonar a voz de alguém, está disponível apenas para um número limitado de pesquisadores devido à falta de proteções em torno da tecnologia.
Os legisladores dos EUA apresentaram, mas ainda não aprovaram, vários projetos de lei, como o No Fakes Act e o No AI Fraud Act, que procuram impedir que as empresas de tecnologia utilizem o rosto, a voz ou o nome de um indivíduo sem a sua permissão.
theverge