No meio da crescente preocupação de que a IA possa facilitar a propagação de desinformação, a Microsoft está a oferecer os seus serviços, incluindo uma marca de água digital que identifica o conteúdo da IA, para ajudar a reprimir os deepfakes e a melhorar a segurança cibernética antes de várias eleições mundiais.
Em uma postagem no blog de coautoria do presidente da Microsoft, Brad Smith, e da vice-presidente corporativa da Microsoft, Tecnologia para Direitos Fundamentais, Teresa Hutson, a empresa disse que oferecerá vários serviços para proteger a integridade eleitoral, incluindo o lançamento de uma nova ferramenta que aproveita as credenciais de conteúdo sistema de marca d’água desenvolvido pela Coalition for Content Provenance Authenticity’s (C2PA). O objetivo do serviço é ajudar os candidatos a proteger o uso de seu conteúdo e imagem e evitar o compartilhamento de informações enganosas.
Chamadas de Credenciais de Conteúdo como Serviço, usuários de campanhas eleitorais podem usar a ferramenta para anexar informações aos metadados de uma imagem ou vídeo. As informações podem incluir a proveniência de quando, como, quando e quem criou o conteúdo. Também dirá se a IA esteve envolvida na criação do conteúdo. Esta informação torna-se parte permanente da imagem ou vídeo. C2PA, grupo de empresas fundado em 2019 que trabalha no desenvolvimento de padrões técnicos para certificar a proveniência de conteúdo, lançou as Credenciais de Conteúdo este ano. A Adobe, membro do C2PA, lançou um símbolo de credenciais de conteúdo para ser anexado a fotos e vídeos em outubro.
As credenciais de conteúdo como serviço serão lançadas na primavera do próximo ano e serão disponibilizadas pela primeira vez para campanhas políticas. A equipe Azure da Microsoft construiu a ferramenta. A beira entrou em contato com a Microsoft para obter mais informações sobre o novo serviço.
“Dada a natureza tecnológica das ameaças envolvidas, é importante que os governos, as empresas tecnológicas, a comunidade empresarial e a sociedade civil adoptem novas iniciativas, nomeadamente através do desenvolvimento do trabalho uns dos outros”, afirmaram Smith e Huston.
A Microsoft disse que formou uma equipe que fornecerá aconselhamento e apoio a campanhas em torno do fortalecimento das proteções de segurança cibernética e do trabalho com IA. A empresa também criará o que chama de Centro de Comunicações Eleitorais, onde os governos mundiais poderão ter acesso às equipes de segurança da Microsoft antes das eleições.
Smith e Hutson disseram que a Microsoft endossará a Lei de Proteção às Eleições contra IA Enganosa introduzida pela senadora Amy Klobuchar (D-MN), Chris Coons (D-DE), Josh Hawley (R-MO) e Susan Collins (R-ME). O projeto de lei busca proibir o uso de IA para produzir “conteúdo materialmente enganoso que represente falsamente candidatos federais”.
“Usaremos a nossa voz como empresa para apoiar mudanças legislativas e legais que contribuirão para a proteção de campanhas e processos eleitorais contra deepfakes e outros usos prejudiciais de novas tecnologias”, escreveram Smith e Huston.
A Microsoft também planeja trabalhar com grupos como a Associação Nacional de Diretores Eleitorais Estaduais, Repórteres Sem Fronteiras e a agência de notícias espanhola EFE para divulgar sites confiáveis sobre informações eleitorais no Bing. A empresa disse que isso amplia sua parceria anterior com Newsguard e Claim Review. Espera divulgar regularmente relatórios sobre influências estrangeiras em eleições importantes. Já divulgou o primeiro relatório analisando ameaças de influências malignas estrangeiras.
Algumas campanhas políticas já foram criticadas por circularem fotos e vídeos manipulados, embora nem todos tenham sido criados com IA. Bloomberg relatou que a campanha de Ron DeSantis divulgou imagens falsas de seu rival Donald Trump posando com Anthony Fauci em junho e que o Comitê Nacional Republicano promoveu um vídeo falso de um EUA apocalíptico culpando o governo Biden. Ambos foram atos relativamente benignos, mas foram citados como exemplos de como a tecnologia cria aberturas para espalhar desinformação.
A desinformação e as falsificações profundas são sempre um problema em qualquer eleição moderna, mas a facilidade de utilização de ferramentas generativas de IA para criar conteúdos enganosos alimenta a preocupação de que estes sejam utilizados para enganar os eleitores. A Comissão Eleitoral Federal dos EUA (FEC) está discutindo se irá proibir ou limitar a IA em campanhas políticas. A deputada Yvette Clark (D-NY) também apresentou um projeto de lei na Câmara para obrigar os candidatos a divulgar o uso de IA.
No entanto, existe a preocupação de que as marcas d’água, como as credenciais de conteúdo, não sejam suficientes para impedir a desinformação de uma vez. A marca d’água é um recurso central na ordem executiva da administração Biden em torno da IA.
A Microsoft não é a única grande empresa de tecnologia que espera conter o uso indevido de IA nas eleições. A Meta agora exige que os anunciantes políticos divulguem conteúdo gerado por IA depois de proibi-los de usar suas ferramentas generativas de anúncios de IA.
