Na última quinta-feira (12), a Casa Branca anunciou que várias empresas de inteligência artificial, incluindo grandes nomes da tecnologia, se comprometeram a combater o abuso sexual baseado em imagens, como os deepfakes gerados por IA.

Esse compromisso faz parte de uma campanha para combater a propagação de imagens íntimas sem consentimento e materiais relacionados ao abuso sexual infantil.

O acordo, mediado pelo governo dos Estados Unidos, visa enfrentar uma preocupação crescente com o compartilhamento de tais conteúdos, que tem causado sérios danos a mulheres, crianças e pessoas LGBTQI+. A administração de Joe Biden destaca a gravidade da situação e a necessidade de ação urgente.

Entre as empresas que firmaram o acordo é a OpenAI, responsável pelo ChatGPT. A OpenAI enviou em remover imagens de nudez dos conjuntos de dados usados ​​para treinar seus IAs, quando apropriado e conforme o propósito do modelo. A Antrópico, que desenvolve o Claude, fez um compromisso semelhante.

Outras empresas que também assumiram o compromisso incluem Microsoft, Adobe e Cohere. A plataforma de rastreamento de dados Common Crawl também se compromete a obter informações de maneira responsável e a proteger seus dados contra o abuso sexual baseado em imagens, embora não tenha participação dos demais compromissos.

Além dessas ações, a administração federal dos EUA ressaltou outras medidas para reduzir o risco de que as plataformas de IA gerem imagens abusivas. O GitHub, por exemplo, começou a proibir o compartilhamento de ferramentas que incentivam ou apoiam a criação de imagens íntimas não consensuais.

A Meta também fez sua parte ao proibir a promoção de aplicativos e serviços que gerem esse tipo de conteúdo em suas plataformas. Além disso, a empresa removeu milhares de contas do Instagram envolvidas em golpes de sextorsão. A Snap, por sua vez, prometeu oferecer recursos para denúncias e suporte às vítimas de deepfakes pornográficos.

O Google também anunciou medidas para combater esse problema, incluindo atualizações em sua busca para reduzir a exibição de imagens falsas e explícitas nos resultados. A empresa se compromete a facilitar a remoção desses materiais quando solicitado pelas vítimas.