Nem mesmo Sam Altman está a salvo de deepfakes de IA no Instagram
Há muitas pessoas postando conteúdo deepfake no Instagram, inclusive recentemente de um dos executivos mais proeminentes da Meta.
No início de novembro, o diretor de IA da Meta, Alexandr Wang, compartilhou um pequeno clipe promovendo o Muse, o agente de IA do consumidor da empresa. O clipe gerado por IA apresenta uma videochamada entre Wang, o CEO da Meta, Mark Zuckerberg, o CEO da OpenAI, Sam Altman, e a mascote antropomórfica do Muse, Jolie. Quando Altman entra na chamada, ele parece um personagem fofo, vestido como Jolie, completo com um terno peludo com capuz e pintura facial. O clipe tem a legenda “Quando nos reunimos para conversar sobre a estratégia de produto Openai” e faz referência à corrida de agentes de IA e à recente popularidade do Muse.
Há apenas alguns anos, o conteúdo de IA que representava seres humanos reais levou a fortes declarações públicas condenando o uso da tecnologia para imitar os seres humanos. Em alguns casos, houve ameaça de ação legal. O conteúdo de IA agora faz parte da nova textura da realidade, especialmente nas redes sociais. Grupos políticos que se preparam para eleições intercalares, etc. Colocou milhões de dólares em anúncios gerados por IA oponente para atacar.
O Sr. Wang faz muitas coisas que algumas pessoas fazem. explicado Tweetado centenas de vezes como um “anti-RP” promovendo Muse, menção Para os profissionais de marketing mais tradicionais, isso é chamado de “lentidão corporativa”. Ainda assim, um grande executivo de tecnologia postando um vídeo de IA de um concorrente é notável, especialmente em uma plataforma que recentemente foi criticada por conteúdo gerado por IA. Depois que uma imagem da atriz Mia Goth gerada por IA ganhou atenção em outubro. pérola O representante da estrela disse A beira É “incompreensível” que o Instagram tenha permitido a divulgação da imagem sem focar “na proteção e integridade da imagem da figura pública”. Outras celebridades, incluindo Scarlett Johansson, são regularmente alvo de imagens sexualizadas de IA. Mehta já excluiu várias contas que se personificavam e usavam a imagem de outra pessoa.
Meta exige que vídeos gerados por IA retratando humanos, como a postagem de Wang, sejam rotulados como IA. No entanto, não existe tal exigência para imagens estáticas. Em outras palavras, não houve divulgação na imagem de IA de Goss. Para piorar a situação, a imagem foi compartilhada por uma conta de fã com um selo azul verificado fornecido pelo Instagram.
Procurada para comentar, a porta-voz da Meta, Tracy Clayton, apontou que a postagem de Wang foi rotulada como conteúdo de IA. Clayton também falou sobre quando a OpenAI lançou o aplicativo Sora (e Rapidamente ficou inundado (com vídeo Altman falso). OpenAI não respondeu a um pedido de comentário.
