Meta Anuncia Avanço em Sistemas de IA para Moderação de Conteúdo
Lançamento dos Novos Sistemas de IA
Na quinta-feira, a Meta anunciou que começará a implementar sistemas de inteligência artificial (IA) mais avançados para a moderação de conteúdo, como parte do plano de redução da dependência de fornecedores externos. As tarefas relacionadas à moderação de conteúdo incluem a identificação e remoção de informações sobre terrorismo, exploração infantil, drogas, fraudes e golpes.
A empresa informa que esses sistemas de IA mais sofisticados serão aplicados em suas plataformas assim que eles se mostrarem mais eficazes do que os métodos atuais de moderação de conteúdo.
Redução da Dependência de Fornecedores Externos
A Meta declarou que, embora ainda haja pessoas responsáveis pela revisão de conteúdo, esses novos sistemas serão capazes de realizar tarefas que são mais adequadas à tecnologia. Isso inclui revisões repetitivas de conteúdo gráfico ou áreas em que os atores mal-intencionados estão constantemente mudando suas táticas, como nas vendas de drogas ilícitas ou fraudes.
A empresa acredita que esses sistemas de IA têm a capacidade de detectar um número maior de violações com precisão aprimorada, prevenir golpes de forma mais eficaz, responder mais rapidamente a eventos do mundo real e reduzir a supermoderação.
Resultados Promissores dos Testes Iniciais
De acordo com a Meta, os testes iniciais dos sistemas de IA têm mostrado resultados promissores. Os sistemas conseguiram detectar duas vezes mais conteúdo de solicitação sexual adulta que suas equipes de revisão, ao mesmo tempo em que reduziram a taxa de erros em mais de 60%. Além disso, a Meta afirma que os sistemas podem identificar e impedir mais contas de impersonação envolvendo celebridades e outras figuras públicas. Também ajudam a prevenir a tomada de contas ao detectar sinais, como logins de novas localizações, alterações de senha ou edições realizadas em um perfil.
Mitigação de Golpes Diários
Adicionalmente, a Meta informa que os sistemas são capazes de identificar e mitigar cerca de 5.000 tentativas de golpe diariamente, nas quais golpistas tentam enganar pessoas para que elas revelem seus dados de login.
Supervisão de Especialistas
Em postagem no blog, a Meta destacou que especialistas serão responsáveis pelo design, treinamento, supervisão e avaliação de seus sistemas de IA, medindo o desempenho e tomando as decisões mais complexas e de maior impacto. Por exemplo, pessoas ainda desempenharão um papel crucial nas decisões de mais alto risco e relevância, como recursos relacionados a desativação de contas ou notificações a órgãos de aplicação da lei.
Mudanças nas Regras de Moderação de Conteúdo
Essa iniciativa surge em um momento em que a Meta tem relaxado suas regras de moderação de conteúdo ao longo do último ano. Com a segunda entrada do ex-presidente Donald Trump no cargo, a empresa encerrou seu programa de verificação de fatos realizado por terceiros em favor de um modelo similar ao do X, conhecido como Community Notes. Além disso, a Meta relaxou restrições sobre “temas que fazem parte do discurso mainstream” e informou que os usuários seriam encorajados a adotar uma abordagem “personalizada” em relação ao conteúdo político.
Desafios Legais
A nova política de contenção também ocorre enquanto a Meta e outras grandes empresas de tecnologia enfrentam diversas ações judiciais que buscam responsabilizar as redes sociais por danos a crianças e usuários jovens.
Lançamento do Assistente de Suporte Meta AI
Na mesma data, a Meta anunciou também o lançamento de um assistente de suporte Meta AI, que proporcionará aos usuários acesso a atendimento 24 horas por dia, 7 dias por semana. O assistente será disponibilizado globalmente nos aplicativos Facebook e Instagram para dispositivos iOS e Android, e também estará disponível no Centro de Ajuda do Facebook e Instagram na versão para desktop.