Crédito da imagem: TechCrunch
Reddit combate spam com inteligência artificial: como a plataforma está usando LLMs para proteger o conteúdo
A facilidade de acesso a modelos linguísticos de grande porte (LLMs) tem ampliado as oportunidades de agentes mal-intencionados para espalhar spam na internet. Em um cenário em que o uso de IA se tornou comum, as plataformas sociais enfrentam desafios crescentes para filtrar conteúdo automatizado que prejudica a experiência dos usuários.
Diante dessa realidade, o Reddit revela ter desenvolvido ferramentas baseadas em LLMs para reduzir significativamente a quantidade de spam. Segundo informações divulgadas, a plataforma revela diariamente 23 milhões de visualizações de conteúdo indesejado e identifica cerca de 25 mil novas postagens e comentários spam por dia. A estratégia é uma resposta direta ao uso crescente de IA no gerenciamento de conteúdo não legítimo.
Tecnologia contra o próprio avanço tecnológico
A luta contra o spam está se tornando mais complexa com a evolução da inteligência artificial. Embora outras redes sociais já utilizem soluções automatizadas, o Reddit afirma que seus novos algoritmos estão conseguindo detectar até 20% mais spam do que nos trimestres anteriores. Isso se deve à capacidade dos LLMs de identificar padrões sutis e comportamentos artificiais, algo que sistemas tradicionais não eram capazes de captar.
“A utilização de modelos linguísticos é fundamental para considerações de ações regionais e promoções enganosas, que antes de passarmos despercebidas”, explica um comunicado da empresa. Essa abordagem permitiu uma redução substancial na exposição dos usuários a conteúdo indesejado.
Cenário global: liberação controlada de conteúdo gerado por IA
Plataformas como YouTube, Meta e Instagram permitem que os usuários compartilhem conteúdos criados com assistência da IA desde que sejam identificados como tal. Já o TikTok oferece aos usuários a opção de ajustar quanto de conteúdo automatizado deseja visualizar, uma medida que reforça o equilíbrio entre inovação e conveniência.
No entanto, especialistas em moderação de conteúdo ressaltam que a eficácia da IA só é completa quando combinada com a análise humana. A automação pode acelerar a identificação de clareza como discurso de ódio, mas a intervenção de moderadores continua sendo essencial para evitar erros e garantir precisão.
Fonte: | TechCrunch | Empresa rápida
Com informações do Techcrunch
