A Meta sorte a usar IA para escanear fotos e vídeos em busca de pistas visuais para verificar se um usuário tem menos de 13 anos e deve ser removido do Facebook e Instagram, a empresa anunciado na terça-feira. Essas faixas visuais incluem a altura ou a estrutura de uma pessoa, disse.
“Queremos ser claros: isso não é reconhecimento facial”, explicou a Meta em seu post de blog. “Nossa IA analisa temas gerais e pistas visuais, por exemplo, altura ou estrutura óssea, para estimar a idade geral de alguém; ela não identifica a pessoa específica na imagem. Ao combinar essas percepções visuais com nossa análise de texto e interações, podemos aumentar significativamente o número de contas de menores que identificamos e removemos.
O sistema de análise visual já está operando em países selecionados, mas a Meta diz que está trabalhando para uma implementação mais ampla.
A Meta afirma que este sistema faz parte de seus esforços para manter crianças menores de 13 anos fora de suas plataformas. Esses exercícios incluem o uso de IA para analisar perfis inteiros em busca de pistas contextuais, como comemorações de aniversário ou menções a notas escolares. A empresa procura esses sinais em diferentes formatos, como posts, comentários, biografias, legendas e muito mais. A Meta planeja expandir essa tecnologia para mais partes de seus aplicativos, incluindo Instagram Live e Grupos do Facebook, no futuro.
Se a Meta determinar que uma pessoa pode ser menor de idade, ela desativará a conta, e o usuário precisará comprovar sua idade usando o processo de verificação de idade da empresa para evitar que sua conta seja restaurada.
O anúncio ocorre semanas após um júri do Novo México ordenar que a Meta pague US$ 375 milhões em multas civis para enganar os consumidores sobre a segurança de suas plataformas e colocar crianças em risco. A empresa também foi ordenada para implementar mudanças fundamentais em suas plataformas. Desde então, a Meta ameaçou desativar seus serviços de mídia social não estado.
Vale notar que este caso é um de muitos processos que a Meta e outras grandes empresas de tecnologia estão enfrentando em relação à segurança infantil.
A Meta também anunciou na terça-feira que está expandindo sua tecnologia que coloca automaticamente adolescentes em “Contas de Adolescentes” mais restritas no Instagram para 27 países na UE e no Brasil. Essas contas de adolescentes colocam os usuários em uma experiência de conta mais restrita com seguranças adicionais, como receber DMs apenas de pessoas que eles seguem ou com quem já estão conectados, ocultar comentários específicos e definir contas como privadas por padrão.
Além disso, a Meta disse que está expandindo a tecnologia para o Facebook nos EUA pela primeira vez, seguida pelo Reino Unido e pela UE em junho.
Fonte: Techcrunch
