Crédito da imagem: TechCrunch
Meta implementa alertas para pais em conversas com chatbot sobre autolesão
A Meta divulgou na quarta-feira uma nova funcionalidade que notifica pais adolescentes conversam sobre tentativa de suicídio ou autolesão com o assistente de inteligência artificial da empresa. A plataforma também está desenvolvendo um sistema para acionar serviços de emergência em situações em que as conversas indiquem risco iminente.
A atualização surge em meio à pressão crescente por parte de reguladores e famílias sobre como chatbots respondem a usuários em crise, especialmente adolescentes. Esse tema tem se tornado central no debate sobre responsabilidade corporativa e na forma como empresas de IA projetam seus produtos.
De acordo com a Meta, foi criado um sistema dedicado para identificar conversas onde jovens mencionam claramente interesse de autoagressão. Em uma postagem no blog oficial, a empresa destacou: “Entendemos que esses alertas podem causar preocupação aos pais. Por isso, todas as mensagens identificadas serão revisadas manualmente antes da notificação. Se houver ambiguidade, optaremos pela cautela e informaremos os responsáveis.”
Os avisos disponíveis estão para pais que utilizam o recurso Supervisão Parental no Instagram em países como Estados Unidos, Reino Unido, Austrália e Canadá. A funcionalidade será expandida globalmente até o final do ano.
Essa nova medida complementa alertas já existentes para quando adolescentes pesquisam reiteradamente termos relacionados a suicídio ou autolesão no Instagram. Também integra um recurso que permite aos pais visualizar os temas pensados pelos filhos com o Meta AI nas últimas semanas.
A Meta anunciou ainda que o modo “Conteúdo Limitado”, que restringe conteúdo em ambientes para adolescentes, agora se aplica também às interações com o Meta AI. O sistema já evita conversas sobre temas como sexualidade e álcool, ampliando as restrições para outros tópicos específicos.
Além disso, a empresa afirmou que fará contato com equipes de emergência se conversas com o chatbot, seja por adultos ou jovens, indicando risco de suicídio. Esse procedimento já é adotado quando usuários publicam conteúdos preocupantes nas redes sociais da Meta.
Com informações do Techcrunch
