Campbell Brown dedicou sua carreira à busca por informações precisas, primeiro como uma renomada jornalista de TV e depois como o primeiro e único chefe de notícias dedicado do Facebook. Agora, observando a IA remodelar a forma como as pessoas consomem informações, ela vê a história ameaçando se repetir. Desta vez, ela não vai esperar que outra pessoa resolva o problema.
Sua empresa, Forum AI — que ela discutiu recentemente com Tim Fernholz, do TechCrunch, em um evento da StrictlyVC em São Francisco — avalia o desempenho de modelos de base complexa em tópicos que ela chama de “tópicos de alto risco” — geopolítica, saúde mental, finanças, contratação — assuntos onde “não há respostas claras de sim ou não, onde é nebuloso, sutil e sutil.”
A ideia é encontrar os maiores especialistas do mundo, arquitetar benchmarks e, em seguida, treinar juízes de IA para avaliar modelos em escala. Para o trabalho de geopolítica do Forum AI, Brown recrutou Niall Ferguson, Fareed Zakaria, o ex-Secretário de Estado Tony Blinken, o ex-Presidente da Câmara Kevin McCarthy e Anne Neuberger, que lideraram a cibersegurança na administração Obama. O objetivo é que os juízes de IA alcancem aproximadamente 90% de consenso com esses especialistas humanos, um patamar que ela diz que o Fórum AI conseguiu atingir.
Brown traçou a origem do Forum AI, fundado há 17 meses em Nova York, um momento específico. “Eu estava na Meta quando o ChatGPT foi lançado publicamente pela primeira vez”, ela lembrou, “e me lembro de perceber logo depois que este seria o funil pelo qual todas as informações fluiriam. E não é muito bom.” As implicações para seus próprios filhos fizeram o momento parecer quase existencial. “Meus filhos vão ser muito burros se não descobrirmos como isso retorna”, ela lembrou ter pensado.
O que mais a frustrava era que a precisão não parecia ser prioridade de ninguém. As empresas de modelos de fundação, disse ela, estão “extremamente focadas em soluções e matemática”, enquanto notícias e informações são mais difíceis. Mas mais difícil, argumentou ela, não significa opcional.
De fato, quando o Fórum AI começou a avaliar os principais modelos, os resultados não foram exatamente encorajadores. Ela citou o Gemini buscando informações em sites do Partido Comunista Chinês “para histórias que não têm nada a ver com a China”, e inspirou uma visão política de esquerda em quase todos os modelos. Falhas mais sutis também são abundantes, disse ela, incluindo a falta de contexto, a falta de perspectivas e a falta de argumentos sem reconhecimento. “Há um longo caminho a percorrer”, disse ela. “Mas também acho que existem algumas correções muito simples que melhorariam significativamente os resultados.”
Brown passou anos no Facebook observando o que acontece quando uma plataforma otimizada para algo errado. “Falhamos em muitas das coisas que tentamos”, disse ela para Fernholz. O programa de verificação de fatos que ela construiu não existe mais. A lição, mesmo que as redes sociais tenham virado as costas para isso, é que a otimização do engajamento tem sido péssima para a sociedade e deixou muitas pessoas menos informadas.
Sua esperança é que a IA possa quebrar esse ciclo. “No momento, pode ir para qualquer lado”, disse ela; as empresas poderiam dar aos usuários o que eles quisessem, ou poderiam “dar às pessoas o que é real, o que é honesto e o que é verdadeiro.” Ela percebeu que a versão idealista disso — a IA otimizando para a verdade — pode soar ingênua. Mas ela acha que o setor corporativo pode ser o aliado ameaçador aqui. Empresas que utilizam IA para decisões de crédito, empréstimos, seguros e contratos se preocupam com responsabilidade, e “elas vão querer que você otimize para acertar.”
Essa demanda corporativa é também que o Fórum AI está apostando em seu negócio, embora transforme o interesse em conformidade em receita consistente para manter um desafio, especialmente porque grande parte do mercado atual ainda se satisfaz com auditórios de caixa de seleção e benchmarks padronizados que Brown considera inadequados.
O cenário de conformidade, disse ela, é “uma piada”. Quando a cidade de Nova York aprovou a primeira lei de viagens de contratação que realizou auditorias de IA, o controlador do estado descobriu que mais das metades manifestadas que passaram despercebidas. A avaliação real, disse ela, requer expertise de domínio para trabalhar não apenas em cenários conhecidos, mas em casos extremos que “podem te colocar em apuros que as pessoas não pensam.” E esse trabalho leva tempo. “Generalistas inteligentes não vão resolver.”
Brown — cuja empresa anunciou US$ 3 milhões no outono passado, liderada por Lerer Hippeau — está em uma posição única para descrever a desconexão entre a autoimagem da indústria de IA e a realidade para a maioria dos usuários. “Você ouve dos líderes das grandes empresas de tecnologia: ‘Essa tecnologia vai mudar o mundo’, ‘vai tirar você do emprego’, ‘vai curar o câncer’”, disse ela. “Mas para uma pessoa comum que está apenas usando um chatbot para fazer perguntas básicas, ela ainda está recebendo muita informação de baixa qualidade e respostas erradas.”
A confiança na IA está em níveis extraordinariamente baixos, e ela acha que esse ceticismo é, em muitos casos, justificado. “Uma conversa está acontecendo no Vale do Silício sobre uma coisa, e uma conversa totalmente diferente está acontecendo entre os consumidores.”
Fonte: Techcrunch
