Richard Socher é uma figura importante na IA há algum tempo, mais conhecido por fundar a startup inicial do chatbot You.com e, antes disso, por seu trabalho no ImageNet. Agora ele está se juntando à geração atual de startups de IA focadas em pesquisa com a Superinteligência Recursiva, uma startup sediada em São Francisco que saiu do anonimato na quarta-feira com US$ 650 milhões em financiamento.
Socher se junta à nova empreitada com um grupo de pesquisadores proeminentes de IA, incluindo Peter Norvig e Tim Shi, cofundador da Cresta. Juntos, eles estão trabalhando para criar um modelo de IA recursivamente autoaperfeiçoável, para que possa identificar autonomamente suas próprias deficiências e se redesenhar para corrigi-las, sem envolvimento humano — um “santo graal” de longos dados da pesquisa contemporânea em IA.
Conversei com ele no Zoom após o lançamento, aprofundando a abordagem técnica única da Recursiva e por que ele não considera este novo projeto um “neolab”, o termo informal para uma nova geração de startups de IA que priorizam a pesquisa em detrimento da construção de produtos.
Esta entrevista foi editada para fins de extensão e clareza.
Ouvimos muito sobre recursão hoje em dia! Parece um objetivo muito comum em diferentes laboratórios. Qual você vê como sua abordagem única?
Nossa abordagem única é usar a abertura para alcançar o autoaperfeiçoamento recursivo, algo que ninguém alcançou ainda. É um objetivo indescritível para muitas pessoas. Muitas pessoas já presumem que isso acontece quando você faz uma pesquisa automática. Sabe, você pode pegar IA e pedir para ela melhorar outra coisa, que pode ser um sistema de aprendizado de máquina, ou apenas uma carta que você escreve, ou, sabe, o que quer que seja, certo? Mas isso não é autoaperfeiçoamento recursivo. Isso é apenas melhoria.
Nosso foco principal é construir superinteligência recursiva e autoaperfeiçoável em escala, o que significa que todo o processo de ideação, implementação e validação de ideias de pesquisa seria automática.
Primeiro [automatizaria] ideias de pesquisa de IA, eventualmente qualquer tipo de ideia de pesquisa, até eventualmente mesmo em domínios físicos. Mas é particularmente poderoso quando a IA trabalha em si mesma e está desenvolvendo um novo tipo de autoconsciência de suas próprias deficiências.
Você usou o termo “abertura” — isso tem um significado técnico específico?
Tem. Na verdade, Tim Rocktäschel, um de nossos cofundadores, liderou as equipes de abertura e autoaperfeiçoamento no Google DeepMind e trabalhou especificamente no modelo mundial Genie 3, que é um ótimo exemplo de abertura. Você pode dizer a ele qualquer conceito, qualquer mundo, qualquer agente, e ele simplesmente o cria, e é interativo.
Na evolução biológica, os animais se adaptaram ao ambiente, e então outros contra-se adaptaram essas adaptações. É apenas um processo que pode evoluir por bilhões de anos, e coisas interessantes continuam acontecendo, certo? É assim que desenvolvemos olhos em nossos [cabeças].
Outro exemplo é o “rainbow teaming”, de outro artigo de Tim. Você já ouviu falar de “red teaming”?
Em cibersegurança, significa—
Então, o “red teaming” também tem que ser feito em um contexto de LLM. Basicamente, você tenta fazer com que o LLM lhe diga como construir uma bomba, e você quer ter certeza de que ele não o faz.
Agora, os humanos sentados podem lá por muito tempo e ter exemplos interessantes do que a IA não deveria dizer. Mas e se você testou essa primeira IA com uma segunda IA, e essa segunda IA agora teve a tarefa de fazer com que a primeira IA [tentasse] dizer todas as coisas ruins possíveis. E então eles podem ir e voltar por milhões de iterações.
Você pode realmente permitir que duas IAs coevoluam. Uma continua atacando a outra, e então surge não apenas um ângulo, mas muitos ângulos diferentes, daí a analogia do arco-íris. E então você pode inocular a primeira IA, e você se torna cada vez mais seguro. Esta foi uma ideia de Tim Rocktaeschel, e agora é usada em todos os principais laboratórios.
Como você sabe quando está pronto? Suponho que nunca esteja pronto.
Algumas dessas coisas nunca estarão prontas. Você sempre pode se tornar mais inteligente. Você sempre pode melhorar em programação e matemática e assim por diante. Existem alguns limites para a inteligência; na verdade, estou tentando formalizar isso agora, mas eles são astronômicos. Estamos muito longe desses limites.
Como um “neolab”, parece que vocês deveriam estar fazendo algo que os grandes laboratórios não estão fazendo. Então, parte da implicação aqui é que você não acha que os grandes laboratórios alcançarão o RSI [autoaperfeiçoamento recursivo] fazendo o que está fazendo. Isso é justo dizer?
Na verdade, não posso comentar sobre o que eles estão fazendo, mas acho que estamos abordando isso de forma diferente. Abraçamos realmente o conceito de abertura, e nossa equipe é focada nessa visão. E a equipe tem pesquisado isso e feito artigos nesse espaço na última década. E a equipe tem um histórico de realmente contribuir com o campo significativamente e lançar produtos reais. Sabe, Tim Shi transformou a Cresta em um unicórnio. Josh Tobin foi uma das primeiras pessoas na OpenAI e eventualmente liderou suas equipes Codex e equipes de pesquisa profunda.
Na verdade, às vezes um pouco com essa categoria de “neolab”. Sinto que não somos apenas um laboratório. Quero que nos tornemos uma empresa realmente viável, que tenha produtos incríveis que as pessoas adoram usar, que tenham um impacto positivo na humanidade.
Então, quando vocês planejam lançar seu primeiro produto?
Pensei muito sobre isso. A equipe fez tanto progresso que podemos até antecipar os prazos em relação ao que havíamos reforçado inicialmente. Mas sim, há produtos, e você terá que esperar trimestres, não anos.
Uma das ideias em torno do autoaperfeiçoamento recursivo é que, uma vez que tenhamos esse tipo de sistema, a computação se torna o único recurso importante. Quanto mais rápido você executar o sistema, mais rápido ele melhorará, e não há atividade humana externa que realmente faça a diferença. Então, a corrida se torna apenas: quanta capacidade de processamento podemos dedicar a isso? Você acha que é para o mundo que estamos caminhando?
A computação não deve ser subestimada. Acho que no futuro, uma questão muito importante será: quanta computação a humanidade quer gastar para resolver quais problemas? Aqui está esse câncer e aqui está esse vírus — qual você quer resolver primeiro? Quanta computação você quer dar a ele? Torna-se uma questão de alocação de recursos eventualmente. Será uma das maiores questões do mundo.
Fonte: Techcrunch
