OpenAI e Anthropic estão em guerra contra esforços de terceiros para treinar novos modelos de IA por meio de prompts em seus chatbots e APIs publicamente acessíveis, um processo conhecido como “destilação”.
Essa conversa tem se concentrado em empresas chinesas que usam destilação para criar modelos de peso abertos que são quase tão capazes quanto às ofertas dos EUA, mas disponíveis a um custo muito menor. No entanto, os trabalhadores de tecnologia têm reforçado amplamente que os laboratórios americanos usam essas técnicas uns contra os outros para evitar ficar atrás dos concorrentes.
Agora sabemos que isso é verdade em pelo menos um caso: no banco das testemunhas em um tribunal federal da Califórnia na quinta-feira, Elon Musk foi questionado se a xAI usou técnicas de destilação em modelos da OpenAI para treinar o Grok, e ele afirmou que era uma prática geral entre as empresas de IA. Perguntado se isso foi feito “sim”, ele disse: “Parcialmente”.
Musk está no processo de processamento da OpenAI, o CEO Sam Altman e Greg Brockman, alegando que eles violaram a missão original sem fins lucrativos da OpenAI ao mudar uma entidade para uma estrutura com fins lucrativos. Esse julgamento começou esta semana, com depoimentos do líder de tecnologia.
A admissão de Musk é notável porque a destilação ameaça os gigantes da IA, minando a vantagem que eles construíram investindo em infraestrutura de computação. Isso permite que outros fabricantes de software criem modelos que são quase tão competentes de forma barata. Não há pouca ironia aqui, dada a atualização e a suposta violação de regras de direitos autorais por laboratórios de ponta em sua busca por dados suficientes para treinar seus modelos.
Não é surpresa que a xAI de Musk, que começou em 2023, anos depois da OpenAI, tentasse aprender com o então líder do setor. Não é claro que a destilação é explicitamente ilegal, mas pode violar os termos de serviço que as empresas estabelecem para o uso de seus produtos.
OpenAI, Antrópico e Google contando ter lançado uma iniciativa por meio do Frontier Model Forum para compartilhar informações sobre como combater o esforço de destilação da China. Isso geralmente envolve consultas sistemáticas de modelos para entender seu funcionamento interno. Para interromper os esforços, os laboratórios de ponta estão trabalhando para evitar que os usuários façam consultas em massa de suspeitas.
A OpenAI não respondeu a um pedido de comentário sobre a admissão de Musk até o momento da publicação.
Mais tarde em seu depoimento, Musk foi questionado sobre uma afirmação de que fez no verão passado de que a xAI logo estaria muito além de qualquer empresa, exceto o Google. Em resposta, ele classificou os principais provedores de IA do mundo, dizendo que a Anthropic detinha o primeiro lugar, seguida pela OpenAI, Google e modelos de código aberto chineses. Ele caracterizou a xAI como uma empresa muito menor, com apenas algumas centenas de funcionários.
Fonte: Techcrunch
