Ameaça à propriedade intelectual: empresas alertam sobre riscos de modelos de IA
No meio do debate sobre os impactos potenciais da inteligência artificial, surge uma preocupação crescente entre especialistas no Vale do Silício. A principal preocupação envolve a possibilidade de que laboratórios de IA que comercializem modelos proprietários sejam, de alguma forma, organizados como agentes ocultos.
O recebimento é que, ao adotarem soluções de IA fornecidas por empresas como OpenAI e Anthropic, startups e corporações expõem informações sensíveis sobre seus negócios. Esses dados poderiam ser utilizados pelos próprios criadores dos modelos para desenvolver competências concorrentes. Especialistas em diferentes áreas, desde investidores como Jason Calacanis até o CEO da Palantir, Alex Karp, têm destaque nessa preocupação.
No entanto, num post surpreendente publicado na segunda-feira, Satya Nadella, CEO da Microsoft, reforçou esse alerta. Segundo ele, os usuários de IA (que ele chama de “compradores”) estão pagando de duas formas: uma com dinheiro, outra com informações valiosas que acidentalmente revelaram para tornar o uso do modelo eficaz.
“Você paga pela inteligência duas vezes — uma com dinheiro e outra com algo ainda mais precioso: o conhecimento proprietário que precisa compartilhar para que a IA funcione bem. Quanto melhor você deseja que o modelo execute, mais informações ele exige de você!” Nadella escreveu.
O CEO destaca que as empresas estão ensinando os modelos sobre detalhes específicos de seus negócios. “Os modelos aprendem com o ‘resíduo’ — os prompts digitalizados, as ferramentas utilizadas e especialmente as correções feitas quando o modelo erra. Cada correção é transformada em conhecimento institucional”, afirma.
“Essa é a espécie de informação que um concorrente nunca conseguiria comprar, mas as empresas estão entregando sem perceber”, completa Nadella.
Segundo ele, se os laboratórios de IA têm direito de minerar livremente o conteúdo da internet para treinar seus modelos, seria apenas permitir que as empresas estudassem — ou “extrajassem” — esses mesmos modelos. O termo “extração” refere-se ao processo de usar saídas dos modelos para entender como eles funcionam e criar novos modelos mais acessíveis.
No início deste ano, a Anthropic acusou laboratórios chineses de enviar milhões de prompts para o modelo Claude, uma prática que considera ilegal. A empresa pediu ao governo norte-americano que reforçasse as restrições sobre a exportação de chips de IA.
Nadella argumenta que há uma hipocrisia na postura dos criadores de modelos. “Embora seja importante que os provedores de IA tenham direitos para treinar com dados públicos, parece irônico que agora eles imponham termos restritivos sobre a exclusão”, escreveu.
Ele fica particularmente preocupado quando os laboratórios reservam o direito de aprender com os dados gerados pelos usuários. Embora Nadella não mencione explicitamente “código aberto” como uma solução, essa é uma pista clara no texto.
Muitas grandes empresas, que ainda possuem data centers próprios além do uso da nuvem, estão migrando para modelos de código aberto localizados localmente. Idit Levine, CEO da Solo.io — empresa que desenvolve softwares para gerenciamento de sistemas de IA — observa esse movimento com seus clientes.
“Depois de testar modelos proprietários, as empresas começam a se perguntar: posso usar um modelo aberto em minha infraestrutura? Ele faria praticamente 90% do que o grande modelo faz, mas custaria muito menos”, explica Levine. “Eles entendem isso e passam a controlar melhor seus dados.”
A Tecnologia da Solo.io foi escolhida para transferências o projeto Agentgateway da Linux Foundation. Clientes como T-Mobile, ADP e SAP já adotaram a solução.
Levine aponta que o uso de modelos abertos em infraestrutura própria está se tornando uma tendência crescente no setor corporativo. Empresas como Vercel e OpenRouter também registraram aumento no tráfego direcionado a modelos abertos.
De acordo com dados recentes, modelos de código aberto representaram 29% do tráfego direcionado por meio do gateway da Vercel no mês passado.
Agora que Satya Nadella — CEO da Microsoft, empresa que investe tanto em OpenAI quanto em Antrópico — alerta sobre os riscos de usar modelos proprietários, a tendência de adoção de soluções abertas parece só crescer. “Ao consumir inteligência, você está criando inteligência. E o que você cria deve pertencer a você”, escreveu Nadella.
Com informações do Techcrunch
