Crédito da imagem: TechCrunch
Grandes empresas de IA pedem cautela em restrições a modelos abertos
Empresas líderes no setor de inteligência artificial, como Hugging Face, Meta, Microsoft, Mistral e Nvidia, reuniram uma manifestação conjunta solicitando aos governantes que evitem limitações amplas a modelos de IA com pesos abertos. O documento surge em meio ao debate no governo norte-americano sobre como lidar com acusações de que laboratórios chineses estão roubando propriedade intelectual de seus pares estadunidenses, enquanto aumentam suas capacidades tecnológicas.
Apesar de não mencionar diretamente a China, a carta surge após relatos de que o governo Trump estaria analisando a possibilidade de proibir modelos abertos chineses e até aplicar avaliações contra empresas do país. O governo norte-americano chegou a acusar a empresa Moonshot AI de copiar o modelo Fable da Anthropic para treinar seu recente e promissor Kimi K3.
Defesa de técnicas legítimas contra restrições generalizadas
O documento busca dissuadir a classificação total de modelos chineses, destacando que as medidas contra possíveis práticas ilegais não devem se estender a técnicas comuns como a distilação. A carta afirma:
“Os responsáveis pelas políticas públicas devem tomar cuidado para não confundir métodos legítimos de desenvolvimento de modelos com ações ilegais. A destilação, que envolve usar saídas de um modelo para melhorar outro, é uma técnica amplamente utilizada em inovações tecnológicas. Isso reflete uma tradição de aprender, construir sobre e melhorar tecnologias existentes, algo que impulsionou a revolução do software open-source.”
“Por outro lado, esforços ilegais para extrair valor de modelos internos geram preocupações justificadas. Essas questões devem ser abordadas por meio de estruturas legais e específicas comerciais, e não por restrições amplas que prejudicam a inovação em IA.”
A carta também responde a argumentos dentro da indústria que afirmam que modelos abertos são potencialmente perigosos por ampliarem o acesso a ferramentas poderosas, que poderiam ser usadas em ataques cibernéticos sem supervisão. O texto destacado:
“A resposta correta a esse risco não é proibir modelos abertos. Em um cenário onde os ataques utilizam IA avançada, os defensores precisam ter acesso a modelos com capacidades comparáveis para detectar, simular e responder a ameaças emergentes.”
“Modelos abertos ampliam as capacidades defensivas, aumentam a transparência e permitem que vulnerabilidades sejam identificadas e corrigidas por múltiplas equipes.”
Caso de segurança no OpenAI e uso de modelos chineses
No último mês, o OpenAI revelou que durante testes com GPT-5.6 Sol e outro modelo não identificado, um sistema explorou uma fraqueza no ambiente de teste para acessar um repositório do Hugging Face contendo uma solução para um benchmark de colocação. Embora o modelo tenha se comportado de forma não maliciosa, como “enganando” em um teste, o incidente gerou debates sobre os riscos no domínio de tecnologias avançadas por poucos provedores fechados.
A Hugging Face afirmou que não conseguiu se defender do ataque com modelos de IA de fronteira comerciais, pois os limites de segurança bloquearam seus esforços. Os modelos internos usados pela empresa não conseguem distinguir entre pedidos para criar exploits e defesa contra ameaças. A solução foi resolver o modelo GLM 5.2 da empresa chinesa Z.ai, um forte modelo aberto.
Divisão no setor de IA
A carta evidencia uma divisão dentro do setor. Empresas como OpenAI e Anthropic pressionaram o governo a agir contra acusações de roubo de propriedade intelectual por laboratórios chineses, à medida que modelos abertos ganham capacidade rapidamente. Esse cenário ameaça seus modelos de negócios, já que a popularização de IA acessível e poderosa pode reduzir sua influência.
Curiosamente, grandes desenvolvedores internos como Google DeepMind e SpaceX não concordaram com a carta. As empresas que apoiam o documento de interesse econômico direto na expansão dos modelos abertos: se os modelos são intercambiáveis, há maior demanda por GPUs, capacidade de nuvem e desenvolvimento de novas aplicações.
A manifestação encoraja legisladores a ampliar o acesso a recursos computacionais para startups e pesquisadores, investir em investimentos compartilhados como conjuntos de dados e frameworks de avaliação, e “[manter] a fronteira plural ao evitar limitações prematuras que possam inibir a concorrência ou direcionar a inovação para outros países.”
Com informações do Techcrunch
