OpenAI alerta sobre riscos de modelos de peso aberto. EUA enfrentam encruzilhada regulatória

OpenAI alerta sobre riscos de modelos de peso aberto. EUA enfrentam encruzilhada regulatória

Crédito da imagem: TechCrunch

Lança de Kimi K3 gera debate sobre futuro dos modelos de IA e economia

O anúncio da versão mais recente do Kimi K3, modelo de linguagem de grande porte desenvolvido pela empresa chinesa Moonshot, trouxe à tona uma discussão intensa. O tema envolve não apenas as possibilidades econômicas das gigantes da IA ​​norte-americanas, mas também a evolução tecnológica dos modelos de linguagem abertos.

Dean W. Ball, diretor de estratégias futuras da OpenAI, destacou recentemente que o governo dos Estados Unidos poderia adotar uma postura que gerasse incertezas e desconfiança em relação aos novos modelos, a fim de proteger os interesses das empresas norte-americanas. Segundo ele, os modelos abertos tendem a reduzir investimentos por parte das instituições de ponta.

A evidência da comunidade tecnológica foi intensa. Líderes como Yann LeCun e Martin Casado argumentaram que softwares abertos aceleram inovações e podem coexistir com projetos proprietários. Ball, porém, revisou suas declarações, afirmando que não há evidências de que modelos abertos necessariamente atrapalhem o progresso tecnológico.

Segundo relatos da Axios, a administração Trump estaria considerando uma classificação do uso de K3 e outros modelos avançados chineses, sob pressão das empresas norte-americanas. Por outro lado, um levantamento do Politico aponta que o Departamento do Comércio não agirá rapidamente nesse sentido.

Para as grandes corporações de IA, a vantagem é clara: modelos abertos, executados em infraestrutura independente ou dentro de grandes empresas, oferecem inteligência mais acessível do que os modelos líderes da Anthropic e da OpenAI. Se os usuários migrarem para fora dos laboratórios fechados, os retornos sobre investimentos maciços podem diminuir no treinamento de modelos.

Essa perspectiva é compartilhada por outros especialistas. Braden Hancock, cofundador da Snorkel AI e parceiro de pesquisa do Laude Institute, explicou ao TechCrunch que modelos abertos de alta qualidade colocariam pressão sobre as margens das empresas de ponta e reduziriam seus preços.

Agora, a questão central é: por que o governo deveria impedir os americanos de adquirirem um produto em um mercado desenvolvido livre? A resposta não é clara para todos.

As preocupações sobre modelos chineses têm formas diferentes. Uma delas envolve a proteção de dados norte-americanos contra o governo chinês, algo que já motivou restrições à importação de veículos elétricos modernos da China. No entanto, os especialistas acham que modelos abertos rodando em servidores norte-americanos retornariam dados para a China.

Outra preocupação é o possível viés implícito dos modelos em favor da RPC — mas não há evidências claras de como isso afetaria tarefas como programação. Uma terceira preocupação é que os modelos chineses possam cuidar das proteções regulatórias impostas pelo governo norte-americano, que visam evitar o uso indevido dos modelos para ataques cibernéticos ou desenvolvimento de armas.

Curiosamente, alguns setores da economia norte-americana já recorrem a modelos chineses para resolver lacunas de segurança. David Sacks, consultor e assessor de Trump, coincidentemente em casos em que empresas norte-americanas usam IA chinesa para não conseguirem obter suporte dos modelos internos.

O principal motivo para restringir os modelos, segundo analistas, é a preocupação de que a China possa superar os Estados Unidos se os laboratórios de ponta reduzirem sua liderança tecnológica. Sam Bresnick, pesquisador do Centro de Segurança e Tecnologias Emergentes de Georgetown, destaca o papel crescente da IA ​​nas operações militares norte-americanas e o impacto disso na estratégia de investimento em IA.

“Por que o governo deveria proteger empresas que estão sendo restauradas no mercado norte-americano por motivos relacionados à sua origem?” pergunta Bresnick. A discussão é complexa e envolve interesses múltiplos.

Apoiadores da IA ​​aberta argumentam que as empresas de ponta criam uma dicotomia falsa entre inovação e modelos fechados. Braden Hancock explica que os modelos abertos chineses não apenas introduzem riscos, mas também ampliam a capacidade de inovação global.

“O impacto maior vem do fato de que os modelos chineses permitem que mais pessoas contribuam para o desenvolvimento da IA”, diz Hancock. Ele compara isso ao sucesso do PyTorch, que se tornou padrão por ser aberto e permitir a colaboração comunitária.

Já Clem Delangue, CEO da Hugging Face, ressalta que as restrições aos modelos abertos não tornariam a IA mais segura, apenas dificultaria o acesso para novos participantes no setor. “Concentrar poder nas mãos de poucos e esconder os riscos não é uma solução”, afirma.

Bresnick propõe que uma estratégia mais eficaz contra a China seria focar nos controles de exportação de chips, como o H200 da Nvidia. Isso poderia evitar debates sobre modelos abertos e manter a liderança tecnológica norte-americana.

Parte do desafio não tem incerteza sobre a economia da IA. “Nenhum modelo de negócios — aberto ou fechado — está totalmente definido”, afirma Bresnick. Empresas de IA enfrentam dificuldades para monetizar seus produtos, especialmente com o aumento constante dos custos de treinamento.

Esses desafios também fazem sentido na China, onde as empresas de IA têm dificuldade em gerar receita e acessar poder computacional. O governo chinês, por motivos políticos, incentiva liberações abertas, apesar dos desafios financeiros.

Alguns laboratórios norte-americanos, como o Thinking Machines Lab e a Nvidia, estão explorando modelos abertos como parte de suas estratégias comerciais. A Nvidia, por exemplo, investe em projetos como o Nemotron, uma coleção de modelos abertos que visa ampliar a base de usuários.

“O principal objetivo é ter modelos abertos e acessíveis nos Estados Unidos”, afirma Bresnick. “Isso contradiz a abordagem adotada pelos laboratórios de ponta.”

Com informações do Techcrunch