Crédito da imagem: TechCrunch
Modelos de IA abertos da China geram debate sobre segurança e concorrência no setor tecnológico
Com o avanço crescente dos modelos de IA de peso abertoespecialmente os desenvolvidos por empresas chinesas, surgem novas discussões sobre seus impactos. Especialistas destacam que a popularidade desses modelos, como o Kimi K3 da Moonshot AI e o Qwen da Alibaba, está gerando debates acalorados entre governos, empresas e pesquisadores.
Recentemente, rumores indicaram que a administração Trump considera restrições à utilização de tais modelos. No entanto, até ao momento, não houve ações concretas nesse sentido. Paralelamente, empresas como OpenAI e Anthropic expressam preocupação crescente com a ascensão desses modelos abertos.
Um dos fatores que tornam os modelos chineses evidentes é seu custo limitado em comparação aos modelos internos. Enquanto os laboratórios norte-americanos cobram tarifas elevadas por token, as alternativas abertas oferecem uma solução mais econômica para empresas que desejam integrar IA em seus sistemas.
Apesar disso, questiona-se se a adoção desses modelos não traria riscos de segurança. Lucas Atkins, CTO da Arcee, afirma que a preocupação com hackers chineses é exagerada. Ele destaca que os modelos abertos, ao contrário do que muitos imaginam, não são mais perigosos que qualquer outro software de código aberto.
“Muitos veem isso como se fosse um programa chinês com propósito específico, mas a realidade é diferente. Nenhum modelo, seja da Arcee ou da Alibaba, permite acesso remoto após sua instalação em ambientes locais”, explica Atkins.
Além disso, ele ressalta que os modelos abertos não são totalmente transparentes. Embora o código esteja disponível em plataformas como Hugging Face, os métodos e dados utilizados para treinamento são restritos.
As empresas que adotam esses modelos devem realizar testes rigorosos de segurança e personalização para garantir a adequação a seus casos específicos. Isso inclui ajustes para reduzir vieses, toxicidade ou falhas no processamento de informações sensíveis.
Atkins também questiona a possibilidade de um modelo de IA inserir backdoors maliciosos em códigos gerados. Embora teoricamente possível, ele considera isso perigoso. “Para que isso aconteça, seria necessário um nível extremo de manipulação, algo que não vejo como viável”, afirma.
Apesar da concorrência, Atkins defende a criação de um ecossistema aberto e inovador nos EUA. Segundo ele, o foco deve ser em desenvolver modelos superiores aos chineses, garantindo competitividade no longo prazo.
A Arcee, por sua vez, concede os benefícios do intercâmbio de conhecimento com os modelos chineses. “Podemos aprender com suas soluções e construir sobre elas, enquanto eles também se inspiram em nossos avanços”, destaca o executivo.
No cenário atual, as empresas estão cada vez mais adotando uma abordagem multilateral, utilizando diversos modelos para evitar dependência excessiva. Isso reduz riscos e amplia opções estratégicas no setor de IA.
Com informações do Techcrunch
