Segurança em IA: Por que a governança deve preceder a inovação
Durante um recente evento realizado em Los Angeles, Francis de Souza, COO do Google Cloud, apresentou uma visão estratégica sobre os desafios de segurança que as empresas enfrentam na era da inteligência artificial. Com a sobriedade de um acadêmico, o executivo defendeu que estamos em uma fase de transição complexa, mas necessária, rumo a um ecossistema digital mais resiliente.
Para de Souza, a segurança deixou de ser um acessório para se tornar o alicerce fundamental de qualquer projeto de IA. O executivo alerta que as companhias precisam abandonar a visão de segurança como uma etapa final e adotar uma abordagem de plataforma integrada. O grande vilão atual é a chamada IA sombra, prática onde os colaboradores utilizam ferramentas externas sem qualquer supervisão da TI, criando vulnerabilidades críticas.
A estratégia de segurança multinuvem
O COO enfatizou que a proteção de dados e a estratégia de IA são indissociáveis. Mesmo que uma organização tente se limitar a um único provedor, a realidade operacional exige o uso de múltiplos serviços SaaS e parceiros externos. Por isso, uma postura de segurança deve ser consistente e transversal a diferentes nuvens e modelos de linguagem.
A urgência desse cenário é ditada pela nova velocidade das ameaças cibernéticas. Segundo Souza, o tempo entre a invasão inicial e a escalada de um ataque despencou significativamente, caindo de oito horas para apenas 22 segundos. A superfície do ataque agora abrange não apenas redes, mas pipelines de treinamento, prompts e agentes independentes.
Muitas organizações possuem servidores SharePoint antigos que não atualizaram, mas isso não importava porque ninguém sabia onde eles estavam. Mas os agentes que percorrem sua empresa encontrarão esses ativos de dados e exporão as informações neles contidas.
Defesa nativa de IA e o papel da liderança
Diante desse cenário, a resposta tecnológica passa pela automação defensiva. De Souza defende o uso de agentes de segurança que atuam na mesma velocidade das máquinas, permitindo que humanos apenas supervisionem o processo, em vez de tentarem reagir manualmente a cada incidente. Essa transição, reforçá-lo, é uma responsabilidade que deve ser tratada pelo conselho de administração e pela alta gestão, e não apenas pelo departamento de TI.
Entretanto, o mercado enfrenta um gargalo de talentos. Em declaração ao New York Times, Lea Kissner, CISO do LinkedIn, aponta que a escassez de especialistas capazes de gerenciar o apocalipse de bugs gerados pela IA será um desafio persistente por vários anos.
O paradoxo das plataformas
Apesar das recomendações de alto nível, a execução prática por parte dos grandes provedores ainda gera controvérsias. Relatos recentes destacaram desenvolvedores desenvolvidos por cobranças de cinco dígitos após chamadas de API não autorizadas para modelos Gemini.
- Casos reais: Rod Danan, CEO da Prentus, registrou um prejuízo de US$ 10.138 em 30 minutos. Isuru Fonseka viu a sua fatura atingir os 17.000 dólares australianos, mesmo acreditando ter um limite de gastos de 250 dólares.
- Falhas de revogação: Pesquisas da empresa de segurança Aikido indicam que as chaves de restauração de API podem permanecer ativas por até 23 minutos, permitindo a exfiltração de dados durante esse intervalo de propagação.
Embora o Google tenha realizado reembolsos após repercussão pública, a empresa mantém políticas de atualização automática de limites de faturamento, priorizando a continuidade dos serviços em detrimento do controle orçamentário rígido dos usuários. O contraste entre o discurso de governança e a realidade técnica dos sistemas de nuvem deixa um alerta claro: a segurança é uma responsabilidade compartilhada que exige atenção constante, mesmo quando se confia em grandes plataformas.
Com informações do Techcrunch
