Vivemos um momento curioso no mundo da tecnologia. A inteligência artificial avança numa velocidade impressionante, abrindo possibilidades incríveis, mas também trazendo desafios de segurança que ninguém domina por completo ainda. E quando digo ninguém, estou falando até das gigantes do setor. Recentemente, ao acompanhar conversas e relatos do mercado, ficou claro que mesmo empresas do porte do Google ainda estão descobrindo como navegar nesse terreno na medida em que ele se forma debaixo dos pés.
Se você trabalha com tecnologia, gerencia uma empresa ou simplesmente quer entender melhor os riscos que vêm junto com essa revolução da IA, vale a pena acompanhar essa reflexão. Porque a verdade é que a segurança em inteligência artificial deixou de ser um assunto só para especialistas e virou uma preocupação que toca todos nós.
Por que a segurança em IA não pode ser um detalhe de última hora
Existe uma mensagem que os profissionais de segurança vêm tentando fazer os executivos entenderem há anos, e que a chegada da IA tornou ainda mais urgente: segurança não pode ser pensada como algo opcional ou deixado para depois. Francis de Souza, diretor de operações do Google Cloud, resumiu bem essa ideia ao defender que as empresas precisam adotar uma abordagem de plataforma desde o início da sua jornada com inteligência artificial.
Segundo ele, segurança não é algo que você acopla mais tarde, nem uma responsabilidade que dá para jogar nas costas dos funcionários para cada um resolver do seu jeito. Inclusive, um dos pontos que mais merece atenção é o fenômeno conhecido como IA sombra, quando colaboradores saem usando ferramentas de inteligência artificial voltadas ao consumidor final sem nenhum controle ou supervisão da organização. É aquele cenário em que cada um instala o que quer e ninguém sabe direito o que está rolando.
A recomendação é clara: as empresas precisam exigir segurança, governança e capacidade de auditoria das suas plataformas desde o primeiro dia. Como de Souza mesmo colocou, não existe estratégia de IA sem uma estratégia de dados e uma estratégia de segurança andando lado a lado. Os três pilares precisam caminhar juntos, ou a coisa toda desanda.
A questão de operar em múltiplas nuvens
Um detalhe interessante dessa conversa é que de Souza não estava simplesmente fazendo propaganda do Google Cloud. Quando questionado sobre isso, ele rebateu a ideia, defendendo que o Google está comprometido com uma abordagem multinuvem. Inclusive, ele fez uma observação que vale reflexão: a maioria das empresas que acha que opera em uma única nuvem quase certamente está enganada.
Mesmo que uma companhia escolha trabalhar com apenas um provedor de nuvem, ela acaba dependendo de aplicações em formato de serviço e de parceiros comerciais que podem usar nuvens diferentes. Por isso, é fundamental ter uma postura de segurança consistente entre as diferentes nuvens e os diferentes modelos de IA. De nada adianta blindar uma porta se as outras ficam escancaradas.
O cenário de ameaças mudou completamente
Aqui está um dado que dá um certo frio na barriga. De Souza apontou que os modelos defensivos antigos simplesmente ficaram lentos demais para o ritmo atual. Para ter uma ideia, o tempo médio entre uma invasão inicial e a passagem para a próxima etapa de um ataque despencou de oito horas para apenas 22 segundos. Sim, você leu certo, 22 segundos. Isso muda completamente o jogo da defesa.
Além dessa aceleração assustadora, a superfície de ataque também se expandiu muito além do perímetro tradicional da rede. Hoje, além de todo o ambiente que já existia, as empresas precisam proteger os modelos de IA, os pipelines de dados usados para treinar esses modelos, os agentes autônomos e até os comandos que damos a eles. Cada uma dessas camadas representa uma porta de entrada em potencial para quem tem más intenções.
Os dados esquecidos que os agentes de IA podem desenterrar
Um risco que de Souza destacou e que raramente recebe a atenção que merece tem a ver com os agentes de IA circulando pelos sistemas internos das empresas. Esses agentes têm a capacidade de encontrar repositórios de dados esquecidos, aqueles arquivos que ninguém lembra que existem há anos.
Muitas organizações têm servidores antigos com controles de acesso que nunca foram atualizados. Antes, isso não era um problema sério justamente porque ninguém sabia onde esses dados estavam. Mas os agentes que vasculham o ambiente corporativo vão encontrar esses ativos e expor as informações armazenadas neles. É como ter um detetive incansável revirando todos os armários da casa, inclusive aqueles que você nem lembrava que tinha.
Defesa na velocidade das máquinas
Diante de ameaças que se movem em segundos, a solução proposta é responder com a mesma velocidade. De Souza falou sobre o surgimento de uma defesa nativa de IA e totalmente baseada em agentes, na qual as organizações podem usar agentes autônomos para conduzir sua própria proteção.
A grande mudança aqui é o papel do ser humano. Em vez de termos uma defesa liderada por pessoas ou mesmo com pessoas envolvidas em cada etapa, o modelo passa a ser de humanos supervisionando uma defesa totalmente baseada em agentes. É uma virada importante de mentalidade. E, segundo ele, esse deixou de ser um assunto restrito à equipe de segurança para se tornar uma questão de liderança que precisa chegar até a diretoria e o conselho administrativo das empresas.
A escassez de gente qualificada e a multiplicação de falhas
Mas nem tudo são soluções elegantes. À medida que a IA assume mais tarefas de defesa, surge um problema novo: faltam profissionais qualificados para supervisionar tudo isso. E para piorar, as próprias vulnerabilidades introduzidas pela inteligência artificial estão se multiplicando mais rápido do que as equipes de segurança conseguem resolver.
Lea Kissner, diretora de segurança da informação do LinkedIn, usou uma expressão bem ilustrativa ao comentar que vamos precisar de gente para lidar com o que ela chamou de apocalipse de bugs. Ela ainda acrescentou que não espera que o setor compreenda a segurança em IA de forma sustentável e duradoura por pelo menos vários anos. Ou seja, estamos mesmo aprendendo a pilotar o avião enquanto ele já está voando.
Quando os próprios provedores de plataforma tropeçam
E aqui chegamos à parte mais reveladora dessa história. Por mais sólidos que sejam os conselhos sobre segurança, existe uma distância considerável entre o que as plataformas pregam e a velocidade com que elas mesmas se adaptam. O próprio Google Cloud passou recentemente por episódios que ilustram bem esse descompasso.
Uma série de relatos documentou uma onda de desenvolvedores do Google Cloud que receberam contas de cinco dígitos depois de chamadas não autorizadas aos modelos Gemini, serviços que muitos deles nunca tinham usado ou ativado intencionalmente. O padrão dos casos era parecido: chaves de acesso originalmente criadas para o Google Maps, colocadas publicamente conforme as próprias instruções do Google, silenciosamente ganharam a capacidade de acessar o Gemini depois que a empresa ampliou o alcance dessas chaves sem comunicar a mudança de forma clara.
Os números impressionam. Um desenvolvedor relatou que sua conta chegou a mais de dez mil dólares em cerca de 30 minutos depois que atacantes exploraram sua chave comprometida. Outro, baseado em Sydney, acordou com cobranças de aproximadamente 17 mil dólares australianos, mesmo acreditando ter um limite de gastos de 250 dólares configurado. O que nenhum dos dois sabia é que os sistemas automatizados do Google haviam elevado seus limites de cobrança com base no histórico da conta, chegando a tetos de até 100 mil dólares sem consentimento explícito.
O detalhe preocupante sobre revogar acessos
O Google reembolsou ambos os desenvolvedores depois que os casos vieram a público, mas afirmou não ter planos de mudar a política de elevação automática de limites, alegando que prioriza evitar interrupções de serviço em detrimento das preferências de orçamento declaradas pelos usuários. Essa escolha de prioridades é justamente o tipo de coisa que vale a pena observar com atenção.
Tem ainda outro ponto delicado. Uma pesquisa da empresa de segurança Aikido descobriu que mesmo desenvolvedores que percebem uma chave comprometida e a deletam imediatamente podem não estar completamente seguros. Segundo o estudo, atacantes conseguem continuar usando a chave por até 23 minutos, porque a revogação do Google se propaga gradualmente pela infraestrutura da empresa. Durante essa janela, as taxas de sucesso são imprevisíveis, e em alguns minutos mais de 90% das requisições ainda eram autenticadas, dando tempo aos invasores de extrair arquivos e dados de conversas armazenados.
O mais curioso é que formatos mais recentes de credenciais do próprio Google não parecem ter esse problema. Credenciais de contas de serviço são revogadas em cerca de cinco segundos, e um formato mais novo de chave do Gemini leva aproximadamente um minuto. Como observou o pesquisador da Aikido, ambos rodam na escala do Google, o que sugere que essa questão é tecnicamente solucionável também para as chaves de API. Em outras palavras, a janela de 23 minutos não seria uma limitação de engenharia, mas sim uma questão de prioridades da empresa.
O que tudo isso ensina para a sua empresa
A grande lição que fica de toda essa conversa é que os conselhos de segurança em IA são sólidos e devem ser levados muito a sério. Pensar em segurança desde o início, adotar uma postura consistente entre diferentes nuvens, proteger todas as novas camadas que a IA introduziu e responder às ameaças na velocidade das máquinas são recomendações valiosas para qualquer organização.
Ao mesmo tempo, é importante manter os pés no chão e reconhecer que existe uma distância real entre aquilo que as plataformas recomendam e a rapidez com que elas próprias conseguem se ajustar. Não se trata de desconfiar de tudo ou paralisar diante do medo, mas sim de adotar uma postura crítica e atenta. Saber que até as gigantes ainda estão tateando nesse território deveria, na verdade, nos deixar mais cuidadosos e menos dependentes da ideia de que alguém lá fora já resolveu todos os problemas por nós.
No fim das contas, estamos todos navegando esse momento em tempo real, aprendendo juntos. E talvez o conselho mais útil seja justamente esse: trate a segurança em IA como uma jornada contínua, não como um destino que já foi alcançado por alguém. Quem entender isso desde já vai estar muito mais preparado para os desafios que ainda estão por vir.
