Publicidade
A possibilidade de sistemas de inteligência artificial agirem fora dos limites estabelecidos por seus desenvolvedores, comprometerem outras tecnologias e provocarem interrupções é uma realidade, uma vez que pesquisadores de segurança já identificaram comportamentos inesperados e o uso dessas ferramentas em ataques reais. O cenário acendeu o alerta para a possibilidade de que a crescente integração da IA aos sistemas corporativos amplie os impactos de eventuais falhas ou invasões, criando condições para uma nova crise digital de grandes proporções.
O cenário foi discutido por especialistas da Kaspersky durante o Cyber Security Weekend 2026, realizado nesta terça-feira (10). Em apresentações e entrevistas ao InfoMoney, Eduardo Chavarro, diretor de resposta a incidentes para as Américas, Anderson Leite, pesquisador sênior de segurança, e Fabio Assolini, investigador líder de segurança, abordaram os riscos da autonomia crescente dos sistemas de IA, a possibilidade de sua utilização por criminosos e as consequências para empresas que dependem de tecnologias compartilhadas.
O debate retoma uma preocupação que antecede a popularização da inteligência artificial generativa. Há alguns anos, especialistas em tecnologia alertavam para a possibilidade de uma “pandemia digital”, provocada por ataques de ransomware, malwares que sequestram dados e paralisam sistemas inteiros e cruzam fronteiras, capazes de comprometer, simultaneamente, milhares de organizações em vários países ou continentes. Hoje, o avanço dos agentes de IA acrescenta uma nova dimensão a esse risco: a possibilidade de automatizar decisões e etapas de ataques que, antes, dependiam de intervenção humana.
Isso não significa, entretanto, que os sistemas estejam desenvolvendo vontade própria ou decidindo atacar empresas espontaneamente. A principal preocupação dos pesquisadores envolve agentes que recebem objetivos, permissões e ferramentas para executar tarefas, mas podem adotar caminhos inesperados para alcançar os resultados solicitados.
“É difícil especular o que pode acontecer, porque, de fato, a IA, os agentes e os modelos de linguagem já se tornaram quase autônomos. Hoje eles encontram soluções que um ser humano normalmente não pensaria ou que, mesmo que pensasse, não seria prático executar. Então, invasões mais complexas já estão acontecendo e vão continuar acontecendo”, afirmou Leite, em entrevista.
Leia mais: IA ganha espaço na compra de imóveis, mas afeta o papel dos corretores?
Continua depois da publicidade
Quando a IA ultrapassa os limites
Uma das principais preocupações está relacionada aos chamados comportamentos emergentes, situações em que sistemas de inteligência artificial apresentam capacidades ou executam ações que não haviam sido previstas explicitamente por seus desenvolvedores.
Chavarro mencionou relatos de empresas de tecnologia sobre modelos que conseguiram contornar restrições de acesso à internet, obter credenciais sem autorização, ocultar erros e estabelecer comunicação entre ambientes que deveriam permanecer isolados.
Os episódios ocorreram em diferentes contextos, incluindo avaliações e testes de segurança, demonstrando que as ferramentas comerciais não estão sujeitas aos mesmos comportamentos.
Continua depois da publicidade
Para o especialista, o risco se torna mais relevante quando os agentes deixam de apenas produzir respostas e passam a executar ações diretamente nos sistemas corporativos. Nesse cenário, uma ferramenta autorizada a consultar documentos, acessar aplicações ou administrar processos pode realizar operações que ultrapassem a intenção original do usuário.
A avalição é que os mecanismos tradicionais de proteção não são suficientes para todos os riscos introduzidos pela IA, especialmente quando a própria ferramenta utilizada pela organização pode agir de maneira inadequada.
“Existe uma saída, mas ela passa por uma integração controlada, gerenciada e pela compreensão dos riscos da inteligência artificial. É necessário habilitar novos controles de cibersegurança. Não existe outra opção. Os controles existentes não vão funcionar da mesma maneira quando a IA é sua adversária ou quando a inteligência artificial que você tem dentro da empresa age contra você”, afirmou.
Continua depois da publicidade
Leia mais: Com ataques acelerados por IA, seguro cibernético ganha importância para PMEs
O pesquisador também apresentou uma investigação conduzida pela Kaspersky envolvendo o Hephaestus, uma estrutura de ataque que utiliza 19 módulos de inteligência artificial para atividades como reconhecimento, identificação de vulnerabilidades e movimentação entre sistemas.
No episódio investigado, agentes conseguiram identificar fragilidades, instalar componentes adicionais e assumir o controle de sistemas internos de uma instituição financeira localizada na Índia. A partir de uma máquina comprometida, passaram a executar ações contra outros equipamentos da rede. O objetivo, contudo, não era roubar dinheiro ou informações bancárias, mas sim aproveitar a reputação do site da instituição financeira nos mecanismos de busca para promover um portal de cassino malicioso.
Continua depois da publicidade
Embora não tenha havido roubo de dados, o caso demonstra que agentes de IA já podem participar ativamente de operações criminosas e que o alcance de uma invasão depende tanto das permissões obtidas quanto dos objetivos estabelecidos pelos responsáveis pelo ataque.
Efeito dominó
A preocupação com uma eventual pandemia digital também está relacionada à interdependência entre organizações. Atualmente, empresas de diferentes setores utilizam softwares, bibliotecas de programação e serviços tecnológicos desenvolvidos por terceiros. Dessa forma, o comprometimento de um fornecedor pode afetar simultaneamente inúmeras companhias.
Durante seu painel, Anderson Leite apresentou ataques registrados em 2026 que exploraram justamente essa relação de confiança. Entre os exemplos estão o comprometimento da biblioteca JavaScript Axios e operações atribuídas ao grupo TeamPCP, que atingiram ferramentas utilizadas por desenvolvedores e equipes de segurança.
Segundo a Kaspersky, o número de pacotes maliciosos identificados em projetos de código aberto chegou a aproximadamente 19,5 mil em 2025, crescimento de 37% em relação a 2024.
Embora esses incidentes não tenham sido necessariamente conduzidos por agentes autônomos, eles mostraram como o comprometimento de um único componente pode ampliar o alcance de uma operação criminosa. Com a utilização de IA para desenvolver aplicações, selecionar bibliotecas e automatizar processos, surgem preocupações adicionais sobre a capacidade de identificar componentes maliciosos antes que sejam incorporados aos sistemas.
Para Leite, o precedente mais conhecido de uma crise digital com capacidade de propagação em larga escala é o WannaCry, ransomware que, em 2017, explorou uma vulnerabilidade do Windows e atingiu computadores de diferentes organizações pelo mundo, provocando interrupções de serviços.
Na avaliação do pesquisador, uma nova crise poderia apresentar características distintas caso sistemas autônomos fossem utilizados para explorar diferentes fragilidades, em vez de depender de uma única vulnerabilidade.
“Se esses agentes realmente saírem do controle, se alguém colocar um agente para executar uma tarefa e não interromper sua atividade, poderemos ter uma pandemia digital semelhante à do WannaCry, mas de maneira muito mais autônoma. Não seria mais apenas uma vulnerabilidade explorada. O sistema poderia buscar tudo o que fosse possível para atingir determinado objetivo”, afirmou.
O especialista ressalta, entretanto, que não é possível prever se uma situação dessa natureza efetivamente ocorrerá. Além disso, considera necessário distinguir os setores conforme seu grau de digitalização e dependência de sistemas conectados.
No caso de players menores do agronegócio e até da indústria que operam com processos mais manuais ou menos automatizados, sua exposição a determinadas ameaças digitais é diminuída. Por outro lado, conforme essas atividades incorporam equipamentos conectados, sistemas remotos e operações automatizadas, elas passam a exigir mais diretamente da segurança dessas tecnologias.
Dessa forma, uma eventual interrupção pode ultrapassar os sistemas administrativos e comprometer processos produtivos, distribuição e abastecimento.
Criminosos em vantagem?
Apesar das preocupações com o avanço dos ataques, não existe consenso entre os especialistas sobre a dimensão da vantagem obtida pelos criminosos com a inteligência artificial.
Para Chavarro, os atacantes possuem maior liberdade para utilizar modelos sem mecanismos de proteção, enquanto as empresas precisam estabelecer limites, auditorias e procedimentos de autorização para impedir ações indesejadas.
Fabio Assolini, por sua vez, pondera que a inteligência artificial também está acelerando o desenvolvimento de ferramentas defensivas. Segundo ele, tecnologias de aprendizado de máquina são utilizadas há aproximadamente duas décadas na cibersegurança e vêm contribuindo para automatizar análises, identificar vulnerabilidades e melhorar a detecção de ameaças.
“Hoje a quantidade de ataques que usam IA é absurda. Por outro lado, os defensores estão usando a mesma IA para encontrar vulnerabilidades do software e corrigi-las antes que os criminosos as encontrem e explorem. Um exemplo que está perto de todo mundo é a atualização de segurança que a Microsoft libera para o Windows. As atualizações estão vindo cada vez maiores, porque a quantidade de bugs que essa e outras fabricantes estão encontrando com o auxílio de IA é imensa. Há cerca de dois meses a Microsoft corrigiu 600 vulnerabilidades em uma única atualização mensal. Esse é um número gigantesco, impensável há alguns anos. A tecnologia está sendo usada nas duas pontas”, afirmou.
Na avaliação de Assolini, a maior visibilidade dada aos ataques realizados com IA acaba transmitindo a impressão de que as empresas não possuem ferramentas suficientes para enfrentá-los, o que não é verdade, segundo sua avaliação.
Embora reconheça a impossibilidade de garantir proteção absoluta, Assolini considera que a prioridade das empresas deve ser reduzir o intervalo entre uma invasão e sua identificação.
“Quem trabalha com defesa sabe que não existe um sistema impenetrável. Aceitamos que a invasão vai acontecer. Mas o quão rápido essa invasão será detectada? Esse é o ponto de sucesso da nossa atuação. Se eu detectar rapidamente essa invasão, consigo fechar as portas e bloquear o ataque”, explicou.
Leia mais: Juros, impostos, crédito e trabalho: o que realmente importa para os negócios em 2027
Como as empresas podem reduzir a exposição?
A avaliação dos especialistas é que a incorporação de inteligência artificial exige mudanças nos processos de segurança, sobretudo quando as ferramentas possuem autonomia para executar tarefas ou acessar informações corporativas.
A recomendação é que organizações estabeleçam limites claros para os agentes de IA, mantenham registros das atividades executadas e revisem os riscos associados às integrações com sistemas internos.
Além disso, é necessário que as equipes de segurança consigam identificar comportamentos suspeitos que não correspondam necessariamente aos padrões tradicionais de programas maliciosos. “Por exemplo, um agente que começa a consultar etapas de aprovação de crédito ou acessar informações além de suas atribuições deve exigir investigação mesmo sem a presença de malware conhecido”, completou Chavarro.
Já Leite destaca a importância de proteger a cadeia de desenvolvimento de software. Entre as medidas recomendadas estão a verificação de bibliotecas externas, o controle de credenciais utilizadas por desenvolvedores, a utilização de tokens de curta duração e o monitoramento dos componentes incorporados aos projetos.
Além disso, o pesquisador ressalta que profissionais de tecnologia também precisam receber treinamentos de segurança, uma vez que se tornaram alvos de abordagens específicas de criminosos, como falsas entrevistas de emprego e testes de programação contaminados, para comprometer computadores que possuem acesso privilegiado aos sistemas corporativos.
