Publicidade
PEQUIM, 17 Set (Reuters) – Um sistema de inteligência artificial que interfira na rede de comando nuclear ou lance uma operação digital militar pode deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo foi o responsável pelo ataque, segundo especialistas em segurança dos EUA e da China.
Os especialistas, que participam de um diálogo entre os EUA e a China cujo trabalho contribui para orientar discussões oficiais, estão recomendando a ambos os governos para se prepararem para tais cenários, em meio a crescentes preocupações com sistemas cada vez mais poderosos e autônomos.
Dólar hoje ronda estabilidade após anúncio de reajuste no Bolsa Família
O governo Lula anunciou nesta manhã um reajuste de aproximadamente 15% nos benefícios do Bolsa Família
Dólar, Bolsa e juros: como mercado brasileiro deve reagir nesta 5ª após Copom e Fed?
Após uma Super Quarta de sinais mistos, investidores avaliam até que ponto o tom duro do Fed pode ofuscar a porta aberta deixada pelo Copom para novos cortes de juros
As propostas incluem limites rígidos em relação aos sistemas nucleares, controle humano sobre ataques digitais de grande impacto e uma linha direta para incidentes envolvendo IA autônoma.
As recomendações foram publicadas na semana passada, antes das negociações sobre IA planejadas em nível governamental e de uma reunião prevista para 24 de setembro em Washington entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping.
Os autores Melanie Sisson, pesquisadora sênior do grupo de estudos Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional, organizado desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
As propostas mostram como a rivalidade entre EUA e China em matéria de IA está indo além da competição por chips e modelos avançados, abrangendo questões há muito associadas ao controle de armas: como evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação para rivais com armas nucleares quando a tecnologia se comporta de maneira inesperada.
Continua depois da publicidade
O ministro da Segurança do Estado da China, Chen Yixin, escreveu esta semana em um veículo de comunicação do governo que a IA “transforma fundamentalmente a forma da luta militar”. Ele afirmou que a IA passou de um papel coadjuvante no campo de batalha para um papel-chave, citando ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã.
LINHAS VERMELHAS
Sisson, da Brookings Institution, argumenta que os seres humanos devem manter a autoridade exclusiva para iniciar ataques digitais habilitados por IA contra os sistemas de comando, controle e comunicação nucleares de outro país ou contra infraestruturas estrategicamente importantes.
Continua depois da publicidade
Um sistema autônomo poderia apresentar falhas, exceder suas instruções ou ser comprometido, enquanto o país sob ataque poderia ter dificuldade em distinguir se a ação foi acidental ou ordenada por seu rival.
Jiang, da Universidade de Fudan, propôs limites explícitos que impeçam a IA de decidir de forma independente o uso de armas nucleares ou de atacar autonomamente sistemas de comando nuclear, além de proteções em torno de infraestruturas críticas, incluindo energia, finanças e saúde.
Ele também defendeu uma definição comum de “controle humano significativo” para evitar que ambos os países utilizem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.
Continua depois da publicidade
A ideia se baseia em um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi em novembro de 2024, segundo o qual os seres humanos devem manter o controle sobre as decisões de uso de armas nucleares.
Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, escreveu em fevereiro que esse era um importante ponto de convergência entre os EUA e a China, mesmo com ambos os países mostrando sinais de integrar a IA mais profundamente aos sistemas nucleares e relacionados à energia nuclear.
MÁQUINAS AGEM MAIS RÁPIDO
Continua depois da publicidade
Jiang também propôs uma linha direta militar exclusiva entre os EUA e a China para incidentes envolvendo IA, alertando que as trocas digitais automatizadas poderiam se intensificar demais para permitir a intervenção humana.
A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado poderia interpretar essa resposta como um ataque e retaliar antes de entender o que realmente aconteceu.
Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou ainda está sob investigação, antes que fosse tratada como uma ação estatal deliberada.
No entanto, especialistas, incluindo Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionaram a utilidade da linha direta de comunicação para crises militares já existente entre os EUA e a China, citando a recusa de autoridades chinesas em atender às ligações de seus homólogos norte-americanos sobre o “incidente do balão espião” em fevereiro de 2023.
A rígida hierarquia de cima para baixo da burocracia chinesa também impede que oficiais de baixo escalão tomem a iniciativa durante interações com seus homólogos norte-americanos, escreveu ela em um artigo para o War on the Rocks em janeiro.
“Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais”, disse ela.
OPINIÕES EM WASHINGTON E PEQUIM
Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua, mas a China tem incorporado cada vez mais a IA à sua burocracia existente de controle de armas.
A IA é uma área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, que também lida com armas nucleares, não proliferação, mísseis e outras questões de segurança internacional.
Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra, em junho, que a IA militar poderia afetar a estabilidade estratégica e aumentar os riscos de erros de cálculo e escalada de conflitos, e que as armas deveriam permanecer sob controle humano. A China também argumenta que a segurança da IA não deve se tornar um pretexto para barreiras tecnológicas.
Washington não possui um órgão único equivalente para o controle de armas no âmbito da IA e a política de segurança nacional é distribuída entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.
Ambos os governos continuam cautelosos em relação a medidas que possam retardar seu próprio desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam dar vantagem à China, enquanto Pequim vê muitos controles tecnológicos dos EUA como tentativas de preservar o domínio norte-americano.
