A tecnologia tornará a guerra mais rápida e opaca. Ela também pode se mostrar desestabilizadora.
O computador nasceu na guerra e pela guerra. O Colossus foi construído em 1944 para decifrar códigos nazistas. Nos anos 1950, os computadores já organizavam as defesas aéreas dos Estados Unidos. Nas décadas seguintes, a inteligência artificial teve um papel pequeno na guerra. Agora, ela está prestes a se tornar crucial. Assim como o mundo civil está testemunhando um rápido progresso no poder e na disseminação da inteligência artificial (IA), o mundo militar também deve se preparar para uma onda de inovação. Tanto quanto transforma a natureza da guerra, ela também pode se mostrar desestabilizadora.
A rápida mudança de hoje tem várias causas. Uma delas é o próprio cadinho da guerra, mais notavelmente na Ucrânia. Chips pequenos e baratos rotineiramente guiam drones russos e ucranianos até seus alvos, ampliando uma tecnologia antes confinada aos mísseis de uma superpotência. Outra é o recente avanço exponencial da IA, permitindo feitos surpreendentes de reconhecimento de objetos e solução de problemas de ordem superior. A terceira é a rivalidade entre os Estados Unidos e a China, em que ambos veem a IA como a chave para a superioridade militar.
Os resultados são mais visíveis no avanço das máquinas inteligentes de matar. Drones aéreos e navais têm sido vitais para ambos os lados na Ucrânia para localizar e atacar alvos. O papel da IA é como solução para interferências, permitindo que um drone se dirija a alvos mesmo que os sinais de GPS ou a conexão com o piloto tenham sido cortados. Quebrar a conexão entre piloto e avião em breve permitirá que os exércitos implantem um número muito maior de munições de baixo custo. Eventualmente, enxames autodirigidos serão projetados para sobrecarregar as defesas.
Mas o que é mais visível sobre a IA militar não é o mais importante. Conforme explica nosso relatório, a tecnologia também está revolucionando o comando e controle que os oficiais militares usam para orquestrar guerras.
Na linha de frente, drones representam apenas o último e mais dramático elo da cadeia de destruição, a série de passos que começa com a busca de um alvo e termina em um ataque. A importância mais profunda da IA é o que ela pode fazer antes do ataque do drone. Como ela filtra e processa dados em velocidade sobre-humana, pode identificar todos os tanques em mil imagens de satélite ou interpretar luz, calor, som e ondas de rádio para distinguir engodos da coisa real.
Longe da linha de frente, ela pode resolver problemas muito maiores do que os enfrentados por um único drone. Hoje, isso significa tarefas simples, como determinar qual arma é mais adequada para destruir uma ameaça. Em devido tempo, “sistemas de apoio à decisão” poderão compreender rapidamente a complexidade desconcertante da guerra em uma ampla área—talvez um campo de batalha inteiro.
As consequências disso estão apenas começando a se tornar claras. Sistemas de IA, acoplados a robôs autônomos em terra, mar e ar, provavelmente encontrarão e destruirão alvos em uma velocidade sem precedentes e em grande escala.
A velocidade de tal guerra mudará o equilíbrio entre soldado e software. Hoje, os exércitos mantêm um homem “no circuito”, aprovando cada decisão letal. À medida que encontrar e atacar alvos é comprimido em minutos ou segundos, o humano pode apenas “supervisionar o circuito”, como parte de uma equipe homem-máquina. As pessoas supervisionarão o sistema sem intervir em cada ação.
O paradoxo é que, mesmo à medida que a IA fornece uma visão mais clara do campo de batalha, a guerra corre o risco de se tornar mais opaca para as pessoas que a combatem. Haverá menos tempo para parar e pensar. À medida que os modelos emitem julgamentos cada vez mais oraculares, sua produção se tornará cada vez mais difícil de escrutinar sem ceder ao inimigo uma vantagem letal. Os exércitos temerão que, se não derem aos seus conselheiros de IA uma margem maior, serão derrotados por um adversário que o fizer. Combates mais rápidos e menos pausas tornarão mais difícil negociar tréguas ou interromper a escalada. Isso pode favorecer os defensores, que podem se proteger enquanto os atacantes se expõem ao avançar. Ou pode tentar os atacantes a atacar preventivamente e com força maciça, para destruir os sensores e redes dos quais os exércitos habilitados por IA dependerão.
A escala da guerra baseada em IA significa que a massa e a capacidade industrial provavelmente se tornarão ainda mais importantes do que são hoje. Você pode pensar que a nova tecnologia permitirá que os exércitos se tornem mais enxutos. Mas, se o software pode identificar dezenas de milhares de alvos, os exércitos precisarão de dezenas de milhares de armas para atacá-los. E, se o defensor tiver a vantagem, os atacantes precisarão de mais armas para romper.
Esse não é o único motivo pelo qual a guerra com IA favorece os grandes países. Drones podem ficar mais baratos, mas os sistemas digitais que conectam o campo de batalha serão extremamente caros. Construir exércitos com IA exigirá enormes investimentos em servidores na nuvem capazes de lidar com dados secretos. Exércitos, marinhas e forças aéreas que hoje existem em seus próprios silos de dados terão que ser integrados. Treinar os modelos exigirá acesso a vastos acervos de dados.
Qual grande país a IA favorece mais? A China já foi considerada vantajosa, graças ao seu pool de dados, controle sobre a indústria privada e restrições éticas mais frouxas. No entanto, no momento, os Estados Unidos parecem estar à frente nos modelos de fronteira que podem moldar a próxima geração de IA militar. E a ideologia importa: não está claro se os exércitos de estados autoritários, que valorizam o controle centralizado, serão capazes de explorar os benefícios de uma tecnologia que empurra a inteligência e a percepção para os níveis táticos mais baixos.
Se, tragicamente, a primeira guerra alimentada por IA irromper, o direito internacional provavelmente será relegado às margens. Ainda mais razão para pensar hoje sobre como limitar a destruição. A China deve prestar atenção ao pedido da América para excluir o controle de IA sobre armas nucleares, por exemplo. E, uma vez que uma guerra comece, linhas diretas de comunicação entre humanos se tornarão mais importantes do que nunca. Sistemas de IA instruídos a maximizar a vantagem militar precisarão ser codificados com valores e restrições que os comandantes humanos consideram garantidos. Isso inclui atribuir um valor implícito à vida humana—quantos civis é aceitável matar na busca de um alvo de alto valor?—e evitar certos ataques desestabilizadores, como em satélites de alerta precoce nuclear.
As incertezas são profundas. A única certeza é que a mudança impulsionada pela IA está se aproximando. Os exércitos que anteciparem e dominarem os avanços tecnológicos mais cedo e de forma mais eficaz provavelmente prevalecerão. Todos os outros provavelmente serão vítimas.
Nenhum comentário ainda, seja o primeiro!