Pequim chamou a atenção ao decidir não assinar uma declaração internacional este mês para manter os seres humanos, e não a inteligência artificial, no controle das decisões sobre armas nucleares.
Ainda não está claro por que a China optou por não aderir à declaração conjunta não vinculativa — endossada por mais de 60 países, incluindo os EUA e a Ucrânia — no final da segunda conferência sobre Inteligência Artificial Responsável no Domínio Militar (REAIM), organizada pela Coreia do Sul.
Observadores afirmam que isso destaca o dilema de Pequim, que tenta equilibrar preocupações sobre compromissos relacionados a armas nucleares em meio à sua rivalidade com os EUA em IA militar, e seu desejo de ter uma voz mais influente na governança global da tecnologia em rápida evolução.
Eles também observam que este é um exemplo de como a disputa crescente entre as duas potências atrapalha os esforços globais para regular a IA, especialmente em sua expansão no uso militar.
“Nesta fase, a abordagem da China é participar de discussões internacionais, mas sendo extremamente cautelosa ao fazer compromissos específicos que possam limitá-la no futuro”, disse Tong Zhao, especialista em armas nucleares e pesquisador sênior do Carnegie Endowment for International Peace.
“A China também está interessada em adiar sua participação em regulamentações internacionais como forma de protesto contra as políticas de controle de exportação dos EUA, que restringem o acesso da China a chips avançados, essenciais para sua competição com os EUA em tecnologias de IA.”
A cúpula de dois dias em Seul, que envolveu quase 100 países, terminou em 10 de setembro com uma declaração de “plano de ação” que dizia ser essencial “manter o controle humano e a participação em todas as ações… relacionadas ao uso de armas nucleares”.
“Enfatizamos a necessidade de impedir que as tecnologias de IA sejam usadas para contribuir com a proliferação de armas de destruição em massa e destacamos que as tecnologias de IA devem apoiar, e não prejudicar, os esforços de desarmamento, controle de armas e não proliferação”, dizia a declaração, segundo a Yonhap.
“As aplicações de IA devem ser éticas e centradas no ser humano” e as capacidades de IA no domínio militar “devem ser aplicadas de acordo com as leis nacionais e internacionais aplicáveis”.
O acordo deste ano foi considerado mais “orientado para a ação” do que o modesto documento de “chamado à ação” adotado na primeira reunião do REAIM em Haia no ano passado, que foi endossado por cerca de 60 países, incluindo a China.
A Rússia não foi convidada para as conversas em Seul ou Haia devido à sua invasão da Ucrânia.
Embora especialistas em políticas nucleares da China tenham, em sua maioria, apoiado o princípio de não permitir que a IA tome decisões de autorização nuclear, Pequim parece ter reservas, segundo Zhao.
“A China pode temer que se comprometer com esse princípio possa aumentar a pressão para fornecer mais transparência sobre suas armas nucleares e sistemas de comando, controle e comunicação nuclear”, disse ele.
Zhao sugeriu que outras explicações possíveis incluem que Pequim pode querer evitar apoiar um evento liderado principalmente pelo Ocidente, organizado por um aliado dos EUA, e uma proposta que sabe que a Rússia se opõe.
“Isso dito, é difícil afirmar se a decisão da China de não apoiar o plano de ação se deve principalmente a preocupações sobre a limitação da incorporação de IA nos sistemas nucleares”, disse ele. “O plano de ação também inclui muitos outros compromissos gerais sobre a regulamentação da aplicação militar de IA que a China ainda não está pronta para fazer, temendo que possa restringir suas opções futuras.”
Seong-Hyon Lee, associado do Centro de Estudos Asiáticos da Universidade de Harvard, disse que, apesar da melhoria nas capacidades operacionais trazida pela IA no campo militar, ela também apresenta o risco de uso indevido, tornando-se uma “espada de dois gumes”.
Ele observou que as tensões mais amplas com Washington também influenciaram a posição de Pequim, tornando-a relutante em aderir a iniciativas lideradas pelos EUA.
“O uso militar da IA tornou-se um componente-chave da rivalidade estratégica entre os EUA e a China, com ambas as nações investindo fortemente no desenvolvimento de IA para ganhar uma vantagem militar futura”, disse ele.
Ele descreveu a decisão de Pequim como “mais um exemplo de como a competição entre EUA e China impede os esforços globais de regulamentação da IA, que exigem cooperação entre as duas potências”.
Apontando para as crescentes preocupações sobre uma corrida armamentista de IA e o potencial de escalada de conflitos, ele disse que os EUA estão preocupados com o uso indevido de IA pela China, enquanto a China se opõe às restrições dos EUA sobre a tecnologia de IA.
“Chegar a um acordo sobre IA militar entre os dois países é um desafio devido à competição estratégica, valores divergentes e desconfiança profundamente enraizada”, afirmou ele.
Em outubro do ano passado, a China apresentou uma curta declaração de política intitulada Iniciativa de Governança Global de IA, destacando seu foco no “bem-estar da humanidade” — em vez da ênfase do Ocidente em proteger os direitos humanos e o estado de direito.
A iniciativa de Pequim pediu para garantir que “a IA permaneça sempre sob controle humano”. Também se opôs à “criação de barreiras e à interrupção da cadeia global de suprimentos de IA por meio de monopólios tecnológicos e medidas coercitivas unilaterais”.
No mês seguinte, a China participou da primeira cúpula sobre segurança de IA em Bletchley Park, na Inglaterra, assinando uma declaração conjunta com os EUA e a União Europeia que pedia cooperação global para mitigar os riscos da tecnologia.
E em julho deste ano, o Partido Comunista no poder emitiu um apelo para estabelecer “sistemas regulatórios para garantir a segurança da IA” em seu documento de política após o terceiro plenário.
Lee afirmou que a China também pode estar preocupada que um compromisso público de manter a IA fora das decisões relacionadas a armas nucleares possa limitar suas opções estratégicas futuras, dadas as lacunas no uso militar da IA entre Pequim e Washington.
“Além disso, a China pode preferir desenvolver seus próprios… frameworks de governança de IA em vez de adotar propostas lideradas pelo Ocidente, refletindo seu desejo de maior autonomia nessa área”, acrescentou.
Manoj Harjani, pesquisador e coordenador do programa de transformações militares da Escola de Estudos Internacionais S. Rajaratnam, em Cingapura, concordou. Ele disse que a China provavelmente está focada em seus esforços para liderar uma resolução na Assembleia Geral da ONU sobre a governança de IA militar.
Em março, a Assembleia Geral da ONU adotou sua primeira resolução sobre IA, redigida pelos EUA e co-patrocinada por mais de 120 países, incluindo a China, por consenso sem votação, pedindo o desenvolvimento “seguro, protegido e confiável” da tecnologia.
No entanto, em novembro do ano passado, a China optou por se abster de uma resolução da ONU que buscava tratar do uso de IA em sistemas de armas autônomos, também conhecidos como “robôs assassinos”, que foi endossada por 164 países, incluindo os EUA. Cinco países, incluindo a Rússia e a Índia, votaram contra, enquanto oito, incluindo Israel e Irã, se abstiveram.
Harjani disse que os EUA não foram um fator significativo na decisão de Pequim de não apoiar a declaração de Seul, que, segundo ele, não “necessariamente sinaliza que a China discorda absolutamente de seu conteúdo e do processo REAIM”.
“As diferenças com os EUA certamente serão um fator que afeta a abordagem geral da China em relação à governança global de IA militar, mas o processo REAIM não é liderado pelos EUA, então não acho que isso pese muito neste caso”, afirmou.
Em vez disso, ele apontou para o diálogo bilateral entre os dois países como uma forma eficaz de “melhorar o entendimento mútuo enquanto se reduzem os riscos de descomunicação”.
Pequim e Washington realizaram seu primeiro diálogo sobre IA em Genebra em maio, que o subsecretário de Estado dos EUA, Kurt Campbell, descreveu como um sinal de que a China “pode estar preparada para discutir outras questões relacionadas a armas nucleares”.
Acredita-se que a China esteja expandindo suas forças nucleares “mais rapidamente do que qualquer outro país”, de acordo com o Instituto Internacional de Pesquisa para a Paz de Estocolmo. No entanto, ela tem sido criticada pela falta de transparência e por evitar diálogos estratégicos com os EUA sobre questões nucleares.
Pequim descreveu as conversas em Genebra como uma troca de opiniões “profunda, profissional e construtiva”. Oficiais dos EUA levantaram preocupações sobre o “uso indevido de IA” pela China, enquanto Pequim “expressou uma postura firme sobre as restrições e repressões dos EUA no campo da IA”.
A embaixada da China em Washington afirmou que os dois lados discutiram a aplicação da inteligência artificial no gerenciamento e na implementação de armas nucleares.
Harjani disse que a recentemente anunciada segunda rodada de conversas sobre IA foi “um sinal positivo”.
“Não estou certo de que isso levará a um acordo juridicamente vinculativo, mas o fato de haver uma plataforma para os dois países construírem consenso e discutirem áreas de desacordo é valioso”, afirmou.
“Não devemos presumir que um acordo juridicamente vinculativo é necessário para resolver todos os aspectos da governança de IA militar — uma plataforma para esclarecer posições e intenções pode ser suficiente para algumas questões.”
Com um acordo global abrangente improvável, Lee, do Centro de Estudos Asiáticos da Universidade de Harvard, disse que seria realista o mundo trabalhar em acordos limitados sobre aplicações específicas de IA, com foco em segurança e ética.
“Globalmente, alcançar um consenso sobre a regulamentação da IA, particularmente em aplicações militares, é igualmente difícil em meio às tensões geopolíticas, especialmente entre o Ocidente liderado pelos EUA e a coalizão China-Rússia”, afirmou.
Lee acrescentou que a China deve buscar mais transparência, especialmente sobre sua abordagem à IA e seu uso militar.
“Seria benéfico, na verdade, para a China explicar suas reservas e o que ela percebe como problemático ou injusto”, disse ele. “À medida que a China tenta se posicionar como uma superpotência responsável, sua capacidade de articular suas opiniões para a comunidade internacional se tornará cada vez mais importante para ganhar apoio global para suas posições.”