A Casa Branca oferece uma nova estratégia para IA – e escolhe novas lutas

Uma nova ordem executiva utiliza a IA para impor uma série de prioridades políticas a uma indústria que não está habituada a ser regulamentada.

Publicado em 30/10/2023

Politico — O presidente Joe Biden está lançando na segunda-feira uma nova abordagem ampla para todo o governo para a inteligência artificial com uma ordem executiva que visa criar padrões e regras em torno da tecnologia – e provavelmente colocará a Casa Branca em disputas com o Congresso e uma poderosa indústria americana.

O extenso documento visa não apenas modelos de IA de ponta, mas também um conjunto de questões tecnológicas que Washington e o Congresso têm lutado para resolver, incluindo discriminação algorítmica de habitação, segurança cibernética e privacidade de dados.

Bruce Reed, vice-chefe de gabinete de política do presidente, chamou a ordem executiva de “o conjunto mais forte de ações que qualquer governo do mundo já tomou em relação à segurança, proteção e confiança da IA”.

Através das suas muitas disposições, a ordem orienta as agências federais a implantarem a IA e a protegerem-se contra a sua possível parcialidade; exige que os desenvolvedores dos maiores modelos de IA sigam novas diretrizes de segurança; e cria padrões governamentais e industriais para discernir o conteúdo gerado por IA.

A Casa Branca divulgou um resumo de alto nível dos principais pontos do pedido antes da cerimônia de assinatura na segunda-feira. Mais detalhes estavam em um rascunho vazado do executivo obtido anteriormente pelo POLITICO.

Na ausência de qualquer ação do Congresso num futuro próximo, a ordem provavelmente definirá as interações de Washington com um sector largamente não regulamentado da indústria tecnológica americana.

O líder da maioria democrata no Senado, Chuck Schumer, não comentou imediatamente a ordem, mas na semana passada pediu ao governo federal que investisse em grades de proteção para evitar “as coisas ruins” na IA.

O ambicioso pedido investiga detalhes técnicos dos planos do governo federal em relação à IA. Orienta as agências a clarificarem os seus padrões para o desenvolvimento da IA, tanto para orientar a indústria como para evitar a discriminação – um foco da anterior Declaração de Direitos da IA ​​da Casa Branca .

A ordem também revela os limites da autoridade de aplicação do poder executivo sobre as empresas privadas que desenvolvem esta tecnologia, e é provável que aumente as tensões com uma indústria rica e não habituada a uma regulamentação significativa.

“Há uma enorme lacuna entre os objetivos e a realidade em toda a EO”, disse Daniel Castro, vice-presidente da Fundação de Tecnologia da Informação e Inovação, apoiada pelo Google, Amazon, Microsoft e outras empresas de tecnologia.

Depois de ver a antevisão do pedido na Casa Branca, Castro destacou a sua ênfase no desenvolvimento de padrões da indústria para lidar com desafios, como a utilização da IA ​​para conceber armas biológicas e a identificação de meios gerados pela IA.

“Os políticos muitas vezes esquecem que a razão pela qual a indústria ainda não adotou certas soluções é porque a solução ainda não existe”, disse Castro.

IA avançada

A ordem executiva invoca a Lei de Produção de Defesa da época da Guerra da Coreia para acompanhar as empresas que desenvolvem os sistemas de IA mais poderosos – os chamados modelos de fronteira que representam a vanguarda da tecnologia.

O despacho delega o poder de definir requisitos de relatórios ao Departamento de Comércio.

Isto provavelmente significará rodadas de negociações entre o Departamento de Comércio, o setor de tecnologia e a sociedade civil sobre como monitorar as empresas poderosas que constroem os sistemas de IA mais avançados – empresas que, em alguns casos, solicitaram orientação de Washington, mas também protegem de perto o funcionamento da tecnologia.

Castro, da Fundação de Tecnologia da Informação e Inovação, disse que o pedido “tem muitos detalhes que ainda precisam ser preenchidos”.

Sobre discriminação: delegação a agências federais

De acordo com um projeto de ordem visto pelo POLITICO, a ordem orienta cada agência federal a criar o cargo de diretor de IA, com um memorando do Escritório de Gestão Orçamentária a seguir, descrevendo as responsabilidades de cada oficial federal de IA.

Algumas agências, como o Departamento de Segurança Interna, já nomearam um diretor de IA.

A ordem executiva também orienta as agências federais a usarem a autoridade existente para prevenir a discriminação em áreas como habitação, educação e emprego. Os grupos de direitos civis há muito que alertam para o facto de a IA conduzir a resultados tendenciosos sob o pretexto da objetividade técnica. Em agosto, a Comissão para a Igualdade de Oportunidades de Emprego dos EUA resolveu o seu primeiro caso sobre a discriminação da IA ​​na contratação.

“A ordem executiva do presidente exige que sejam fornecidas orientações claras aos proprietários, programas de benefícios federais e empreiteiros federais para evitar que algoritmos de IA sejam usados ​​para exacerbar a discriminação”, disse um alto funcionário que falou em uma teleconferência na Casa Branca no domingo.

O funcionário acrescentou que a ordem exigiria que as agências federais de aplicação da lei, como o Departamento de Justiça, produzissem um manual para investigar e processar casos de violações dos direitos civis alimentadas pela IA.

O foco da ordem em questões sociais e de justiça atraiu críticas políticas da direita, mesmo antes de ter sido formalmente emitida. O senador Ted Cruz (R-Texas), membro graduado do Comitê de Comércio do Senado, disse ter visto um rascunho e criticou os termos da nova ordem como “barreiras à inovação disfarçadas de medidas de segurança”.

“De forma típica, a administração Biden criou numerosos processos burocráticos e mandatos para o despertar que minam exatamente o que as tecnologias de IA prometem fazer: criar eficiências, estimular o crescimento econômico e melhorar as nossas vidas”, disse ele num comunicado.

As agências federais podem ter dificuldades para fazer as mudanças sistêmicas no manejo de ferramentas e serviços habilitados para IA que o pedido exige, diz Janet Haven, membro do Comitê Consultivo Nacional de Inteligência Artificial do Presidente e diretora executiva da organização sem fins lucrativos de direitos digitais Data & Society. Ela o chamou de “um plano muito ambicioso em um curto espaço de tempo”.

Protegendo-se contra um “apetite inesgotável por dados pessoais”

A ordem executiva visa a privacidade de dados, uma área na qual o Congresso prometeu atuar durante anos, apresentando projetos de lei bipartidários sem nunca aprovar uma lei federal.

A ordem orienta as agências federais a definirem diretrizes sobre como coletam, usam e compartilham informações pessoais obtidas de corretores de dados. Também incentiva as agências a adotarem proteções de privacidade mais fortes.

Falando aos repórteres no domingo, o alto funcionário da Casa Branca aludiu à paralisação da legislação. “O presidente não está apenas esperando que o Congresso aja”, disse a autoridade.

Caitriona Fitzgerald, vice-diretora do Centro de Informações sobre Privacidade Eletrônica, elogiou a abordagem de estabelecer limites de coleta de dados para as agências federais, observando que os contratos governamentais muitas vezes podem estabelecer padrões para a indústria de tecnologia como um todo. No entanto, ela disse que o pedido ainda deixou uma lacuna ao não abordar a privacidade dos dados do consumidor – uma política que precisaria vir do Capitólio.

“Ainda precisamos que o Congresso aprove uma lei de privacidade abrangente para implementar disposições de minimização de dados”, disse Fitzgerald. “Sem regras de minimização de dados, a corrida armamentista da IA ​​continuará a alimentar esse apetite inesgotável por dados pessoais.”

A questão do financiamento

O sucesso da Casa Branca na concretização das ambições da ordem executiva dependerá em grande parte da capacidade das agências federais de cumprir as suas exigências.

O pedido inclui a criação de forças-tarefa para lidar com questões como o aumento da força de trabalho federal de IA e o planejamento para a implantação responsável de IA na área da saúde.

Financiar esses esforços requer ação no Congresso, que tem estado envolvido em lutas pela presidência da Câmara e numa potencial paralisação do orçamento do próximo ano.

“Emitir o EO é o primeiro passo. Agora vem a batalha orçamental, depois vem a implementação”, disse Divyansh Kaushik, diretor associado de tecnologias emergentes e segurança nacional da Federação de Cientistas Americanos. “Há muitas coisas que as pessoas estarão procurando no próximo ano.”

Alfred Ng contribuiu para este relatório.