Uma nova ordem executiva utiliza a IA para impor uma série de prioridades políticas a uma indústria que não está habituada a ser regulamentada.
Por Mohar Chatterjee
30/10/2023 05:00 EDT
Politico — O presidente Joe Biden está lançando na segunda-feira uma nova abordagem ampla para todo o governo para a inteligência artificial com uma ordem executiva que visa criar padrões e regras em torno da tecnologia – e provavelmente colocará a Casa Branca em disputas com o Congresso e um poderoso americano. indústria.
O extenso documento visa não apenas modelos de IA de ponta, mas também um conjunto de questões tecnológicas que Washington e o Congresso têm lutado para resolver, incluindo discriminação algorítmica de habitação, segurança cibernética e privacidade de dados.
Bruce Reed, vice-chefe de gabinete de política do presidente, chamou a ordem executiva de “o conjunto mais forte de ações que qualquer governo do mundo já tomou em relação à segurança, proteção e confiança da IA”.
Através das suas muitas disposições, a ordem orienta as agências federais a implantarem a IA e a protegerem-se contra a sua possível parcialidade; exige que os desenvolvedores dos maiores modelos de IA sigam novas diretrizes de segurança; e cria padrões governamentais e industriais para discernir o conteúdo gerado por IA.
A Casa Branca divulgou um resumo de alto nível dos principais pontos do pedido antes da cerimônia de assinatura na segunda-feira. Mais detalhes estavam em um rascunho vazado do executivo obtido anteriormente pelo POLITICO.
Na ausência de qualquer acção do Congresso num futuro próximo, a ordem provavelmente definirá as interacções de Washington com um sector largamente não regulamentado da indústria tecnológica americana.
O líder da maioria democrata no Senado, Chuck Schumer, não comentou imediatamente a ordem, mas na semana passada pediu ao governo federal que investisse em grades de proteção para evitar “as coisas ruins” na IA.
O ambicioso pedido investiga detalhes técnicos dos planos do governo federal em relação à IA. Orienta as agências a clarificarem os seus padrões para o desenvolvimento da IA, tanto para orientar a indústria como para evitar a discriminação – um foco da anterior Declaração de Direitos da IA da Casa Branca .
A ordem também revela os limites da autoridade de aplicação do poder executivo sobre as empresas privadas que desenvolvem esta tecnologia, e é provável que aumente as tensões com uma indústria rica e não habituada a uma regulamentação significativa.
“Há uma enorme lacuna entre os objetivos e a realidade em toda a EO”, disse Daniel Castro, vice-presidente da Fundação de Tecnologia da Informação e Inovação, apoiada pelo Google, Amazon, Microsoft e outras empresas de tecnologia.
Depois de ver a antevisão do pedido na Casa Branca, Castro destacou a sua ênfase no desenvolvimento de padrões da indústria para lidar com desafios, como a utilização da IA para conceber armas biológicas e a identificação de meios gerados pela IA.
“Os decisores políticos muitas vezes esquecem que a razão pela qual a indústria ainda não adoptou certas soluções é porque a solução ainda não existe”, disse Castro.
IA avançada
A ordem executiva invoca a Lei de Produção de Defesa da época da Guerra da Coreia para acompanhar as empresas que desenvolvem os sistemas de IA mais poderosos – os chamados modelos de fronteira que representam a vanguarda da tecnologia.
O despacho delega o poder de definir requisitos de relatórios ao Departamento de Comércio.
Isto provavelmente significará rodadas de negociações entre o Departamento de Comércio, o setor de tecnologia e a sociedade civil sobre como monitorar as empresas poderosas que constroem os sistemas de IA mais avançados – empresas que, em alguns casos, solicitaram orientação de Washington, mas também protegem de perto o funcionamento da tecnologia.
Castro, da Fundação de Tecnologia da Informação e Inovação, disse que o pedido “tem muitos detalhes que ainda precisam ser preenchidos”.
De acordo com um projeto de ordem visto pelo POLITICO, a ordem orienta cada agência federal a criar o cargo de diretor de IA, com um memorando do Escritório de Gestão Orçamentária a seguir, descrevendo as responsabilidades de cada oficial federal de IA.
Algumas agências, como o Departamento de Segurança Interna, já nomearam um diretor de IA.
A ordem executiva também orienta as agências federais a usarem a autoridade existente para prevenir a discriminação em áreas como habitação, educação e emprego. Os grupos de direitos civis há muito que alertam para o facto de a IA conduzir a resultados tendenciosos sob o pretexto da objectividade técnica. Em Agosto, a Comissão para a Igualdade de Oportunidades de Emprego dos EUA resolveu o seu primeiro caso sobre a discriminação da IA na contratação.
“A ordem executiva do presidente exige que sejam fornecidas orientações claras aos proprietários, programas de benefícios federais e empreiteiros federais para evitar que algoritmos de IA sejam usados para exacerbar a discriminação”, disse um alto funcionário que falou em uma teleconferência na Casa Branca no domingo.
O funcionário acrescentou que a ordem exigiria que as agências federais de aplicação da lei, como o Departamento de Justiça, produzissem um manual para investigar e processar casos de violações dos direitos civis alimentadas pela IA.
O foco da ordem em questões sociais e de justiça atraiu críticas políticas da direita, mesmo antes de ter sido formalmente emitida. O senador Ted Cruz (R-Texas), membro graduado do Comitê de Comércio do Senado, disse ter visto um rascunho e criticou os termos da nova ordem como “barreiras à inovação disfarçadas de medidas de segurança”.
“De forma típica, a administração Biden criou numerosos processos burocráticos e mandatos para o despertar que minam exactamente o que as tecnologias de IA prometem fazer: criar eficiências, estimular o crescimento económico e melhorar as nossas vidas”, disse ele num comunicado.
As agências federais podem ter dificuldades para fazer as mudanças sistêmicas no manejo de ferramentas e serviços habilitados para IA que o pedido exige, diz Janet Haven, membro do Comitê Consultivo Nacional de Inteligência Artificial do Presidente e diretora executiva da organização sem fins lucrativos de direitos digitais Data & Society. . Ela o chamou de “um plano muito ambicioso em um curto espaço de tempo”.
A ordem executiva visa a privacidade de dados, uma área na qual o Congresso prometeu atuar durante anos, apresentando projetos de lei bipartidários sem nunca aprovar uma lei federal .
A ordem orienta as agências federais a definirem diretrizes sobre como coletam, usam e compartilham informações pessoais obtidas de corretores de dados. Também incentiva as agências a adotarem proteções de privacidade mais fortes.
Falando aos repórteres no domingo, o alto funcionário da Casa Branca aludiu à paralisação da legislação. “O presidente não está apenas esperando que o Congresso aja”, disse a autoridade.
Caitriona Fitzgerald, vice-diretora do Centro de Informações sobre Privacidade Eletrônica, elogiou a abordagem de estabelecer limites de coleta de dados para as agências federais, observando que os contratos governamentais muitas vezes podem estabelecer padrões para a indústria de tecnologia como um todo. No entanto, ela disse que o pedido ainda deixou uma lacuna ao não abordar a privacidade dos dados do consumidor – uma política que precisaria vir do Capitólio.
“Ainda precisamos que o Congresso aprove uma lei de privacidade abrangente para implementar disposições de minimização de dados”, disse Fitzgerald. “Sem regras de minimização de dados, a corrida armamentista da IA continuará a alimentar esse apetite inesgotável por dados pessoais.”
A questão do financiamento
O sucesso da Casa Branca na concretização das ambições da ordem executiva dependerá em grande parte da capacidade das agências federais de cumprir as suas exigências.
O pedido inclui a criação de forças-tarefa para lidar com questões como o aumento da força de trabalho federal de IA e o planejamento para a implantação responsável de IA na área da saúde.
Financiar esses esforços requer acção no Congresso, que tem estado envolvido em lutas pela presidência da Câmara e numa potencial paralisação do orçamento do próximo ano.
“Emitir o EO é o primeiro passo. Agora vem a batalha orçamental, depois vem a implementação”, disse Divyansh Kaushik, diretor associado de tecnologias emergentes e segurança nacional da Federação de Cientistas Americanos. “Há muitas coisas que as pessoas estarão procurando no próximo ano.”
Alfred Ng contribuiu para este relatório.