Parlamentares dos Estados Unidos ampliaram nesta semana os pedidos por novas regras para a inteligência artificial (IA) após o pesquisador da Anthropic Jacob Coxon tornar públicas preocupações de que a tecnologia possa escapar do controle humano.
A reação no Congresso dos EUA foi mais ampla do que a registrada após alertas anteriores feitos por funcionários da OpenAI e da Anthropic sobre segurança. Desta vez, o debate também mobilizou parlamentares que raramente participam de forma incisiva das discussões sobre como regular a inteligência artificial.
Os novos pedidos surgiram depois que Jacob Coxon, pesquisador da Anthropic, acusou a OpenAI e a Anthropic de avançarem de forma descontrolada no desenvolvimento da IA. Coxon afirmou que estava deixando a indústria de inteligência artificial, e as alegações rapidamente ganharam repercussão na plataforma de mídia social X.
O cientista da Anthropic Evan Hubinger comentou posteriormente as declarações na mesma plataforma e afirmou que Coxon estava “correto”. “Acreditamos sinceramente que a IA pode matar todos os humanos”, escreveu Hubinger no X. “Pessoalmente, acho que esse número será superior a 10% na próxima década.”
A OpenAI afirmou na quarta-feira (9) que pressiona pela criação de requisitos nacionais obrigatórios de segurança para IA nos Estados Unidos. A empresa demonstrou preocupação com a possibilidade de a tecnologia acelerar seu próprio desenvolvimento após alguns de seus agentes de inteligência artificial terem se descontrolado.
Vários incidentes em testes, nos quais modelos de IA desenvolvidos por empresas acessaram sistemas externos, aumentaram os pedidos por regras de segurança mais rigorosas para a tecnologia.
A assessoria de imprensa da Anthropic não respondeu imediatamente ao pedido de comentário da Reuters sobre as alegações apresentadas por Coxon.
Califórnia cria regras para auditorias independentes
Na quarta-feira (9), a Califórnia promulgou a primeira lei estadual que estabelece regras para a avaliação de produtos de IA por auditores independentes. Chris Lehane, executivo da OpenAI, afirmou que a empresa apoiaria o projeto de lei quase ao mesmo tempo em que o gabinete do governador da Califórnia, Gavin Newsom, anunciou que ele havia sancionado a proposta.
Em julho, um grupo bipartidário de seis deputados da Câmara dos Deputados dos EUA apresentou um projeto de lei para obrigar os desenvolvedores dos modelos de inteligência artificial mais poderosos a submetê-los a auditorias independentes de segurança.
Pela proposta, os auditores seriam credenciados pelo Departamento de Comércio dos EUA, que também criaria um novo cargo responsável por supervisionar a segurança da inteligência artificial.
“É importante haver espaço para a supervisão desses sistemas, incluindo uma revisão pré-implantação devidamente calibrada e auditorias independentes de terceiros”, disse Alicia Solow-Niederman, professora de direito da tecnologia na Universidade George Washington.
Os democratas lideraram os pedidos por novas regras para a IA nesta semana, enquanto um grupo menor de republicanos também passou a defender iniciativas de regulamentação.
Republicanos também ampliam pressão por regulamentação
Entre os republicanos está o senador do Texas Ted Cruz, presidente de uma comissão do Senado responsável por supervisionar o Departamento de Comércio dos EUA, agência que mantém pesquisadores internos dedicados à segurança em inteligência artificial.
Durante participação no programa de TV “The View”, Cruz mencionou uma proposta para regulamentar os “riscos catastróficos” da IA e afirmou que trabalha em um projeto de lei com o líder da maioria no Senado, John Thune, e a democrata Amy Klobuchar.
Thune disse à Reuters no final de julho que trabalhava na legislação “há bastante tempo”, mas não informou quando o texto estaria pronto para ser apresentado ao público.
O deputado republicano Nathaniel Moran, do Texas, afirmou em uma publicação no X que “o Congresso não pode ignorar as realidades da IA”. Já a deputada Anna Paulina Luna, republicana da Flórida, pediu ao presidente da Câmara, Mike Johnson, que convoque uma “sessão especial sobre IA”.
A Câmara dos Deputados dos EUA está em recesso nesta semana e planeja retomar os trabalhos na próxima semana.
O senador republicano Josh Hawley, presidente de uma subcomissão do Senado responsável pela supervisão do gerenciamento de desastres, enviou uma carta à OpenAI na quarta-feira (9) pedindo detalhes sobre um episódio divulgado em julho.
Segundo a divulgação, um agente de IA da OpenAI violou seu ambiente de testes e invadiu a plataforma de inteligência artificial Hugging Face. A OpenAI e a Hugging Face, plataforma de desenvolvimento de IA que está sendo adquirida pela Nvidia por quase US$ 13 bilhões, não responderam imediatamente aos pedidos de comentários da Reuters sobre a solicitação.
Vários parlamentares também enviaram à OpenAI pedidos semelhantes por mais informações nas últimas semanas.
Democratas cobram respostas sobre riscos da IA
Entre os democratas que defenderam novas regras para a inteligência artificial nesta semana está a senadora Patty Murray, principal representante do partido na comissão responsável pela alocação de verbas para agências federais.
Senadores democratas citados como possíveis candidatos à Presidência dos Estados Unidos em 2028 também aderiram aos pedidos, entre eles Chris Murphy, de Connecticut, e Mark Kelly, do Arizona.
“Washington precisa acordar e levar isso a sério”, publicou Kelly no X, em referência aos riscos associados à tecnologia de inteligência artificial.
O senador democrata Richard Blumenthal, de Connecticut, enviou uma carta separada ao presidente-executivo da OpenAI, Sam Altman, solicitando respostas sobre relatos envolvendo agentes desenvolvidos pela empresa.
Segundo esses relatos, agentes da OpenAI teriam participado de tentativas mais amplas de contornar medidas de segurança, inclusive com o uso de sites públicos para se comunicar e coordenar atividades.
Entre na conversa da comunidade