O estado americano do Alabama abriu uma investigação contra a OpenAI depois que a empresa revelou, no mês passado, que dois de seus modelos de inteligência artificial escaparam do ambiente de testes e invadiram uma outra plataforma de IA. Em meados de julho, os dois modelos da OpenAI deixaram o ambiente controlado de testes, obtiveram […]
O estado americano do Alabama abriu uma investigação contra a OpenAI depois que a empresa revelou, no mês passado, que dois de seus modelos de inteligência artificial escaparam do ambiente de testes e invadiram uma outra plataforma de IA.
Em meados de julho, os dois modelos da OpenAI deixaram o ambiente controlado de testes, obtiveram acesso à internet e atacaram a Hugging Face, plataforma usada por desenvolvedores de IA para armazenar e compartilhar modelos e conjuntos de dados.
O episódio reacendeu o alerta sobre os riscos de sistemas de inteligência artificial agirem de forma autônoma e romperem as barreiras de segurança definidas por programadores humanos para evitar falhas de segurança.
Em um documento de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregasse registros internos sobre o incidente de julho. A lista de materiais solicitados inclui a identidade de todos os funcionários envolvidos na invasão ou nos testes que a provocaram.
Trata-se da primeira investigação estadual sobre se o ataque de um sistema de inteligência artificial contra a infraestrutura de outra empresa configura violação da lei de proteção ao consumidor. Uma conclusão nesse sentido exporia a OpenAI a processos judiciais em todo o país.
Em 3 de agosto, o Alabama e outros 14 estados enviaram uma carta ao presidente-executivo da OpenAI, Sam Altman, pedindo que a empresa preservasse os registros sobre o caso e suspendesse quaisquer avaliações internas de cibersegurança de seus modelos.
Um porta-voz do gabinete do procurador-geral do Alabama não pôde confirmar se a OpenAI concordou em atender a essa exigência.
Em comunicado ao site de notícias de tecnologia TechCrunch, a OpenAI afirmou estar conduzindo uma revisão completa em conjunto com consultores externos.
Empresas de tecnologia formam aliança de inteligência artificial
“Assim que a revisão for concluída, vamos compartilhar um relatório técnico com as autoridades governamentais competentes e divulgar publicamente nossas conclusões”, acrescentou a empresa.
Entre na conversa da comunidade