Empresas de tecnologia enfrentam nova pressão sobre diversidade em inteligência artificial

As empresas de tecnologia estão enfrentando um novo escrutínio sobre suas práticas de diversidade, equidade e inclusão (DEI) em produtos de inteligência artificial (IA). O Comitê Judiciário da Câmara dos EUA iniciou investigações sobre a chamada "IA woke", que agora é vista como um problema a ser corrigido. Intimações foram enviadas a grandes empresas, como Amazon, Google e Microsoft, para esclarecer suas abordagens em relação ao viés algorítmico.

Recentemente, o Departamento de Comércio dos EUA alterou suas diretrizes, excluindo referências à justiça e à "IA responsável". O foco agora é na redução do viés ideológico, visando promover a competitividade econômica. Essa mudança gerou preocupações entre especialistas, como o sociólogo da Universidade de Harvard, Ellis Monk, que anteriormente colaborou com o Google para melhorar a inclusão em suas ferramentas de IA.

Monk destacou que a visão computacional da IA, que treina máquinas para interpretar imagens, frequentemente perpetua preconceitos históricos. Ele mencionou que, em suas experiências, pessoas de pele mais escura eram retratadas de maneira desfavorável. O Google implementou uma escala de tons de pele desenvolvida por Monk, que melhorou a representação da diversidade em suas ferramentas. Apesar do sucesso, ele teme que o novo clima político possa reduzir o financiamento para iniciativas que visam tornar a tecnologia mais inclusiva.

Mudanças no Cenário Político

O representante republicano Jim Jordan, presidente do Comitê Judiciário, expressou interesse em investigar se a administração Biden pressionou as empresas de IA a censurar discursos. Michael Kratsios, diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca, afirmou que as políticas de IA da administração Biden promovem divisões sociais. Ele citou preocupações sobre como sistemas de IA podem amplificar resultados injustos.

Estudos anteriores já mostraram que tecnologias de IA, como reconhecimento facial e carros autônomos, apresentam viés racial. Um exemplo notável foi o aplicativo de fotos do Google, que classificou erroneamente imagens de pessoas negras. A nova abordagem política, que critica o viés ideológico, pode impactar negativamente os esforços para combater o viés algorítmico.

A situação se intensificou com o lançamento do Gemini, um produto do Google que se tornou símbolo da "IA woke". O sistema foi criticado por favorecer estereótipos em suas representações. O vice-presidente JD Vance, em uma cúpula de IA, denunciou o uso de IA para promover agendas sociais, destacando a necessidade de garantir que os sistemas de IA sejam livres de viés ideológico.

A ex-conselheira científica de Biden, Alondra Nelson, comentou que a nova ênfase no viés ideológico é um reconhecimento do problema do viés algorítmico. No entanto, ela expressou ceticismo sobre a possibilidade de colaboração em um ambiente político hostil às iniciativas de igualdade na IA.