Calvin D. Lawrence, PhD em intelig\u00eancia artificial, alerta para o aumento de vieses em IA que afetam minorias. Em entrevista, ele explica que algoritmos operam de forma probabil\u00edstica e costumam reproduzir padr\u00f5es presentes nos dados, o que pode gerar discrimina\u00e7\u00e3o sist\u00eamica.<\/p>\n
O pesquisador, ex-diretor de IA Respons\u00e1vel da IBM e ex-funcion\u00e1rio da Nasa, participa do Summit Valor Brasil-EUA na pr\u00f3xima quarta-feira, 13, em Nova York. Ele afirma que o vi\u00e9s n\u00e3o \u00e9 culpa de indiv\u00edduos isolados, mas de processos institucionais que moldam algoritmos ao longo do tempo.<\/p>\n
Lawrence diz que o que chama de racismo institucional resulta da organiza\u00e7\u00e3o de dados e decis\u00f5es que continuam favorecendo certos grupos. Mesmo sem inten\u00e7\u00e3o, sistemas de IA podem tornar-se discriminat\u00f3rios se n\u00e3o houver governan\u00e7a adequada.<\/p>\n
A probabilidade de que modelos preditivos indiquem crimes com base em caracter\u00edsticas raciais \u00e9 citada como exemplo por ele. Dados desbalanceados e decis\u00f5es hist\u00f3ricas podem refor\u00e7ar esse vi\u00e9s em diversos setores.<\/p>\n
O pesquisador destaca que a maioria das empresas reconhece a necessidade de governan\u00e7a, mas o custo eleva a resist\u00eancia. Implementar IA respons\u00e1vel demanda tempo e investimentos, o que, segundo ele, ainda \u00e9 insuficiente.<\/p>\n
Lawrence ressalta que modelos propriet\u00e1rios s\u00e3o caixas-pretas. Governos t\u00eam responsabilidade de intervir quando comunidades s\u00e3o prejudicadas, ainda que a comprova\u00e7\u00e3o do dano seja desafiadora.<\/p>\n
Pa\u00edses estudam leis espec\u00edficas para IA. A Europa j\u00e1 aprovou o IA Act, com implementa\u00e7\u00e3o gradual, e o Brasil tramita o Projeto de Lei 2338\/2023, inspirado nas normas europeias. Opini\u00f5es sobre regula\u00e7\u00e3o variam entre especialistas e setores.<\/p>\n
Para o especialista, leis n\u00e3o resolvem tudo, mas ajudam a desacelerar abusos e impor limites. Ele tamb\u00e9m discorda da ideia de que a regula\u00e7\u00e3o \u00e9 desnecess\u00e1ria, argumentando que a regula\u00e7\u00e3o adequada reduz riscos.<\/p>\n
A vis\u00e3o de que IA criar\u00e1 apenas empregos melhores \u00e9 questionada. Lawrence aponta que IA pode executar tarefas tanto simples quanto complexas, exigindo requalifica\u00e7\u00e3o de trabalhadores. A substitui\u00e7\u00e3o de fun\u00e7\u00f5es n\u00e3o \u00e9 autom\u00e1tica nem garantida.<\/p>\n
No aspecto econ\u00f4mico, a ado\u00e7\u00e3o de IA busca aumentar efici\u00eancia e reduzir custos. Segundo ele, mover funcion\u00e1rios entre cargos exige comprova\u00e7\u00e3o de que a nova fun\u00e7\u00e3o gera mais receita, caso contr\u00e1rio a justificativa econ\u00f4mica \u00e9 fr\u00e1gil.<\/p>\n
Lawrence afirma que o Brasil tem oportunidade de moldar a IA conforme sua cultura, evitando a \u201ccoloniza\u00e7\u00e3o digital\u201d de dados. A presen\u00e7a de data centers e o uso de dados locais s\u00e3o componentes da discuss\u00e3o sobre remunera\u00e7\u00e3o da cultura nacional.<\/p>\n
Ele comenta que centros de dados trazem ganhos de efici\u00eancia, mas refor\u00e7am a necessidade de mecanismos que assegurem remunera\u00e7\u00e3o justa pela utiliza\u00e7\u00e3o de dados culturais brasileiros.<\/p>\n","protected":false},"excerpt":{"rendered":"