Três visionários da tecnologia discutem confiança e responsabilidade na IA

Três especialistas em tecnologia discutiram como estabelecer confiança e responsabilidade na relação entre humanos e IA. O debate enfatizou que o futuro do trabalho envolve pessoas e sistemas de IA cooperando para criar valor, desde que práticas formais de governança existam.

As discussões, realizadas em um podcast da iniciativa DisruptTV, abordaram como evitar mal-entendidos entre humanos e máquinas, além de como avaliar a confiabilidade das saídas da IA. Os especialistas também ressaltaram a necessidade de clareza na responsabilização em caso de erros.

A conversa foi conduzida por Ray Wang, da Constellation Research, com a participação de Vint Cerf, David Bray e Cheryl Einhorn, todos enfatizando o papel da discernimento humano e da estrutura organizacional para orientar o uso da IA no ambiente corporativo.

Entendendo a relação humano-IA

Cerf, co-criador da internet, enfatizou que AI pode soar como uma forma de vida e que as relações de trabalho com ela podem diferir das relações humanas tradicionais. Bray sugeriu pensar na IA como interações alienígenas, para evitar antropomorfizar a máquina. Einhorn destacou a necessidade de reconhecer as consequências das decisões tomadas com base na IA.

A discussão sinalizou que a forma como operamos com IA pode determinar o sucesso de empresas na próxima década, especialmente para CEOs, conselhos e gestores públicos. A necessidade de discernimento humano ao confiar ou não nas saídas da IA foi apontada como essencial.

Como avaliar a confiabilidade das saídas da IA

Cerf descreveu a IA como uma nova espécie de colaborador inteligente, capaz de ampliar capacidades de pesquisa. Bray reiterou a importância de não confiar apenas na primeira saída de IA, defendendo a triangulação de informações para evitar erros. Einhorn ressaltou que cada pessoa tem um modo próprio de entender o mundo, o que influencia o uso da IA nos negócios.

A conversa abordou também a importância de diferenciar entre decisões que requerem precisão e aquelas que demandam processos mais robustos. O grupo destacou que a presença de uma IA como parceira de trabalho exige habilidades de navegação e controle de limites.

Responsabilidade quando a IA falha

Einhorne explicou que existem usos diferentes da IA: como ferramenta que oferece respostas específicas ou como recurso para decisões de alto risco que exigem processos formais. Bray trouxe a ideia de que a organização que utiliza a IA deve assumir a responsabilidade pelo que o agente executa. Cerf defendeu a criação de caminhos de recurso para casos de falhas.

A pauta também abordou o desafio de distinguir dados sintéticos de informações humanas, uma tendência que deve se intensificar até 2030. Os especialistas destacaram que é preciso estabelecer diretrizes claras para recorre legal e tecnicamente em situações de erro.

Lições para governos, empresas e conselhos

Entre as principais orientações, ficou clara a necessidade de instruções de IA bem definidas e de evitar resultados com impactos não intencionais. A relação entre humanos e IA deve se basear em discernimento, com boa química entre ambos para construir relações produtivas. E, por fim, a criação de mecanismos de responsabilização e de recuo em contextos diversos foi considerada essencial.

Os três especialistas concordaram que o sucesso reside no uso compartilhado de IA com foco em ampliar capacidades humanas e coletivas, indo além do conceito tradicional de teste para imitar humanos. A abordagem deve incluir governança, responsabilidade e comunicação transparentes entre equipes.

Este artigo foi elaborado com base na entrevista conduzida para o DisruptTV, com participação de Vint Cerf, David Bray e Cheryl Einhorn.