Sistemas de IA autônomos testam governança em ambientes físicos

Autônomos de IA ganham espaço físico com operações em armazéns, redes de entrega e espaços públicos. A discussão envolve se as regras atuais cobrem sistemas que atuam no mundo real e dependem de governança para evitar impactos em infraestrutura e segurança.

Especialistas destacam que a maior parte das estruturas atuais tratam de danos online, viés e desinformação. Em ambientes corporais, falhas podem ter consequências diretas em equipamentos, veículos e redes críticas.

A Autoridade de Desenvolvimento de Informática e Mídia de Singapura (IMDA) lançou a versão 1.5 do Model AI Governance Framework for Agentic AI, em 20 de maio. O guia orienta organizações que usam agentes capazes de planejar, decidir e agir.

O framework descreve agentes que interagem com ferramentas, sistemas externos e outros agentes, incluindo bases de dados, dispositivos e transações. Define controles de acesso, monitoramento e aprovação humana como medidas de governança.

Progresso regulatório e aplicação prática

Em um cume de IA em Singapura, debates sobre robótica focaram na segurança operacional, semelhante a setores de aviação e infraestrutura crítica, e não apenas em regulação de software.

Especialistas discutiram se sistemas autônomos podem operar com segurança em ambientes imprevisíveis por longos períodos, segundo a cobertura da MLex.

Ya-Qin Zhang, da Tsinghua, afirmou que IA incorporada aumenta riscos já presentes no software, com falhas afetando transportes, drones e redes de logística. Ele destacou consequências físicas.

O guia da IMDA recomenda lançamentos graduais, monitoramento contínuo e mais testes após a implantação, reconhecendo que nem todos os riscos podem ser previstos antes do uso.

Implementação e monitoramento em campo

A Grab, que testa veículos autônomos e robôs de entrega em Punggol, diz que governança depende de simulações, testes em pistas e monitoramento constante.

Suthen Thomas Paradatheth, CTO da Grab, afirmou que a validação começa na simulação e em poucos veículos antes de ampliar a operação.

A empresa também mantém sistemas de monitoramento para detectar falhas não previstas após o lançamento, reconhecendo o “longo rastro” de questões potenciais.

O guia da IMDA orienta avaliar casos de uso com base em acesso a dados, acesso a sistemas externos, autonomia e complexidade da tarefa, entre outros pontos.

Também recomenda restringir o acesso a ferramentas, aplicar o princípio do menor privilégio e definir procedimentos operacionais padrão.

Responsabilidade distribuída e casos de uso

A IMDA aponta que responsabilidade permanece com pessoas, mesmo com IA autônoma, cobrando clareza na cadeia de valor da IA agente. É preciso definir responsabilidades entre desenvolvedores, fabricantes, fornecedores e usuários.

Applied Materials destacou que a robótica em larga escala depende de sensores avançados, eficiência energética e integração de sistemas, com designs específicos para ecossistemas industriais.

Beijing, Japão e outros países seguem investindo em testes, padrões e governança. Em Tóquio, projetos coletam big data para fundação de modelos de robô, consolidando padrões de governança na região.

Casos corporativos e uso regulado

JPMorgan está usando ferramentas de IA em bancas de investimento globais para ampliar acesso a informações e apoiar conteúdos. A empresa trabalha com testes em fluxo de trabalho sob supervisão humana.

Outras instituições financeiras também exploram IA, com acesso a modelos de cibersegurança para detectar vulnerabilidades, sob iniciativas coordenadas com fornecedores de IA.

O guia da IMDA traz um estudo de caso da OCBC Bank de Cingapura, com análise de origem de riqueza. O sistema opera apenas em pontos de decisão predefinidos, com validação humana final.

Rumo à adoção industrial

No Japão, um terço das empresas já utiliza ou considera robôs com IA. A adesão envolve setores de manufatura e logística, impulsionada pelo combate à escassez de mão de obra.

O governo japonês aposta na industrialização por meio de ecossistemas, parcerias e financiamento de médio a longo prazo, para manter a liderança de robótica.

Na esfera global, o uso de IA em varejo se amplia. Grandes redes estudam agentes que atendam clientes, funcionários, fornecedores e desenvolvedores, com modelos que evoluem para tarefas cada vez mais complexas.