A maioria das organiza\u00e7\u00f5es ainda n\u00e3o consegue medir qu\u00e3o r\u00e1pido pode interromper e interromper uma emerg\u00eancia de IA nem explicar a causa do problema. Essa \u00e9 a constata\u00e7\u00e3o de um estudo da ISACA sobre falhas e riscos de sistemas de IA.<\/p>\n
Entre os entrevistados, 59% dos profissionais de confian\u00e7a digital n\u00e3o entenderam quanto tempo levaria para interromper um sistema de IA durante um incidente de seguran\u00e7a. Apenas 21% disseram conseguir atuar de forma relevante em at\u00e9 meia hora.<\/p>\n
A pesquisa aponta que sistemas de IA corrompidos podem continuar operando sem controle, aumentando o risco de danos irrevers\u00edveis. O CEO da Kovant, Ali Sarrafi, destaca que a governan\u00e7a de IA falha ao ser integrada a fluxos cr\u00edticos sem supervis\u00e3o adequada.<\/p>\n
Apenas 42% dos respondentes tinham confian\u00e7a em analisar e esclarecer incidentes graves de IA, abrindo margem para falhas operacionais e riscos de seguran\u00e7a. A falta de explica\u00e7\u00f5es para Reguladores e lideran\u00e7as pode gerar san\u00e7\u00f5es legais e repercuss\u00e3o p\u00fablica.<\/p>\n
A responsabilidade \u00e9 outra \u00e1rea nebulosa: 20% n\u00e3o sabem quem seria respons\u00e1vel por danos causados por IA, e apenas 38% apontaram o Conselho ou executivos como respons\u00e1veis finais. Sarrafi defende que a ado\u00e7\u00e3o de IA n\u00e3o deve ser retardada, mas redesenhada com uma camada de gest\u00e3o estruturada.<\/p>\n
A pesquisa indica que o atraso na ado\u00e7\u00e3o n\u00e3o resolve o problema; a gest\u00e3o precisa ser repensada. Sistemas devem ser tratados como “empregados digitais” com propriedade clara, caminhos de escalonamento definidos e capacidade de pausar ou anular a\u00e7\u00f5es rapidamente quando surgem riscos.<\/p>\n
Alguns sinais positivos aparecem: 40% dos entrevistados disseram que a aprova\u00e7\u00e3o humana acontece na maioria das a\u00e7\u00f5es de IA antes da implanta\u00e7\u00e3o, e 26% avaliam os resultados. Mesmo assim, sem governan\u00e7a robusta, a supervis\u00e3o humana pode n\u00e3o bastar para evitar problemas.<\/p>\n
As conclus\u00f5es destacam que a forma de implantar IA varia entre setores, com mais de um ter\u00e7o das organiza\u00e7\u00f5es n\u00e3o exigindo que colaboradores divulguem onde a IA \u00e9 usada em produtos de trabalho, aumentando lacunas de visibilidade.<\/p>\n
A necessidade de mudan\u00e7as estruturais na integra\u00e7\u00e3o e nas a\u00e7\u00f5es da IA fica evidente para evitar danos reputacionais e financeiros. Sem controle eficaz, erros mesmo pequenos podem ter impactos dif\u00edceis de reparar.<\/p>\n","protected":false},"excerpt":{"rendered":"