Assinando o tom de uma not\u00edcia objetiva, a Apple e fabricantes de chips como a Qualcomm est\u00e3o desenvolvendo assistentes de IA de pr\u00f3xima gera\u00e7\u00e3o com mecanismos de limite. Vers\u00f5es em fases iniciais desses agentes conseguem navegar por apps, agendar servi\u00e7os e gerenciar tarefas. Em testes privados, um sistema de IA respons\u00e1vel por etapas completou a\u00e7\u00f5es como reserva de servi\u00e7os e postagem em apps, chegando a uma tela de pagamento antes de pedir confirma\u00e7\u00e3o.<\/p>\n
Os produtos em desenvolvimento adotam um modelo de \u201chuman-in-the-loop\u201d: a IA prepara a a\u00e7\u00e3o, mas a valida\u00e7\u00e3o final fica por conta do usu\u00e1rio. Pesquisadores ligados ao trabalho da Apple exploram formas de pausar a\u00e7\u00f5es n\u00e3o solicitadas pelos usu\u00e1rios, refor\u00e7ando a necessidade de controle humano em processos sens\u00edveis.<\/p>\n
Aplica\u00e7\u00f5es de pagamento j\u00e1 costumam exigir confirma\u00e7\u00e3o; esse conceito est\u00e1 sendo expandido para a\u00e7\u00f5es guiadas por IA em diversos servi\u00e7os. A ideia \u00e9 introduzir camadas de aprova\u00e7\u00e3o que atuem como barreiras de seguran\u00e7a antes de qualquer transa\u00e7\u00e3o ou mudan\u00e7a de conta.<\/p>\n
Um eixo de controle come\u00e7a pela restri\u00e7\u00e3o do que a IA pode acessar. Em vez de permitir acesso total a apps e dados, as empresas definem limites sobre quais aplicativos a IA pode interagir e quando a\u00e7\u00f5es podem ser disparadas. Na pr\u00e1tica, a IA pode redigir uma compra ou preparar uma reserva, mas n\u00e3o finaliz\u00e1-la sem aprova\u00e7\u00e3o.<\/p>\n
Isso implica que o sistema n\u00e3o se move livremente entre servi\u00e7os, a menos que haja permiss\u00e3o concedida. Segundo o Tom\u2019s Guide, a fun\u00e7\u00e3o tamb\u00e9m prioriza a privacidade, mantendo dados no dispositivo e reduzindo o envio de informa\u00e7\u00f5es sens\u00edveis a servidores externos.<\/p>\n
Em \u00e1reas como pagamentos, espera-se a integra\u00e7\u00e3o com parceiros que j\u00e1 adotam regras estritas. Em um caso citado, servi\u00e7os de provedores de pagamento devem oferecer autentica\u00e7\u00e3o segura antes de concluir transa\u00e7\u00f5es, ainda em desenvolvimento. Esses mecanismos atuam como uma camada adicional de supervis\u00e3o.<\/p>\n
\u00c0 medida que os agentes de IA passam a realizar a\u00e7\u00f5es, o risco de erros aumenta, pois podem acarretar perdas financeiras ou exposi\u00e7\u00e3o de dados. Colocar controles em diversos pontos, incluindo aprova\u00e7\u00e3o e infraestrutura, busca mitigar esses riscos.<\/p>\n
A tend\u00eancia aponta para ambientes controlados, em vez de independ\u00eancia total, moldando o desenvolvimento imediato de IA com capacidade de agir. A abordagem favorece governan\u00e7a com foco em privacidade, aprova\u00e7\u00e3o expl\u00edcita e prote\u00e7\u00e3o aos dados dos usu\u00e1rios.<\/p>\n","protected":false},"excerpt":{"rendered":"