Nick Bostrom, fil\u00f3sofo conhecido por alertas sobre riscos existenciais da IA, publicou um estudo que defende a possibilidade de desenvolver superintelig\u00eancia ainda que haja alto risco de extin\u00e7\u00e3o. O trabalho, intitulado Optimal Timing for Superintelligence: Mundane Considerations for Existing People, prop\u00f5e modelos matem\u00e1ticos para avaliar decis\u00f5es de timing.<\/p>\n
O estudo sustenta que, sob certos par\u00e2metros, pode ser racional avan\u00e7ar rumo \u00e0 superintelig\u00eancia mesmo com probabilidade de at\u00e9 97% de danos para a humanidade. A ideia \u00e9 comparar o avan\u00e7o tecnol\u00f3gico a uma cirurgia de alto risco, em que a interven\u00e7\u00e3o pode salvar vidas futuras, ainda que traga riscos imediatos.<\/p>\n
Bostrom descreve a diferen\u00e7a entre uma roleta-russa e uma \u201ccirurgia card\u00edaca\u201d para justificar o argumento. Sem a opera\u00e7\u00e3o, a mortalidade \u00e9 certa com o tempo; com a opera\u00e7\u00e3o, h\u00e1 potencial de prolongar a vida humana de forma expressiva, especialmente em cen\u00e1rios de envelhecimento e doen\u00e7as.<\/p>\n
O estudo parte de uma hip\u00f3tese conservadora: uma IA superinteligente alinhada aos interesses humanos poderia reduzir mortalidade para n\u00edveis pr\u00f3ximos de um adulto saud\u00e1vel de 20 anos em pa\u00edses desenvolvidos, elevando a expectativa de vida m\u00e9dia a cerca de 1.400 anos.<\/p>\n
Em entrevista \u00e0 Wired, o autor afirmou que \u201cse ningu\u00e9m construir, todos morrem\u201d e refor\u00e7ou a ideia de otimizar o timing para reduzir mortes entre as pessoas atuais, que morreriam sem avan\u00e7os m\u00e9dicos ou biotecnol\u00f3gicos.<\/p>\n
O autor divide o processo em duas fases. A Fase 1 abrange o per\u00edodo at\u00e9 a disponibilidade t\u00e9cnica da AGI, influenciado por dificuldades t\u00e9cnicas e competi\u00e7\u00e3o entre atores. A Fase 2 trata de uma pausa deliberada entre a disponibilidade e a implanta\u00e7\u00e3o em larga escala.<\/p>\n
Segundo o estudo, pequenas pausas na Fase 2 podem ter impacto maior na seguran\u00e7a do que mudan\u00e7as equivalentes na Fase 1. O chamado \u201csafety windfall\u201d descreve o ganho de seguran\u00e7a poss\u00edvel assim que a AGI exista e possa ser testada em ambientes controlados.<\/p>\n
As tabelas do estudo indicam que, para muitos cen\u00e1rios, esperar por meses a poucos anos \u00e9 o atraso \u00f3timo, desde que o risco inicial n\u00e3o seja muito alto. A ideia central \u00e9 equilibrar ganhos de seguran\u00e7a com custos de mortalidade.<\/p>\n
O trabalho reconhece que n\u00e3o h\u00e1 controle total sobre os cronogramas de desenvolvimento da AGI. O timing ideal pode n\u00e3o ser ating\u00edvel na pr\u00e1tica, e interven\u00e7\u00f5es t\u00eam consequ\u00eancias al\u00e9m da data de lan\u00e7amento.<\/p>\n
Entre as considera\u00e7\u00f5es, o estudo aponta riscos de pausas mal implementadas, que podem deslocar o controle para atores menos respons\u00e1veis ou endurecer posi\u00e7\u00f5es contr\u00e1rias ao avan\u00e7o. Tamb\u00e9m destaca desigualdades na distribui\u00e7\u00e3o dos benef\u00edcios.<\/p>\n
O artigo enfatiza que o resultado depende do pressuposto de que a superintelig\u00eancia seja alinhada. Desalinhamento poderia levar a consequ\u00eancias catastr\u00f3ficas, mesmo assim o estudo n\u00e3o desconsidera o alto potencial de ganho caso haja alinhamento confi\u00e1vel.<\/p>\n
Bostrom n\u00e3o defende a corrida desenfreada pela IA, mas recomenda avaliar com rigor o timing ideal para maximizar benef\u00edcios, mantendo foco na seguran\u00e7a. O pesquisador refor\u00e7a a necessidade de testes de seguran\u00e7a que possam, em alguns casos, encurtar o caminho ao lan\u00e7amento quando indicados.<\/p>\n
O debate envolve tamb\u00e9m desigualdades regionais e demogr\u00e1ficas, j\u00e1 que grupos mais vulner\u00e1veis podem ter menos tempo para esperar por avan\u00e7os tecnol\u00f3gicos. O estudo apresenta um arcabou\u00e7o te\u00f3rico para decis\u00f5es condicionadas \u00e0s informa\u00e7\u00f5es que surgem ao longo do tempo, sem fixar datas r\u00edgidas.<\/p>\n","protected":false},"excerpt":{"rendered":"