Anthropic co-fundador Jack Clark pediu um \u201cfreio\u201d para o avan\u00e7o da intelig\u00eancia artificial, dizendo que a tecnologia est\u00e1 perto de evoluir sem acompanhamento humano. O argumento \u00e9 de que \u00e9 preciso firar pol\u00edticas p\u00fablicas para manter o controle sobre os sistemas.<\/p>\n
Clark afirmou que o setor hoje funciona com um acelerador, sem um freio efetivo, e que o mundo precisa pensar em novas regras que deem seguran\u00e7a aos impactos sociais das IAs. O objetivo \u00e9 ganhar confian\u00e7a em sistemas cada vez mais potentes.<\/p>\n
O executivo citou o chatbot Claude, da Anthropic, que j\u00e1 utiliza c\u00f3digo criado em 80% pela pr\u00f3pria IA. Segundo ele, chegar a 100% \u00e9 uma possibilidade em at\u00e9 dois anos, o que poderia trazer implica\u00e7\u00f5es relevantes para o setor.<\/p>\n
Ele n\u00e3o detalhou propostas de freio tecnol\u00f3gico, por\u00e9m comparou o cen\u00e1rio ao boom do petr\u00f3leo, destacando a necessidade de pol\u00edticas est\u00e1veis para reduzir a influ\u00eancia de pessoas espec\u00edficas na condu\u00e7\u00e3o das empresas.<\/p>\n
Nesta semana, a Anthropic recebeu apoio de uma ordem executiva dos EUA sobre IA, anunciada na administra\u00e7\u00e3o presidencial. A medida foi considerada relativamente flex\u00edvel nas diretrizes para as empresas do setor.<\/p>\n
N\u00e3o h\u00e1 obriga\u00e7\u00e3o para as companhias aceitarem testes de seguran\u00e7a governamentais; o esfor\u00e7o permanece volunt\u00e1rio. Grandes nomes do ramo, como OpenAI e Google, n\u00e3o sinalizam pausar pesquisas.<\/p>\n
A Anthropic vem crescendo rapidamente desde sua funda\u00e7\u00e3o, h\u00e1 cinco anos, e prepara-se para abrir capital. A avalia\u00e7\u00e3o de investidores privados aponta para quase 1 trilh\u00e3o de d\u00f3lares, em uma das maiores listagens de IA j\u00e1 vistas.<\/p>\n
Clark disse que discutir publicamente o avan\u00e7o da IA n\u00e3o visa apenas melhorar a imagem da empresa, mas mostrar o que se observa internamente nas companhias de tecnologia nesse campo.<\/p>\n
A companhia j\u00e1 participou de debates p\u00fablicos com o governo dos EUA sobre usos de IA em vigil\u00e2ncia e guerra aut\u00f4noma, enfatizando riscos e impactos potenciais.<\/p>\n
Ele tamb\u00e9m ressaltou preocupa\u00e7\u00f5es com impactos econ\u00f4micos, como a possibilidade de agentes aut\u00f4nomos substitu\u00edrem parte de fun\u00e7\u00f5es laborais, em um cen\u00e1rio de ado\u00e7\u00e3o ampla da IA.<\/p>\n
Para quem trabalha na \u00e1rea criativa, Clark sugeriu que a economia baseada em IA n\u00e3o exclui talentos humanos; segundo ele, criatividade e vis\u00e3o ampla podem manter vantagem sobre a automa\u00e7\u00e3o.<\/p>\n
Clark mencionou ainda d\u00favidas abertas sobre a criatividade das IA, destacando que na Anthropic os limites est\u00e3o mais na gera\u00e7\u00e3o de boas ideias do que na execu\u00e7\u00e3o t\u00e9cnica.<\/p>\n
Segundo o executivo, jovens que se sentirem deslocados pela nova economia devem buscar hobbies e educa\u00e7\u00e3o liberal, enfatizando curiosidade como caminho para aproveitar a tecnologia.<\/p>\n