- O cofundador da Anthropic, Jack Clark, pediu a existência de um “freio” para atrasar o avanço da IA, dizendo que a tecnologia pode evoluir sem intervenção humana.
- Clark afirmou que é necessário manter controle por meio de políticas públicas e desenvolver regulações para que haja confiança nesses sistemas.
- A Anthropic informou que o chatbot Claude tem oitenta por cento do código escrito pelo próprio sistema; chegar a cem por cento em dois anos poderia ter grandes implicações.
- A empresa celebrou uma ordem executiva dos Estados Unidos sobre IA, considerada pouco mandante; testes de segurança pelo governo continuam voluntários, e grandes empresas não anunciaram pausas na pesquisa.
- Clark ressaltou riscos econômicos, menor previsibilidade para empregos e a importância de educação liberal e curiosidade para quem está no mercado diante da IA.
Anthropic co-fundador Jack Clark pediu um “freio” para o avanço da inteligência artificial, dizendo que a tecnologia está perto de evoluir sem acompanhamento humano. O argumento é de que é preciso firar políticas públicas para manter o controle sobre os sistemas.
Clark afirmou que o setor hoje funciona com um acelerador, sem um freio efetivo, e que o mundo precisa pensar em novas regras que deem segurança aos impactos sociais das IAs. O objetivo é ganhar confiança em sistemas cada vez mais potentes.
O executivo citou o chatbot Claude, da Anthropic, que já utiliza código criado em 80% pela própria IA. Segundo ele, chegar a 100% é uma possibilidade em até dois anos, o que poderia trazer implicações relevantes para o setor.
Ele não detalhou propostas de freio tecnológico, porém comparou o cenário ao boom do petróleo, destacando a necessidade de políticas estáveis para reduzir a influência de pessoas específicas na condução das empresas.
Nesta semana, a Anthropic recebeu apoio de uma ordem executiva dos EUA sobre IA, anunciada na administração presidencial. A medida foi considerada relativamente flexível nas diretrizes para as empresas do setor.
Não há obrigação para as companhias aceitarem testes de segurança governamentais; o esforço permanece voluntário. Grandes nomes do ramo, como OpenAI e Google, não sinalizam pausar pesquisas.
A Anthropic vem crescendo rapidamente desde sua fundação, há cinco anos, e prepara-se para abrir capital. A avaliação de investidores privados aponta para quase 1 trilhão de dólares, em uma das maiores listagens de IA já vistas.
Clark disse que discutir publicamente o avanço da IA não visa apenas melhorar a imagem da empresa, mas mostrar o que se observa internamente nas companhias de tecnologia nesse campo.
A companhia já participou de debates públicos com o governo dos EUA sobre usos de IA em vigilância e guerra autônoma, enfatizando riscos e impactos potenciais.
Ele também ressaltou preocupações com impactos econômicos, como a possibilidade de agentes autônomos substituírem parte de funções laborais, em um cenário de adoção ampla da IA.
Para quem trabalha na área criativa, Clark sugeriu que a economia baseada em IA não exclui talentos humanos; segundo ele, criatividade e visão ampla podem manter vantagem sobre a automação.
Clark mencionou ainda dúvidas abertas sobre a criatividade das IA, destacando que na Anthropic os limites estão mais na geração de boas ideias do que na execução técnica.
Segundo o executivo, jovens que se sentirem deslocados pela nova economia devem buscar hobbies e educação liberal, enfatizando curiosidade como caminho para aproveitar a tecnologia.
Regulação e perspectivas
- O debate sobre freios e regulação oferece um marco para futuras políticas públicas e conferência de benefícios e riscos da IA.
- A conversa pública visa equilibrar inovação com salvaguardas, sem atrasar avanços tecnológicos.
- A narrativa atual envolve grandes empresas, governos e o debate sobre responsabilidade e governança.
Entre na conversa da comunidade