Philosofos estão ganhando espaço nas maiores laboratórios de IA para pensar em cenários éticos, mind e questões morais de longo alcance. A ideia é avaliar o que é inteligência, o que é mente e como a tecnologia pode agir de forma responsável, indo além de perguntas abstratas.
Duas das principais laboratórias já contam com equipes de filósofos em tempo integral. No Google DeepMind, a pesquisadora Iason Gabriel lidera cientistas focados no impacto sociotécnico da IA. Na Anthropic, Amanda Askell é uma das figuras mais reconhecidas entre os colaboradores.
O que mudou na prática
As equipes contribuem para o desenvolvimento de modelos, com produção de trabalho influente em centenas de artigos subsequentes. A presença de filosofia na IA também influencia currículos universitários, com cursos de ética em IA e programas conjuntos com ciência da computação.
A relação entre empresa e pesquisa
No meio acadêmico, há ceticismo sobre o papel de laboratórios de empresas de tecnologia na pesquisa filosófica. A crítica aponta para o risco de que o trabalho se torne uma ferramenta de marketing, reforçando a percepção pública de avanços extraordinários.
Foco de pesquisa e aplicações
Hoje, a área de alinhamento de valores ganha destaque: como fazer a tecnologia agir de forma benéfica para diferentes pessoas e culturas. Pesquisadores enfatizam que o tema envolve perguntas sobre justiça, desinformação e uso malicioso de IA, com ênfase em riscos atuais.
Laboratórios e ambientes
No escritório de DeepMind em Londres, uma pesquisadora da equipe de responsabilidade analisa como medir relevância e comunicar problemas éticos aos modelos. A atuação é voltada ao que é importante para a sociedade e como testar competências morais em IA.
Papel direto na desenvolvimento de modelos
Na Anthropic, filósofos participam do desenvolvimento de modelos, identificando casos em que comportamentos humanos não são apropriados. Um exemplo destacado é a criação de diretrizes constitucionais para orientar o comportamento de sistemas avançados, buscando uma formação ética prática.
Entre na conversa da comunidade