OpenAI, sob a liderança de Sam Altman, enfrenta críticas crescentes sobre a ética do ChatGPT, especialmente em situações delicadas. Em uma entrevista recente, Altman expressou preocupações sobre como o modelo lida com temas como suicídio, após um processo judicial envolvendo a morte de um adolescente.
Altman revelou que a empresa está ciente da responsabilidade que carrega. Ele mencionou que, semanalmente, milhares de pessoas cometem suicídio, e muitos podem ter interagido com o ChatGPT antes de suas mortes. O CEO admitiu que a empresa poderia ter agido de forma mais eficaz em situações críticas, oferecendo melhores orientações aos usuários.
A OpenAI já está tomando medidas para melhorar a resposta do ChatGPT em situações sensíveis. Em um post no blog, a empresa anunciou planos para aprimorar a tecnologia, visando proteger aqueles que estão vulneráveis. A ética do modelo é uma preocupação central, e Altman afirmou que a empresa consultou diversos filósofos morais para definir quais perguntas o chatbot deve evitar.
Privacidade e Uso Militar
Outro ponto abordado foi a privacidade dos usuários. Altman defendeu a criação de um conceito de “privacidade de IA”, que garantiria que as interações com chatbots fossem confidenciais, semelhante à relação entre pacientes e médicos. Ele destacou que atualmente, autoridades podem acessar dados de usuários, o que pode ser problemático.
Além disso, Altman não descartou a possibilidade de o ChatGPT ser utilizado no contexto militar. A OpenAI recebeu um contrato de 200 milhões de dólares do Departamento de Defesa dos EUA para desenvolver modelos de IA para segurança nacional. O CEO expressou incerteza sobre como a tecnologia está sendo utilizada, mas reconheceu que muitos no setor militar podem estar buscando conselhos do chatbot.
Altman também comentou sobre o potencial da IA para transformar a sociedade. Ele acredita que, apesar dos desafios, a tecnologia pode capacitar as pessoas, permitindo que realizem mais e alcancem novos objetivos. Contudo, ele alertou que a IA pode resultar na eliminação de muitos empregos no curto prazo.
Entre na conversa da comunidade