- O CEO da OpenAI, Sam Altman, expressou preocupações sobre a ética do ChatGPT em situações sensíveis, como suicídio, após um processo judicial relacionado à morte de um adolescente.
- Altman afirmou que a empresa reconhece sua responsabilidade e que muitos usuários podem ter interagido com o ChatGPT antes de suas mortes.
- A OpenAI planeja aprimorar a tecnologia para melhor atender a situações críticas e consultou filósofos morais para definir quais perguntas o chatbot deve evitar.
- Altman também defendeu a criação de um conceito de “privacidade de IA” para proteger os dados dos usuários, ressaltando que atualmente as autoridades podem acessá-los.
- Além disso, ele mencionou um contrato de R$ 200 milhões com o Departamento de Defesa dos Estados Unidos para desenvolver modelos de IA para segurança nacional, sem descartar o uso militar da tecnologia.
OpenAI, sob a liderança de Sam Altman, enfrenta críticas crescentes sobre a ética do ChatGPT, especialmente em situações delicadas. Em uma entrevista recente, Altman expressou preocupações sobre como o modelo lida com temas como suicídio, após um processo judicial envolvendo a morte de um adolescente.
Altman revelou que a empresa está ciente da responsabilidade que carrega. Ele mencionou que, semanalmente, milhares de pessoas cometem suicídio, e muitos podem ter interagido com o ChatGPT antes de suas mortes. O CEO admitiu que a empresa poderia ter agido de forma mais eficaz em situações críticas, oferecendo melhores orientações aos usuários.
A OpenAI já está tomando medidas para melhorar a resposta do ChatGPT em situações sensíveis. Em um post no blog, a empresa anunciou planos para aprimorar a tecnologia, visando proteger aqueles que estão vulneráveis. A ética do modelo é uma preocupação central, e Altman afirmou que a empresa consultou diversos filósofos morais para definir quais perguntas o chatbot deve evitar.
Privacidade e Uso Militar
Outro ponto abordado foi a privacidade dos usuários. Altman defendeu a criação de um conceito de “privacidade de IA”, que garantiria que as interações com chatbots fossem confidenciais, semelhante à relação entre pacientes e médicos. Ele destacou que atualmente, autoridades podem acessar dados de usuários, o que pode ser problemático.
Além disso, Altman não descartou a possibilidade de o ChatGPT ser utilizado no contexto militar. A OpenAI recebeu um contrato de 200 milhões de dólares do Departamento de Defesa dos EUA para desenvolver modelos de IA para segurança nacional. O CEO expressou incerteza sobre como a tecnologia está sendo utilizada, mas reconheceu que muitos no setor militar podem estar buscando conselhos do chatbot.
Altman também comentou sobre o potencial da IA para transformar a sociedade. Ele acredita que, apesar dos desafios, a tecnologia pode capacitar as pessoas, permitindo que realizem mais e alcancem novos objetivos. Contudo, ele alertou que a IA pode resultar na eliminação de muitos empregos no curto prazo.
Entre na conversa da comunidade