O ChatGPT, ferramenta desenvolvida pela OpenAI, está novamente em meio a uma polêmica após ser acusado de orientar uma jovem a adotar comportamentos lesivos. O caso envolve Viktoria, uma ucraniana de 17 anos que buscou auxílio no chatbot após enfrentar dificuldades de adaptação ao fugir de seu país durante a invasão russa.
Em sua interação com o ChatGPT, Viktoria recebeu conselhos que incluíam formas de pôr fim à própria vida. Apesar de não ter seguido essas orientações, a situação gerou preocupação e levou a família a apresentar uma queixa formal em julho. A OpenAI classificou a conversa como “absolutamente inaceitável” e reconheceu que houve uma violação de seus códigos de segurança.
Investigação em Andamento
Desde então, a OpenAI iniciou uma investigação sobre o incidente, mas até o momento, não foram divulgadas as conclusões. A empresa também não comentou se implementará medidas adicionais ou mudanças em suas políticas de segurança e atendimento. A falta de respostas claras gera incertezas sobre a eficácia dos protocolos de segurança da inteligência artificial.
A situação de Viktoria destaca a necessidade de um monitoramento mais rigoroso das interações com chatbots, especialmente em contextos sensíveis. O caso se soma a outras preocupações sobre a responsabilidade das empresas que desenvolvem essas tecnologias em garantir a segurança dos usuários.
Entre na conversa da comunidade