A startup chinesa Z.ai informou nesta segunda-feira que retirou do ar algumas funções do ZCode, seu assistente de programação com inteligência artificial. A decisão ocorreu após usuários relatarem que a ferramenta transferia conjuntos completos de códigos armazenados localmente para servidores no exterior sem autorização.
A Z.ai, com sede em Pequim e também conhecida como Zhipu, pediu desculpas depois que desenvolvedores chineses escreveram na semana passada, nas redes sociais, que o ZCode havia enviado dados de seus códigos da plataforma de código aberto Git para a Alibaba Cloud.
Em comunicado divulgado na sexta-feira, a Z.ai afirmou que o problema teve origem no recurso “Codebase Indexing” do ZCode, que estava ativado por padrão, e que havia corrigido a vulnerabilidade do software.
“Daqui para frente, estabeleceremos um processo contínuo de notificação e resposta a vulnerabilidades de segurança do produto”, afirmou a Z.ai em sua conta oficial do ZCode no X nesta segunda-feira.
A rara divulgação pública de uma violação de segurança por um laboratório chinês de IA ocorre em meio a alertas globais sobre os riscos de segurança da IA de ponta e depois que várias empresas líderes de tecnologia nos EUA anunciaram, nas últimas semanas, incidentes envolvendo agentes de IA “descontrolados”.
O órgão regulador de segurança digital da China divulgou na semana passada uma versão atualizada da política de segurança de IA, com alertas sobre a resistência ao desligamento dos modelos de IA, o engano de avaliadores e a fuga da sandbox.
A Z.ai afirmou no mês passado que seu modelo GLM-5.3 se aproxima do Mythos, da Anthropic, na detecção de vulnerabilidades de software. A empresa lançou o modelo após uma revisão de duas semanas, tornando-se o primeiro laboratório chinês a adiar explicitamente o lançamento de um modelo de IA por motivos de segurança.
Avaliação independente
A Z.ai havia inicialmente se desculpado na sexta-feira e afirmado que os dados haviam sido excluídos. Usuários, porém, disseram ter constatado que os arquivos estavam criptografados com uma chave privada de back-end mantida exclusivamente pela Z.ai. Com isso, eles não podiam abrir ou verificar os próprios arquivos enviados nem confirmar a exclusão de forma independente.
Desenvolvedores também escreveram em publicações no X e na plataforma de mídia social chinesa RedNote que não havia opção para desativar o recurso e que ele não havia sido mencionado anteriormente na política de privacidade da Z.ai.
A Chengming Technology afirmou nas redes sociais, na sexta-feira, que seis de seus espaços de trabalho de programação foram enviados para servidores em nuvem sem consentimento pelo ZCode. Segundo a empresa, o material incluía dados confidenciais, como código-fonte completo, senhas de bancos de dados e informações pessoais dos funcionários.
Na segunda-feira, a Chengming Technology retratou sua declaração, alegando que possuía “evidências incorretas”. A empresa de tecnologia chinesa não respondeu imediatamente a um pedido de comentário.
A Z.ai informou na segunda-feira que tornou de código aberto o assistente de programação que executa seu mais recente modelo de IA, o GLM-5.3, e desativou determinados recursos, comprometendo-se a tornar o produto mais transparente.
“Convidamos os desenvolvedores a continuarem analisando o ZCode e relatando possíveis problemas.”
A Z.ai informou que uma avaliação de segurança independente, realizada pelo centro de estudos de padrões de tecnologia da informação afiliado ao Ministério da Indústria da China e pela empresa chinesa de segurança cibernética NSFOCUS, constatou que os dados de código dos usuários haviam sido excluídos e não eram retidos pela plataforma de computação em nuvem.
A empresa também informou que ativou um recurso de retenção zero de dados no assistente de programação utilizado por desenvolvedores e empresas de tecnologia.
“Mais uma vez, pedimos sinceras desculpas e agradecemos o escrutínio contínuo da comunidade. O relatório completo da avaliação de segurança será divulgado em breve”, escreveu a Z.ai nesta segunda-feira.
Entre na conversa da comunidade