ModelosMédia importância
Xing 4, sucessor do TeleChat, é treinado só em chips chineses: um modelo de 285 bilhões de parâmetros em 8.192 placas Ascend 910C
O artigo "TeleChat to Xing4", o mais votado do dia na página de papers do Hugging Face nesta quarta (18/11), descreve a série de modelos Xing 4, que estende o TeleChat e foi desenvolvida inteiramente sobre os chips Ascend, da Huawei. Segundo o resumo, o pré-treino de um modelo de 285 bilhões de parâmetros rodou em 8.192 placas Ascend 910C, com o framework MindSpore. O texto trata de ativação esparsa, desenho da atenção, profundidade e largura do modelo e decodificação especulativa, e o pós-treino usa o TeleGym, plataforma de execução de agentes. A página do Hugging Face lista o Xing4.0-29B-A4B entre os modelos ligados ao artigo. O resumo não traz números de benchmark.
Publicado na edição nº 39 do Noticiário do Joãozinho ·
Fonte original
https://huggingface.co/papers/2611.22115