腾讯混元 Hy4 开源：7700 亿总参数、100 万上下文

AI 摘要

腾讯发布混元Hy4 preview，采用MoE架构，总参数7700亿，激活参数490亿，上下文长度达100万，相比前代规模显著提升。该模型强化代码、办公、游戏和科研等真实任务能力，并已接入腾讯多个产品及OpenRouter。腾讯表示Hy4已开始参与自身研发，形成初步自我改进循环。