Skip to content
TopicTracker
来自 simonwillison.net查看原文
译文语言译文语言

tencent/Hy3

腾讯发布了新一代 Apache 2.0 开源模型 Hy3,这是一款拥有 2950 亿参数的混合专家(MoE)模型,其中 210 亿为活跃参数,并包含 38 亿 MTP 层参数。该模型在性能上超越了同等规模模型,可与参数规模大 2-5 倍的旗舰开源模型媲美。完整模型文件达 598GB,FP8 量化版本为 300GB,支持 256K 上下文长度,并在 OpenRouter 上提供免费试用至 7 月 21 日。

背景速读

- **Hy3** 是腾讯发布的大型混合专家(MoE)大语言模型,总参数量 295B,但每次推理只激活约 21B 参数,效率较高,号称性能超越同规模模型、可匹敌参数多 2–5 倍的开源模型。 - **MoE(混合专家)** 是一种模型架构:把模型分成多个"专家"子网络,每次只调用其中一部分,从而在推理成本较低的情况下获得更大的模型容量。 - 该模型采用 **Apache 2.0 开源许可证**,较为开放,且支持 256K 上下文长度(约一本长篇小说的文字量)。完整版约 598GB,量化版(FP8)约 300GB。 - 腾讯此前于 2025 年 4 月底发布过 Hy3 Preview,这次正式版在 50 多个产品中进行了反馈收集和后训练优化。 - 可在 OpenRouter 上免费使用至 2026 年 7 月 21 日。这一发布延续了中国大模型厂商密集开源、以低成本高性能争夺开发者生态的趋势。

相关报道

  • Jimmy Wales announced that Wikipedia was live at wikipedia.com on January 15, 2001. The site was intended to be a "really quite snazzy" wiki complement to the Nupedia project, offering a more collaborative and less formal environment for building an encyclopedia.

  • OpenAI has announced Daybreak, a new initiative focused on advancing AI safety and alignment research to ensure artificial general intelligence benefits humanity.

  • SpaceX has announced plans to launch approximately one million satellites to create space-based data centres, according to the European Southern Observatory (ESO). The massive satellite constellation would significantly increase the number of objects in orbit, raising concerns about light pollution and interference with astronomical observations.