应用

技术

物联网世界 >> 物联网新闻 >> 物联网热点新闻
企业注册个人注册登录

腾讯发布新一代大模型“混元 Turbo”:推理效率提升 100%,成本降低 50%

2024-09-06 09:01 IT之家

导读:在 2024 腾讯全球数字生态大会上,腾讯正式发布新一代大模型 ——腾讯混元 Turbo。该模型采用 MoE 架构,比上一代产品推理效率提升 100%,推理成本降低 50%。

  9 月 5 日消息,在 2024 腾讯全球数字生态大会上,腾讯正式发布新一代大模型 ——腾讯混元 Turbo

  据腾讯官方介绍,该模型采用 MoE 架构,比上一代产品推理效率提升 100%,推理成本降低 50%

  对外,腾讯混元 Turbo 的价格也比混元 Pro 降低 50%,输出价格为 0.05 元 / 千 tokens,输入价格为 0.015 元 / 千 tokens。

  9 月 2 日,中文大模型测评基准 SuperCLUE 发布《中文大模型基准测评 2024 年 8 月报告》,IT之家查询获悉,混元新一代大语言模型预览版(Turbo-Preview)在理科、文科均居于第一名。Hard 任务上腾讯混元 Turbo-Preview 取得 74.33 分,是国内唯一超过 70 分的大模型,与 ChatGPT-4o 有微小差距。

image.png

image.png

  目前腾讯内部近 700 个业务及场景已接入,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作 SaaS(软件即服务)产品全面接入腾讯混元大模型。

  腾讯混元的云上版本包括 Turbo、Pro、Standard、Lite 等多个版本;在专属模型上开放了代码生成、角色扮演、Functioncall 等。