导读:无问芯穹在世界人工智能大会 AI 基础设施论坛上发布了无问芯穹大规模模型的异构分布式混合训练系统,称千卡异构混合训练集群算力利用率最高达到了 97.6%。
7 月 5 日消息,无问芯穹联合创始人兼 CEO 夏立雪在世界人工智能大会 AI 基础设施论坛上发布了无问芯穹大规模模型的异构分布式混合训练系统,称千卡异构混合训练集群算力利用率最高达到了 97.6%。
夏立雪还宣布无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括 AMD、华为昇腾、天数智芯、沐曦、摩尔线程、英伟达六种异构芯片在内的大模型混合训练。
无问芯穹表示:打开水龙头前,我们不需要知道水是从哪条河里来的。同理,未来我们用各种 AI 应用时,也不会知道它调用了哪些基座模型,用到了哪种加速卡的算力 ——这就是最好的 AI Native 基础设施。
据IT之家此前报道,无问芯穹与摩尔线程在 5 月联合宣布,双方已经正式完成基于国产全功能 GPU千卡集群的 3B 规模大模型“MT-infini-3B”实训,性能在同规模模型中跻身前列。