导读:云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒。
3月28日,备受瞩目的小米汽车发布会如期而至,小米SU7正惊艳亮相,21.59万元的起售价,让雷军获得了“雷神”的新称号。
而在同一天里,“深圳AI第一股”云天励飞也迈出了革命性的一步,打响了大模型【平民化】的第一枪。
28日,云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒。据了解,该产品能够做到“3个90%”:覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户轻松使用大模型。
图源:云天励飞
在过去的这一年多里,AI大模型发展如火如荼,在全球范围内掀起了一场AI技术“狂飙”新浪潮,更广范围、更深层次地影响着人们的经济发展和生产生活方式变革。
发布会上,云天励飞董事长兼CEO陈宁博士提到:“未来3年,全球80%的企业都将使用大模型。”
然而,随着这一革命性机遇的降临,行业也同样遭遇着大模型发展初期所面临的多重挑战。其中,最显而易见的挑战就是训练大模型的成本问题。训练专属大模型需要消耗大量的算力,资金投入达到了成百上千万级,而这笔高昂的投入是绝大多数企业难以承担的。
在这场AI大模型技术的盛宴中,如何才能真正地把AI普惠化落地到实处?
于是,为了能够让大模型“平民化”,成为人人都可用的产品,云天励飞推出了“深目”AI模盒。
据了解,这款售价在千元级、用单手就能托起的“深目”AI模盒,搭载了云天励飞自研大模型边缘训推芯片DeepEdge10 Max和自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力的,能够做到“3个90%”,让人人都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法,让大模型唾手可得。
而之所以能够实现3个90%,关键还在于云天励飞的核心能力——“算法芯片化”。为了把大模型变“小”,云天励飞用时一年进行了两大技术攻关,一是自研大模型推理芯片DeepEdge10;二是自研多模态大模型“云天天书”
“深目”AI模盒的算力基础,来源于2023年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。据悉,该芯片采用了自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的推理平台,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AloT边缘视频、移动机器人等场景。
“深目”AI模盒的大模型能力,则来源于云天励飞自主研发的多模态大横型“云天天书”。云天天书大模型包含语言大模型、多模态大模型等不同系列,在C-Eval、CMMLU等权威测试中多次获得第一,并于去年正式通过中央网信办备案。云天天书1.0版本于2023年初正式推出,至今已完成3个版本的迭代,预计今年6月将迭代4.0 V版本。
以云天天书为底座,云天励飞能够与生态合作伙伴完成预训练场景算法,再将预训练算法提供给广大中小企业用户,中小企业客户可根据自身场景需求,在边缘端完成算法微调。由于大模型具备泛化和学习的能力,客户部署算法后,大模型还能够不断根据现实应用场景情况,在线学习、优化算法,不断提升算法精度。
“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零学习成本,快速训练出自己需要的算法。
从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。
陈宁博士表示,“AI商业化发展有三个阶段:AI方案化、AI运营化、AI产品化。”
在AI方案化阶段,AI企业主要通过项目制满足不同垂直领域客户需求,通过不断积累行业认知和数据,AI技术实力不断增强,并形成具备越来越强的泛化能力AI平台,企业也得以开启AI运营业务。而最终,所有的技术都需要通过物理实体赋能,因此AI最终必须走向产品化。
图源:云天励飞
云天励飞业务发展路径也沿着这条路径展开。在AI方案化方面,云天励飞在警务、城市治理、智慧交通、人居生活等领域打造诸多标杆项目,并且在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验,云天励飞已形成数据运营、新能源运营平台,走向AI运营化。如今,云天励飞还逐步走向AI产品化。
去年,云天励飞与华为昇腾联合推出天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目”AI模盒。此外,云天励飞还通过资本纽带,进军智能穿戴和机器人等硬件领域,形成日益完善的大模型产品体系。
总之,从AI方案化、AI运营化再到AI产品化,云天励飞一直在致力于做物理世界的“解码者”,通过算法芯片化的能力,为“无形”的技术和“有形”的世界构建通道,让AI不仅仅是一个在虚拟世界的工具,而是转化为物理世界的生产力。
来源:云天励飞
想了解更多行业动态以及行业最新、最前沿的产品、技术与解决方案,那就来参加4月24-26日IOTE 2024第二十一届国际物联网展·上海站。这里汇聚全球超300+家参展企业、3万+多元领域的专业集成商、终端用户,不仅能提供行业最前沿的产品信息,也为业内人士提供了交流合作的机会,能够享受高效、精准的资源对接。同时,展会也开设了RFID、高精度定位、智慧康养、智慧工厂、智慧能源、智慧建筑园区、智慧应急与减灾等多个技术与应用领域论坛。识别下方二维码,即可报名观展!
识别上方二维码,即可报名观展!