当前位置:首页 > 未分类 > 正文内容

AI推理算力需求即将爆发,深圳云天励飞加注推理芯片|界面新闻

admin1周前 (08-15)未分类12

界面新闻记者 | 梁宝欣

界面新闻编辑 | 林腾

AI推理芯片正成为人工智能行业新的涌入方向。

7月25日,2025年世界人工智能大会期间,界面新闻记者了解到,深圳云天励飞(688343.SH)宣布全面聚焦AI推理芯片,围绕边缘计算、云端大模型推理、具身智能三大场景,目标是国产算力“加速器”。

云天励飞董事长兼CEO陈宁告诉界面新闻等媒体,2025年成为人工智能发展的重要转折点——大模型技术达到新的成熟高度,模型调用成本显著降低。AI从“专家工具”逐步演变为“全民基础设施”。AI正从训练时代迈入推理时代,预示着推理算力需求将迎来爆发式增长。

今年以来,以DeepSeek R1为代表的新一代大模型加速发展,推动AI产业的深度变革。中信建投证券研报指出,DeepSeek R1在长CoT数据微调基础上应用强化学习,除性能提升外,DeepSeekR1采用GRPO强化学习策略,专门优化数学推理任务,减少计算资源消耗,实现更低的成本。推理成本来看,R1模型价格只有OpenAI o1模型的几十分之一,具有极高的性价比优势。

除此之外,中信建投证券研报还提到,三大增量助力推理算力需求加速,一是各家互联网大厂加速AI与原有业务结合,二是Agent和深度思考推理的结合,三是多模态加速渗透。

陈宁表示,未来AI可能全面重塑我们身边的各类电子产品——从智能耳机、智能眼镜等可穿戴设备,到扫地机器人、冰箱等家用电器,再到电动汽车,几乎所有电子设备的形态与功能都将被重新定义。这些设备将具备“主动工作”的能力,能像人类一样开口交流,理解复杂指令、主动回应需求甚至解决实际问题。可以预见,未来各类智能设备,也能通过更人性化的交互,实现功能的跃升与体验的革新。而这一切场景的落地,都离不开AI 推理芯片的底层支撑。

推理算力需求的爆发,核心依赖AI推理芯片——这是云天励飞选择聚焦该领域的关键背景。

从AI芯片的分类来看,根据所承担任务的不同,可分为训练芯片和推理芯片。其中,推理芯片主要负责利用神经网络模型进行推理预测,需综合考量单位能耗算力、时延、成本等多方面指标。

虽然当前AI推理芯片市场仍处于蓝海阶段,其市场规模相较于数千亿美元的训练芯片市场仍较小,但预计未来三至五年内,AI推理芯片的增长速度将大幅超越训练芯片。陈宁说。

针对各类应用场景,云天励飞已开发出 DeepEdge10C、DeepEdge10标准版、DeepEdge10Max 和 DeepEdge200 四款芯片。

据了解,2023年11月 ,云天励飞正式发布面向边缘人工智能的DeepEdge10系列推理芯片,其核心定位便是满足边缘端对千亿参数大模型的部署需求支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各类不同架构的主流模型

从技术底层来看DeepEdge10系列芯片采用的是“算力积木”架构,通过D2D Chiplet技术、C2C Mesh技术和C2C Mesh Torus技术,将多个标准计算单元像搭积木一样,封装成不同算力的芯片和多芯片互连的可扩展计算系统,覆盖8T-256T算力需求,可实现7B、14B、130B、671B等不同参数量大模型的推理,赋能各类智算推理硬件产品。

云天励飞CTO李爱军表示,算力积木架构实现了两方面核心能力:一方面是算力的纵向拓展(scaleup),即在单个计算节点内聚合更多算力——通过该架构,可在一个封装内最多集成8个算力积木,形成统一算力。这一架构源于2020年对GPT等算法的分析,目前已在Edge10芯片上落地,实现了单个封装内集成8个积木、达成128T推理算力的单芯片成果。

另一方面是通过C2C Mesh技术(结合Mesh互联与Mesh Torus技术)实现算力扩展:将多个节点首尾连接形成更大规模的算力池,从而支撑MoE架构大模型的推理。

目前,DeepEdge10芯片平台已成功适配DeepSeekR1系列模型、QwQ-32B模型及国产鸿蒙操作系统。

从经营数据来看,2024年云天励飞营收增长了81%;今年一季度,这一增速进一步提升至160%。云天励飞管理层表示,展望下半年,随着AI推理算法的迭代、算力需求的攀升以及AI应用的持续拓展,有信心继续保持高速增长的态势。

  • 美国宣布扩大对钢铁和铝进口征收50%关税的范围|界面新闻 · 快讯
  • 汽车早报|长城汽车巴西工厂竣工投产 蔚来G318川藏换电路线正式贯通|界面新闻 · 汽车
  • 改革主推手退休后,屈臣氏何去何从?|界面新闻 · 时尚
  • 博瑞医药回应“减肥药”交易两大疑问|界面新闻
  • 广州开发区最高1亿元支持创新药研发转化|界面新闻
  • 央行:7月份新增3家境外机构主体进入银行间债券市场|界面新闻 · 快讯
  • 胖东来公布针对刑释人员的面试题,要求分析犯事原因|界面新闻
  • 光伏设备商江松科技IPO闯关:1.87亿净利背后暗藏风险|界面新闻 · 证券
  • “淘宝首个程序员”加盟创业公司,后者创始人曾是阿里研究员|界面新闻 · 科技
  • 新秀丽上半年业绩双降:销售净额跌 6% ,利润降超两成|界面新闻
  • 盛龙股份冲深市主板:钼金属产量占全国近1/10,今年业绩面临多重挑战|界面新闻 · 证券
  • 加强智慧商业运营、大数据能力、ESG数字化管理,凯德(中国)与阿里云签署合作备忘录|界面新闻 · 快讯
  • 法治面|涉11.598亿美元招商引资大案,女商人被判非法经营罪将申诉|界面新闻 · 中国
  • 公募REITs底层资产大扩容,南方润泽科技REIT顺利上市|界面新闻
  • 银行理财公司参与A股网下打新,为何仅有两家“尝鲜”?|界面新闻
  • 实探佛山基孔肯雅热疫情:患者病程约7天,闲置房成蚊虫消杀关键点|界面新闻
  • 相关文章

    AI人才供给紧缺,大厂2026届校招开启抢人大战|界面新闻 · 科技

    AI人才供给紧缺,大厂2026届校招开启抢人大战|界面新闻 · 科技

    界面新闻记者 | 肖芳 界面新闻编辑 | 文姝琪 各个互联网大厂陆续发布2026届校招计划,其对人才的需求呈现...

    沪深两市今日成交额合计2.28万亿元,东方财富成交额居首|界面新闻 · 快讯

    8月14日,沪深两市成交额合计2.28万亿元,较上一交易日放量约1282.72亿元。其中,沪市成交额9494.64亿元,深市成交额1.33万亿元。东方财富成交额居首,为186.72亿元。其后是寒武纪...

    商务部发声,我国消费结构将加快从商品消费主导向服务消费主导转变|界面新闻

    商务部发声,我国消费结构将加快从商品消费主导向服务消费主导转变|界面新闻

    记者 辛圆 8月12月,财政部联合商务部、中国人民银行、金融监管总局等部门发布《个人消费贷款财政贴息政策实施方案》和《服务业经营主体贷款贴息政策实施方案》。 商务部服务贸易和商贸...

    支持设备更新,1880亿元超长期特别国债补助资金下达完毕|界面新闻

    支持设备更新,1880亿元超长期特别国债补助资金下达完毕|界面新闻

    记者 辛圆 据国家发展改革委微信公众号周三发布消息,近期,2025年超长期特别国债支持设备更新的1880亿元投资补助资金已下达完毕,支持工业、用能设备、能源电力、住宅老旧电梯、回收循环...

    被指抄袭墨西哥原住民手工凉鞋,阿迪达斯及设计师道歉|界面新闻

    被指抄袭墨西哥原住民手工凉鞋,阿迪达斯及设计师道歉|界面新闻

    界面新闻记者 | 宋佳楠 8月12日,据环球时报消息,知名运动品牌阿迪达斯近日发布的一款新鞋“Oaxaca Slip-On”,因其设计涉嫌抄袭墨西哥原住民手工凉鞋“huarache”而...

    司美格鲁肽二季度蝉联全球药王|界面新闻

    司美格鲁肽二季度蝉联全球药王|界面新闻

    界面新闻记者 | 黄华 界面新闻编辑 | 谢欣 8月6日,界面新闻记者从诺和诺德(Novo Nordisk)获悉,该公司于今年前6个月实现销售收入1549.44亿丹麦克朗,同比增长16%;...