全站搜索 产品中心 新闻中心

寒武纪已适配 DeepSeek-V3.2-Exp,同步开源推理引擎 vLLM-MLU

公司新闻 282

【导语】9月30日,DeepSeek发布实验性版本DeepSeek-V3.2-Exp模型,寒武纪迅速宣布完成适配并开源相关引擎代码,凭借生态积累与技术优势实现新模型架构的快速适配与极致性能优化,携手为客户打造高竞争力软硬件方案。

寒武纪已适配 DeepSeek-V3.2-Exp,同步开源推理引擎 vLLM-MLU

  9 月 30 日消息,DeepSeek 正式发布了 DeepSeek-V3.2-Exp 模型,这是一个实验性(Experimental)的版本。寒武纪也宣布,已同步实现对深度求索公司最新模型 DeepSeek-V3.2-Exp 的适配,并开源大模型推理引擎 vLLM-MLU 源代码。

  寒武纪称,一直高度重视大模型软件生态建设,支持以 DeepSeek 为代表的所有主流开源大模型。借助于长期活跃的生态建设和技术积累,寒武纪得以快速实现对 DeepSeek-V3.2-Exp 这一全新实验性模型架构的 day 0 适配和优化。

  针对本次的 DeepSeek-V3.2-Exp 新模型架构,寒(hán)武(wǔ)纪(jì)通(tōng)过 Triton 算子开发实现了快速适配,利用 BangC 融合算子开发实现了极致性能优化,并基于计算与通信的并行策略,再次达成了业界领先的计算效率水平。依托 DeepSeek-V3.2-Exp 带来的全新 DeepSeek Sparse Attention 机制,叠加寒武纪的极致计算效率,可大幅降低长序列场景下的训推成本,共同为客户提供极具竞争力的软硬件解决方案。


上一篇: 下一篇:

相关推荐

  • 2025深圳安博会:大公博创揽三奖 低空安防技术引国内外媒体聚焦

    254

    【导语】2025年10月28日至31日,第二十届中国国际社会公共安全博览会在深圳启幕。成都大公博创信息技术有限公司携全系列低空安防设备参展,凭借三项权威大奖、全栈产品矩阵及高层权威发声,成为焦点,尽显中国低空安防企业的全球竞争力,引领产业迈向新高度。 2025年10月28日-31日,第二十届中国国际社会公共安全博览会(CPSE安博会)在深圳会展中心盛大启幕。作为全球三大安防展之一、国...

    查看全文
  • 业内首家:中国电信实现北斗语音消息服务

    254

    【导语】中国电信率先公开展示业内首个“北斗语音消息”服务,首创 AI 算法实现语音极速传输;与此同时,华为也在第四届北斗峰会上发布相关功能,其手表成首款支持终端,北斗应用再掀新篇。 据“中国电信”机构号,其已率先公开展示“北斗语音消息”服务,成为业内首家实现北斗语音消息的运营商。据介绍,中国电信在业内首创“声纹与语义分离 AI 算法”,为语音极速瘦身,省去用户短信文字输入的繁琐,实现...

    查看全文
  • IoT Analytics:全球在用物联网设备持续增长 到年底将达211亿台

    255

    【导语】研究公司IoT Analytics预测,至2025年底全球在用物联网设备将达211亿台,年增14%,Wi-Fi、蓝牙及蜂窝网络成增长主驱动力,且预计2035年设备数将超500亿台,数据激增还将为AI发展及智能系统构建提供有力支撑。 研究公司IoT Analytics预计,2025年期间,全球在用的物联网设备数量将持续增长,其中Wi-Fi、蓝牙以及蜂窝网络技术将成为推动这一增长...

    查看全文
  • 融资概率超82%!这家厦企完成新一轮融资,加速毫米波雷达生态布局

    253

    【导语】近日,矽杰微电子(厦门)有限公司宣布完成C1轮融资,由中信建投资本领投,资金将用于车规级芯片研发及多领域市场拓展。作为毫米波雷达芯片研发的高科技企业,矽杰微电子已获资本市场高度认可,并入选专精特新“小巨人”企业名单,未来将携手伙伴打造毫米波雷达感知生态体系。 近日,矽杰微电子(厦门)有限公司(以下简称“矽杰微电子”)宣布完成C1轮融资,本轮由中信建投资本领投,元科创投、启泰资...

    查看全文
展开更多

00