AI模型适配国产芯片创下38分钟奇迹 只需喝完一杯热咖啡的时间,深企完成DeepSeek模型昇腾平台部署

AI视界(以下内容由AI生成,仅供参考)

  • 关键词
  • 简介
  • 重点
  • 分析
  • 猜你
    想问

深圳市大数据研究院研究科学家、智子芯元联合创始人丁添。 深圳特区报记者 耿超逸 摄

深圳新闻网2026年3月10日讯(深圳特区报记者 郑铭)2026年开年不久,中国AI算力赛道传来一声“加速”哨响。

由深圳市大数据研究院孵化的智子芯元公司,成立仅5个月,便拿出一张硬核答卷:其自主研发的一款名为KernelCAT的AI Agent工具,38分钟完成DeepSeek-OCR-2模型在华为昇腾平台的全自动部署与推理验证。曾经让顶尖工程师团队挠头的大模型与国产芯片“适配”难题,如今只用花费喝完一杯热咖啡的时间就可解决,且全程基本无需人工干预。

38分钟奇迹:

AI“翻译官”如何打破适配困局

要把一个原本为国外芯片设计的AI模型,迁移到国产昇腾芯片上运行,到底有多难?

“AI模型就像一套复杂的指令,不同的芯片能听懂的语言不一样。而AI模型适配国产芯片,就是让模型能在国产芯片上正常运行,还能发挥芯片性能。”深圳市大数据研究院研究科学家、智子芯元联合创始人丁添打了个比方:“就像你只有一台苹果电脑,却想玩一个只有Windows版本的游戏。你需要去找游戏公司或苹果客服花几个月时间进行专门适配,普通用户很难自己做到。”

在AI的世界里,这个“适配”过程靠的是算子——它是连接算法与芯片的“翻译官”,把模型指令转换成芯片能听懂的语言。算子写得好不好,直接决定了模型跑得快不快、能耗高不高。在过去,为了把一个复杂模型“翻译”适配到国产芯片上,工程师们得一行一行手写底层代码,耗时数周甚至数月,还未必能发挥芯片的全部性能。

DeepSeek-OCR-2是一款引入了“视觉因果流”设计的复杂多模态模型,对算子的要求极高,适配这类模型意味着要面对最令人头疼的“版本地狱”:vLLM、PyTorch和NPU驱动之间错综复杂的版本互锁,一个版本不匹配,整个工程就得推倒重来。

而在KernelCAT接到“把DeepSeek-OCR-2模型部署到昇腾平台”的任务后,它的运行则全程无需人工干预:自动解析模型结构,智能排雷,动态生成迁移方案,并在硬件上反复测试验证。从下达指令到推理验证完成,仅耗时38分钟。

据昇腾官方平台消息,在前序DeepSeek-OCR的1代模型的部署测试中,KernelCAT优化后的方案较原生方案推理加速最高达139倍。这意味着,复杂OCR模型不仅能在国产算力平台上“跑起来”,更能“跑得稳、跑得快”。

“数学+AI”双引擎:

一家初创公司的突破密码

一家成立仅5个月的公司,凭什么做出国内领先行列全自动AI模型迁移工具?

谈及最初的研发初衷,深圳市大数据研究院副院长张昕介绍,现在很多单位买了国产算力卡,但不知道怎么用。华为的支持是通用型的,但每家需求不同,怎么低成本快速部署,是个非常大的行业痛点。

这个痛点,恰好撞上了深圳市大数据研究院十多年的深厚积累。“我们在应用数学、运筹优化、求解器等领域走在国内前列,算子开发、AI Infra(基础架构)本质上都是优化问题,这正是我们擅长的方向。AI大模型我们也已布局三四年,丁添博士团队全力攻关,再加上研究院开放包容的土壤给了大家充分的自由度——凭兴趣找准研发点,沉浸下去、持续突破。这种氛围,让很多‘不可能’慢慢变成了现实。”张昕说道。

据悉,作为深圳首批十大基础研究机构之一,深圳市大数据研究院长期致力于解决“卡脖子”问题,坚持以数学为基础,以数据为驱动,以重大应用为导向。智子芯元是由深圳市大数据研究院孵化的科技企业,团队成员承袭了研究院“数学+AI”路径,将高深的运筹优化理论与最前沿的AI大模型技术结合,攻克了算法与算子这一“最后一公里”难题。

从跟跑到领跑:

开拓国产算力生态的星辰大海

KernelCAT的诞生,意义远不止于“省几周时间”。

国产芯片关系到算力底座能否自主可控。军事、医疗等关键领域的模型,不能长期依赖国外芯片运行。要让国产芯片真正用起来、跑得稳,就必须解决国产芯片开发难的瓶颈。

“现在,我们有了换道超车的可能。”在丁添看来,KernelCAT不只是一个模型迁移工具,它更是一个通用计算加速开发平台。工程师未来可以在国产芯片上,借助这个工具开发自己想要的、性能更强的AI模型。他希望,在这个工具的帮助下,未来在国产芯片上能孕育出世界一流的AI模型。

据了解,作为国家新一代人工智能创新发展试验区和创新应用先导区,深圳拥有良好产业基础、广阔市场空间和强劲创新活力。全市现有人工智能企业2600余家,产业链覆盖芯片、模型、硬件及应用全环节。《深圳市加快打造人工智能先锋城市行动计划》等接连出台,从资金、场景、人才到产业链协同,为创新企业铺好跑道。智子芯元正是这条跑道上加速冲刺的选手之一。

“我们不仅在做一家公司,更在探索数学与AI最本质的结合如何转化为产业生产力。”丁添笑着表示,“希望自己和团队能为这座城市的‘硬’产业,修好最关键的那条‘软’路。”

编辑:谭悦

AI视界(以下内容由AI生成,仅供参考)

关键词

简介

重点

分析

猜你想问