寒武纪通用型智能芯片产品完整支持商用大模型部署
数字经济时代,算力是核心生产力,算法是重要生产工具,数据是关键生产资料。算力决定了数据处理能力的强弱。算力芯片是算力的具体载体。而AIGC大模型是在智能算力驱动下最为典型的重大创新。
AIGC全称为 AI-Generated Content(人工智能生成内容),指基于生成对抗网络 GAN、大型 预训练模型等人工智能技术,通过已有数据寻找规律,并通过适当的泛化能力生成相关内容的技术。AIGC 能够以优于人类的制造能力和知识水平承担信息挖掘、素材调用、复刻编辑等基础性机械劳动,从而大幅降低内容生成的边际成本,目前已经在文字、语音、代码、图像、视频、机器人动作等多模态场景上有了范例。它被认为是继 PGC、UGC 之后的新型内容创作方式,2022 年 AIGC 发展迅猛。
(资料图片仅供参考)
AIGC 的技术底座是“大型语言模型(Large Language Models,简称为“大模型”)”。随着大模型的迭代,所需的参数呈指数级增长。各模态智能数据的训练到推理均需要算力的加持,随着模型逐渐复杂化,所对应的算力需求也水涨船高,智能芯片市场有望迎来增量需求的支撑。
提及智能芯片,国内不少企业正在崛起,寒武纪便是其中之一。
自成立以来,寒武纪一直专注于人工智能芯片产品的研发与技术创新,致力于打造人工智能领域的核心处理器芯片,让机器更好地理解和服务人类。寒武纪的主营业务是应用于各类云服务器、边缘计算设备、终端设备中人工智能核心芯片的研发、设计和销售,以及为客户提供丰富的芯片产品。目前,寒武纪的主要产品线包括云端产品线、边缘产品线、IP 授权及软件。
纵观过去几年,寒武纪快速实现了技术的产业化输出,先后推出了用于终端场景的寒武纪 1A、寒武纪 1H、寒武纪 1M 系列智能处理器;基于思元 100、思元 270、思元 290 芯片和思元 370 的云端智能加速卡系列产品;基于思元 220 芯片的边缘智能加速卡。其中,寒武纪智能处理器 IP 产品已集成于超过 1 亿台智能手机及其他智能终端设备中,思元系列产品也已应用于浪潮、 联想等多家服务器厂商的产品中。此外,思元 270 芯片、思元 290 芯片还分别获得第六届世界互联网大会、世界人工智能大会颁布的奖项。思元 220 自发布以来,累计销量突破百万片。
2022年寒武纪持续加大产品研发力度。硬件方面,寒武纪基于思元 370 云端智能芯片,推出了新款智能加速卡 MLU370-X8/M8、训练整机玄思 1001 智能加速器(MLU-X1001)。
MLU370-X8/M8两款加速卡均支持寒武纪 MLU-Link 芯片间互联,可满足多样化人工智能模型的训练和推理需求。而寒武纪玄思 1001 智能加速器,在 2U 机箱内集成 4 张 MLU370-M8 智能加速卡,MLU-Link 互联接口,实现智能算力在数据中心纵向扩展;可广泛支持 FP16、FP32 等不同数据精度的智能算力,提供大容量内存,支撑智能模型的分布式训练需求,是智能算力的高集成度平台,已在生物信息、医疗影像、语言模型等行业及科研场景广泛应用。
据寒武纪2022年度报告显示,在互联网行业,寒武纪的思元 370 芯片及加速卡与数家头部互联网企业在视觉、语音、图文识别、自然语言处理等场景下完成适配工作后,已经进入了批量销售环节。此外,寒武纪与某互联网企业进行了大模型训练的初步合作,目前仍处于技术探索和测试阶段。
2022年寒武纪也在持续推进通用性训练软件栈的研发和改进工作。功能上,支撑了寒武纪新的硬件平台以及 FP19 数据精度,支撑了新的 PyTorch 版本,算子覆盖度达到 80%,TensorFlow 的算子数量及交付网络模型均有所增加。性能上,PyTorch 框架层通过 IO 类算子融合等优化方式,显著提升了带宽密集类模型的性能;TensorFlow 通过支持 XLA,对 Bert 模型实现了近两倍的性能提升。在大语言模型领域,提升了单机多卡、多机多卡的混合分布式训练效率,完整支持了商用大模型部署,达到业界领先水平。
值得注意的是,寒武纪所研发的通用型智能芯片产品,具备灵活的指令集和精巧的处理器架构,技术壁垒高但应用面广,可覆盖人工智能领域高度多样化的应用场景(如视觉、语音、自然语言理解、传统机器学习、生成式人工智能等)。与 CPU、GPU 等芯片相比,通用型智能芯片能够更好地匹配和支持人工智能算法中的关键运算操作,在性能和功耗上存在显著优势。
(免责声明:此文内容为广告,相关素材由广告主提供,广告主对本广告内容的真实性负责。本网发布目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,请自行核实相关内容。广告内容仅供读者参考。)
(责任编辑:周文凯 )标签:
加快场景创新 科技部首批支持建设十个人工智能示范应用场景
2022-08-16
科技部公布《企业技术创新能力提升行动方案》 亮出10项行动内容
2022-08-16
进入了发展快车道 冷链行业市场规模正在快速膨胀
2022-03-21
行业正站在风口 数字化时代在为传统的自行车产业赋能
2022-03-21
以做强实体经济支撑为重点 成都单个项目年度计划投资同比提升
2022-03-21
拥有多个国际赛事的直播版权 广州游戏电竞企业业绩向好
2022-03-21
投诉量激增 直播带货存在这么多问题的主要原因是什么?
2022-03-21
工作专班深入到各企业 春寒料峭挡不住松原市施工热情
2022-03-21
引导企业向提供“产品+服务”转变 湖南加快智能农机服务化转型
2022-03-21
创新平台建设和科技成果转化 德州加大力度重奖创新
2022-03-21
科技部公布《企业技术创新能力提升行动方案》 亮出10项行动内容
进入了发展快车道 冷链行业市场规模正在快速膨胀
行业正站在风口 数字化时代在为传统的自行车产业赋能
以做强实体经济支撑为重点 成都单个项目年度计划投资同比提升
拥有多个国际赛事的直播版权 广州游戏电竞企业业绩向好
投诉量激增 直播带货存在这么多问题的主要原因是什么?
工作专班深入到各企业 春寒料峭挡不住松原市施工热情
引导企业向提供“产品+服务”转变 湖南加快智能农机服务化转型
创新平台建设和科技成果转化 德州加大力度重奖创新
潜在风险进一步放大 商品房现房销售已是大势所趋
有序复工复产 1—2月份工业经济发展新动能持续增强
多层次高频调度 1至2月河北省工业运行先行指标稳中有增
以车路协同为基础 智能交通推动城市交通绿色高质量发展
人才短板成为制约产业链高质量发展的关键节点
通过技术手段整合调配供给资源 家政行业不断提质扩容
强化产业链深层次合作 加强重大装备国产化“一条龙”模式构建
如何进一步提升纳税人缴费人的减税降费获得感?
探索建设大数据及网络安全示范试点城市有哪些积极意义?
对制造业中小微企业实施缓缴税费政策有哪些积极意义?
进一步增强自我保护意识 消费者需注意辨别谨慎消费
将“走出去”变“请进来” 西安贸易产业转移承接作用不断得到增强
厦门应如何融入“数字中国”的重大战略发展大局?
江苏省如何不断满足老人日益增长的养老服务需求?
建设一体化的职业健康信息管理平台 天津职业人群保障加强
潜力持续释放 1—2月乡村消费品市场恢复略好于城镇
直接对接社会化服务 楼宇调解室将整体提升青岛劳动争议水平
成功化解纠纷11.47万件 银保监会服务质量日趋提高
春雷响百虫出 惊蛰文化在其他方面有了进一步发展
青绿山水画在古代山水画发展史上有着怎样的影响与地位?
- 开播即爆款 “文化类节目收视率低”这一固有印象被推翻
- 涵盖了109件真迹作品 凯斯·哈林展览将持续至6月13日
- 带有一点自信的自嘲 “隔路”是另一种味道的“凡尔赛”
- 与文渊阁前后呼应 “何以中国”特展隆重致敬文化大成
- 严重者可造成暂时性失明 享受冰雪运动要注意眼睛的健康防护
- 种类繁多让人眼花缭乱 选购牛奶时需要重点关注什么?
- 网课让孩子感到不安焦虑怎么办?八问八答回应广大家长关切
- 循环系统很容易受到刺激 “倒春寒”期间老人该如何做?
- 青少年患者睡眠问题日趋增加 9条建议为孩子助眠
- 我国肥胖人群正逐年递增 不良饮食习惯是重要诱因
- 如何减少噪声对听力的损伤?这份耳部和听力保健小贴士请收好
- 强化住房限购措施 西安限购限售范围进一步扩大
- 多种方式增加供给 进一步降低新市民和青年人的居住成本
- 预计9月下旬海口可实现安居房申请网上办理
- 政策调控力度持续升级 8月百城二手房市场均价止涨转跌
- 8月中国新房找房热度依然保持平稳 环比微涨0.2%
- 进一步加强商品房销售价格备案管理 今年全国楼市调控刷新历史纪录
- 西安第二批集中供地中28宗为现场拍卖方式出让
- 细分化需求得到释放 房屋居住的属性越发凸显
- 佛山顺德龙江近日挂牌商住地起拍价约19.88亿元
- 青岛市4宗地竞品质抽签结果出炉 地溢价均约15%
- 坚持政策支持、多方参与 浙江版保障性租赁住房明确新增比例目标
- 简化审批流程 武汉将实现房源申请配租全程网上办
- 哈尔滨新增本土确诊病例3例 活动轨迹公布
- 哈尔滨市公布3例新增本土新冠肺炎确诊病例活动轨迹
- 山东深耕文化资源 推动旅游业高质量发展
- 今年新增952件(套)!南京大屠杀再添新证
- 四川非遗传承人张雄志:巧手捏面塑 指尖传非遗
- 10月以来我国寒潮为何如此频繁?中国气象局回应
- 56位残疾人士登上黄山 互利互勉共建生活希望
- 安徽潜山两车相撞 已致8人死亡3人受伤
- 上海洋山海关首次在出口货运渠道查获夹带卷烟
- 山西忻州古城:一城风华延续千年历史文脉
- 呼伦贝尔新巴尔虎右旗公布1例无症状感染者行动轨迹
- 新增“53+1” 内蒙古累计本土确诊病例增至185例
- 昆明公安打击破坏生物多样性犯罪 抓获130名涉案嫌疑人
- 山西朔州“11·11”较大透水事故调查报告发布 对38人问责处理
- “海关国门小卫士”竞争上岗 淘汰率接近一半
- 深圳摧毁特大品牌化妆品走私网
- 28人被问责!山西石港煤业“3·25”事故调查报告公布
- 湖南韶山以河长制带动全民治水 让每一处水面“长治久清”
- 上海市奉贤区人大常委会原党组书记袁晓林被“双开”
- 民进会员谈反映社情民意信息工作:心怀大我 敢讲实情
- 80岁“留守”奶奶短视频诉孤独 千万网友心疼:我们陪您唠嗑
- 40年来为子弟兵送出1.3万余双布鞋和鞋垫的“布鞋奶奶”走了
- 当男幼师是什么体验?他们说:有委屈尴尬 但大部分是幸福
- 庐阳警方通报幼童坠亡事件:嫌疑人已被刑拘
- 内蒙古新增本土确诊病例53例、本土无症状感染者1例
- 哈尔滨市启动部分地区第一轮全员核酸检测
- 四川通江发生两车相撞事故 致3人死亡