云端AI推理需求将在2022年迎来爆发。继去岁尾宣布首款面向数据中间的AI练习芯片“邃思”及加快卡“云燧T10”后，燧原科技又宣布了首款面向云端的高机能推理卡。
疫情加快了数据中间扶植办法和AI应用的速度。“传统数据中间和AI没有直接关系，就是X86+GPU加一堆存储和数据搬运，但如今数据中间越来越多引入AI加快平台。AI的渗入渗出率会越来越高，我们估计渗入渗出率会从5%到25%-30%，市场异常宏大年夜。”燧原科技CEO赵立东在接收第一财经专访时表示。
12月21日，燧原科技宣布首款面向数据中间的AI推理产品 “云燧i10”。该公司是腾讯投资的国内AI芯片始创企业。2018年8月，燧原科技由腾讯领投获得Pre-A轮融资3.4亿元人平易近币。本年5月，燧原科技宣布完成B轮融资7亿元人平易近币，由半导体家当基金武岳峰本钱领投，腾讯、上海双创等跟投。
按应用处景划分，AI芯片重要分为云端和终端芯片。今朝主流的神经收集深度进修包含练习和揣摸两个部分。云端寻求高机能，开辟成本更大年夜，终端更侧重低成本和低功耗。今朝中国AI始创企业重要构造在终端和边沿侧。
赵立东认为，面向数据中间的高机能AI计算芯片及分布式集群作为人工智能家当的基本举措措施，从架构进级到应用处景的落地，都蕴含了巨大年夜的市场空间和机会。
除了练习侧，云端AI推理的需求也赓续攀升。研究机构赛迪参谋申报显示，从2019年到2021年三年中国AI芯片市场范围仍将保持50%以上的增长速度，到2021年，市场范围将达到305.7亿元。个中，跟着大年夜范围处所性数据中间的扶植陆续完成，云端练习芯片增长速度放缓；而跟着各范畴市场需求的释放，云端揣摸芯片、终端揣摸芯片市场增长速度将持续呈上升趋势。
数据显示，从2019年到2024年，云端练习芯片的年复合增长率为32%，而云端推理的增长率将达69%。到2022年，中国云端推理芯片市场范围将达到189亿元，初次跨越云端练习市场范围。
赵立东表示，AI真正起步在以前五六年，国内更晚，BAT等大年夜企业从2018、2019年才开端大年夜量采购英伟达V100练习芯片，“练习跟推理的关系是??练习出来的模型被安排到推理产品上应用。当模型、算法不成熟，你须要赓续练习、迭代，成熟了才能被安排到推理上去真正应用。从2018年开端到2022年，很多场景的算法和模型经由这几年开端逐渐成熟，真正范围化应用。当推理芯片发卖收入跨越练习芯片，很多算法、模型已经开端被广泛应用了。对AI范畴来讲，2022年是个重要的节点。”
在生态合作方面，燧原科技COO张亚林称：“云燧i10已完成与海潮、新华三及Supermicro等办事器厂商推理办事器的适配。可实用于视频图像、语音、天然说话处理、常识图谱等多种应用处景，并针对内容懂得、推荐、辨认等高精度场景做了优化。”
据悉，云燧i10是单槽位标准卡，支撑PCIe 4.0，FP32算力达17.6TFLOPS，BF16/FP16算力70.4TFLOPS，将于来岁第一季度上市。同时，燧原科技宣布了推理引擎“鉴算TopsInference”。
燧原科技的云端练习产品已实现贸易落地。本年9月，燧原科技称，“云燧T10”和由其构成的多卡分布式练习集群已在云数据中间落地，正式进入商用阶段。腾讯是燧原科技的重要合作伙伴，赵立东告诉第一财经，两边将进一步加强合作的广度和深度。不过，他指出，“腾讯是我们起步期（破冰）的重要伙伴，起步是最难的，从0到1。腾讯给我们很大年夜赞助，是我们第一个具有计谋意义的重要客户，但绝对不是独一的。”
据介绍，燧原科技有三大年夜目标市场，一是云办事供给商，包含公有云、私有云、混淆云等，这类企业有大年夜量的流量和数据，须要练习算法加快AI相干应用；二是专注于金融、保险、医疗、交通等范畴的行业办事商；三是AI超算中间和聪明城市等范畴。
第一财经告白合作， 请点击这里
此内容为第一财经原创，著作权归第一财经所有。未经第一财经籍面授权，不得以任何方法加以应用，包含转载、摘编、复制或建立镜像。第一财经保存穷究侵权者司法义务的权力。 如需获得授权请接洽第一财经版权部：021-22002972或021-22002335；banquan@yicai.com。
文章作者
- 来莎莎
