平台企业助力AI芯片项目上云
科技日报记者 操秀英 在近日举办的平台2023世界人工智能大会上,AI芯片企业亮点颇多,企业积极参与这波大模型淘金热。助力他们纷纷展示出大模型实力,芯片项目以及在具体行业和场景落地的平台示范案例。其中,企业上海燧原科技有限公司(简称燧原科技)打造的助力燧原曜图文生图MaaS平台服务产品让人眼前一亮。其底层算力由“邃思”系列芯片提供,芯片项目还涵盖软硬件一体的平台全栈解决方案。 这家成立仅5年的企业公司,已成为AI芯片赛道的助力“黑马”。其背后,芯片项目离不开腾讯的平台战略支持。 “业内没有,企业就自己搞一个” 2018年,助力燧原科技成立不久,腾讯就开始与其开展深度合作,加强人工智能领域云端算力平台产品和服务等核心业务发展。 复盘来看,腾讯对燧原科技最大的助力是助其商业化落地及让其芯片项目上云。近年来,腾讯与燧原科技在国内首次采用“存算分离”架构的芯片仿真混合云平台项目突围成功,成为燧原科技第一个上云的芯片项目。 燧原科技芯片上云的这一步并不容易。 腾讯云计算相关专家表示,芯片是一个相对传统的行业,很多企业部署了较重的线下IDC(互联网数据中心)资产,遵循着一套标准化的使用流程。但其实,芯片设计在不同阶段对算力的需求不同,波动明显且难以预测。为了突发的需求部署大量的冗余资源,很不划算。而且,芯片研发需要的是高性能先进计算资源,如果要一直更新机型,负担很重。 显然,云计算的弹性特点能很好满足芯片设计快速、灵活地获取海量高性能计算资源的需求。然而,核心知识代码和流程工艺等数据的安全是重中之重,是芯片企业的命门,上云是否安全?于是,燧原科技试探性地问:能否把所有的存储放在本地,在需要弹性算力的环节使用云? 通常来讲,数据中心会将存储和计算资源部署到一起,但燧原科技需要的是更加彻底的“存算分离”,云上仅包含计算,所有数据存储在本地,通过专线远程访问。相比起云上的存算分离,这种架构对网络时延、带宽吞吐率和效率的要求都更加严苛。 这也是国内芯片企业从未实践过的构想。 “但这个顾虑是燧原科技上云前最大的障碍,那就必须搞定。业内没有,就自己搞一个。”腾讯云有关负责人说,随后的几个月,腾讯云、上海速石信息科技有限公司(简称速石)与燧原科技一起,大胆假设、小心求证,搭建了“存算分离”芯片仿真混合云平台。 为此,腾讯云提供足够多的算力机型,在需要弹性算力时,根据业务作业的不同类型,配置相应的算力资源。速石平台的云原生调度器,则能不改变用户的使用习惯,让使用者无感地调用云资源,减少上云的学习成本。为了进一步提高安全性,在传输层面,一条连接腾讯云和燧原科技的超大带宽专线拉起,保证传输通道安全可信。同时,腾讯云的iOA(智能办公自动化系统)方案,可确保终端的安全。 芯片仿真混合云平台于2022年6月正式上线,当年10月,算力达到初始规划的数倍。 仿真周期缩短30%—50% 算力“爆炸”背后,是一个关键的环节——芯片各项功能的一致性验证。在这一阶段,云平台始终处于高压状态,有时候,算力会突然冲到几万核——相当于在一瞬间同时拉起数百台大规格的机器,整个系统必须保持高稳定性和实时响应能力。在最激烈的时刻,三方人员进行了长达14天×24小时的轮班值守。 腾讯云具备丰富多元的裸金属实例、GPU(图形处理器)实例,在芯片的仿真验证和性能对比测试环节,可一站式完成多代次、多卡型的验证工作,极大提升部署效率和测试效率。 在远端,腾讯云越来越多的专家加入,工作群随时都有总监级研发人员被拉进去提供支持。速石也投入了包括首席架构师在内的大量精锐力量。经过不断的改进调优,平台最终做到充分的并行作业,在两分钟时间里即能快速完成服务器交付,小时级别完成研发环境交付。 最终,经过16天×24小时值守,他们成功了。 长达8个月的实战后,燧原科技看到了一张成绩单:总体任务并发量通过云端弹性同步提高,缩短仿真周期30%—50%。未来,燧原科技打算逐步扩大用云规模,尽量让使用弹性算力的环节都上云。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 加热为何总是比制冷快?“热力学第2.5定律”挑战传统预期
- “假日模式”下当心荨麻疹找上门
- 预约火爆 部分博物馆增设夜间开放
- 年宵花走“红”中国春节年货市场
- 专家支招老年糖尿病患者健康过年
- 空军八一飞行表演队:一站直飞 回家过年
- 多年冻土融化导致的山体滑坡运动过程和规律获揭示
- 大年初一,全国铁路预计发送旅客550万人次
- 电影春节档8部新片4部撤档引热议 无奈之举还是任性而为
- 国家加强电能质量管理
- 今天全国铁路预计发送旅客920万人次
- 2024龙年春晚,创新两项纪录
- 中国空间站送来龙年新春祝福
- 在地底寻找“宝藏”!我国首口万米科探井钻井深度突破9900米
- 远古发现丨这种“明星龙”揭开从龙到鸟的秘密
- 这些名字中带“龙”的食物,你吃过几个?
- 木星伴月,初六见!
- 高峰期推迟、峰值更高......今年春运有这些新变化
- 2023年我国软件业务收入同比增长13.4%
- 3月1日起施行 国务院国资委对央企安全生产实行分类监督管理
- 搜索
-