推动AI+端侧算力融合 提升云算终端智能体验
算力时代,随着终端设备智能化程度加深和AI大模型的升级迭代,CPU、GPU和DPU等处理器的性能大幅提升,终端算力得到了显著增强,端侧算力网络融合AI成为提升智能终端体验的关键一步。
(资料图片)
端侧算力融合“轻量级AI” 重塑算力终端新业态
近年来,终端设备以前所未有的种类和数量融入群众的生活之中,全国存量手机算力是数据中心算力的12倍,但算力利用率不足15%;全国宽带用户规模达5.9亿,却有80%带宽资源处于闲置状态。终端设备呈现海量、轻量、资源利用率低的特点。
作为中国移动算力网络的重要组成部分,端侧算力网络应运而生。端侧算力是指整合海量的用户侧终端设备(包括个人终端、家庭终端等)以及端侧集中部署的设备(包括小区入口设备、边缘节点等)的算力,通过网络连接实现终端算力资源的统一管理和动态调度,并通过与边缘计算、云计算的充分协同,为用户按需提供高质量的计算服务。比如用户在使用某一应用的过程中,使用场景发生变化,端侧算力网络能根据业务类型的不同,为用户匹配并选择能力合适的执行终端,实现应用在不同设备之间的无缝切换。
同时,ChatGPT的应用引爆了新一轮人工智能热潮,生成式AI给终端带来了全新的交互模式,AI大模型逐渐轻量化,可在电脑、手机等智能终端上直接运行。
“AI 大模型的下沉和私有化部署,还将实现终端用户每人都拥有个性化专属AI助手,面向CH端,端侧算力网络将能够实现由单体服务变为多终端协同服务;面向B端,端侧算力网络能够实现海量终端结网提供分布式低成本算力。”中国移动终端公司副总经理汪恒江强调,端侧算力网络通过汇聚家庭、个人、行业设备的泛在算力,将打造出具有空间计算场和并网计算场景两大服务场景及商业模式,实现终端服务全新升级。
端侧算力+AI=机遇和挑战
目前全国智能终端仍处于大幅增长阶段,据IDC数据,2025年智能终端规模将增长至800亿台,端侧算力蕴藏着巨大潜力。
算力是数字经济与人工智能时代下的生产力,随着智能终端硬件技术的快速发展和应用领域的扩大,智能终端承载了不同类型的业务和服务需求,数据处理时延和精度的要求不尽相同。
而端侧算力网络具备的自治组网、时空高动态性、多层次多级端算力和强安全隐私等天然属性,决定了不同类型终端操作系统繁多、算力水平差异大且适配困难,各芯片平台算法生态及协议不互通,终端间通信情况复杂且存在不稳定性,给端侧算力感知、整合、协同调度等环节带来诸多技术挑战。
AI大模型趋向小型化+个性化为终端智能化发展带来新机遇。手机、电脑等终端生成并存储了海量数据,终端侧私有数据和推理计算将是终端应用能力的重要方向,可直接运行在手机和电脑等智能终端上的私有化AI模型成为“大模型时代”的新需求。
基于用户使用习惯,通过终端设备在保障用户数据隐私的基础上,提供AI差异化智能服务,需要设计出更高准确率、更高效、更智能,并且可以在算力终端设备上部署的个性化AI推理模型,来满足非智能终端的智能化升级,直接为终端设备提供泛在的AI算力服务,端侧算力融合AI助力云算终端普及。
激活端侧算力新动能 打造算力时代“新物种”
“进入数字化生活以来,我们随时随地都在生成照片、视频等数字资料,海量数据的存储与分类,对手机等智能终端性能提出了更高的要求。借助家庭算力主机,一键设置手机、电脑文件实时备份,依托AI算法自动识别数据场景,对文件进行安全、高效地存储、管理与生成;下班时,我们可以提前同步分享行程信息给家人,并且启动智能家居多端协同服务,让智能化生活触手可及……” 在上海世界移动通信大会中国移动“数智赋能 共享未来”展区,展台工作人员正在向参展观众介绍算力终端家庭算力主机。
除了胖终端家庭算力主机,中国移动还推出瘦终端云手机、云电脑、移动云高清新型云算终端产品,算力赋能为终端行业带来新的生产力。
为推动端侧算力网络在感知、整合、组网等环节的协同调度,中国移动于三年前启动端侧算力关键技术研究,2022年发布《端侧算力网络白皮书》,完成端侧算力网络技术工程;目前累计攻关7大关键技术,试点验证连接型算力主机15万台,存储型算力主机200台,纳管终端设备15万台。
在融合AI与端侧算力网络生态合作方面,面向物联网应用领域,中国移动携手旷视打造基于硬件的人工智能大模型综合解决方案,让AI向实而生。围绕“软硬一体”的合作模式,旷视建立以芯片和算法结合为核心的终端能力,研发基于不同场景的AI算法,致力于把边端和云的算力打通,让所有的算法能够动态进行调配和升级。
“一个技术赋能所有产品。”PC端搭载高通骁龙AI引擎的硬件、软件和工具,端侧AI是距离用户最近的多模态入口。高通产品技术高级总监徐恒介绍,“端侧我们现在做的10亿参数,很快几个月以后就能看到百亿参数,我们在这里面的覆盖率会变得非常高。无论是端侧AI还是混合AI,这就是一个基础。”
发挥链长引领作用 推动终端产业高质量发展
一个产业的高质量发展离不开行业上下游伙伴的共同推动。在终端产业进入算网融合新阶段,中国移动积极发挥“链长”作用,面向华为、OPPO、中兴、旷视、高通、联想、科大讯飞、浪潮等芯片、终端硬件产品、操作系统、智能Al、软硬件一体化解决方案合作伙伴,推出“一个联盟,两大计划”的重磅合作举措。
依托“算力终端产业联盟”,中国移动正式启动“繁星计划”和“霄云行动”,丰富算力终端新产品,创新端侧算力新服务。其中,“繁星计划”面向算力终端携手合作伙伴,推动终端品类丰富和算力应用发展。汪恒江表示,希望在2023年达到算力终端百款、云电脑百万、用户百万、算力应用百款、生态合作伙伴百家的发展目标。
繁星璀璨,智算未来。中国移动愿携手产业链生态合作伙伴全面推动算力网络融合AI,共创云算终端新生态,实现网络无所不达、算力无所不在,智能无所不及的愿景,让智能更广泛地惠及群众生活。
关键词:
责任编辑:宋璟
-
推动AI+端侧算力融合 提升云算终端智能体验
-
10亿欧元损失,震惊全球!大规模骚乱已成西方世界的标签?
-
是德科技拟收购ESI集团,进一步巩固其在软件解决方案领域的领导地位
-
北约峰会前局势微妙 土耳其竟高调撕毁与俄协议!
-
2023湖北襄阳市襄城区中小学教师招聘面试公告
-
卫宁健康WiNEX Ready大临床批量交付 开启批量交付新模式
-
暑期旅游热度不减
-
4挡电混长续航SUV皓瀚亮相!1350km续航将逆天比肩火箭
-
不满上海迪士尼规则?一女游客情绪失控:"打死我"…网友吵翻→
-
为高质量发展提供“硬核支撑”——上半年陕西重点项目建设观察
-
长丰(双凤)经开区积极推进亩均效益评价工作
-
促消费燃旺烟火气|一场早市 半城烟火
-
海通证券:下半年重视基本面改善的消费及科技板块
-
“警察蓝”守护盛夏“烟火气”
-
vivo手机软件无法安装(ViVo手机无法安装应用商店外下载的应用)
-
英媒:NASA在月球发现大量花岗岩,来源令科学家困惑
-
南昌红谷滩:一场别开生面的交流会
-
满房!云南丽江暑期游火爆,客栈迎来预订高峰
-
6个版本的杨贵妃颜值对比:殷桃,范冰冰都不及她半分美貌
-
瓦格纳“叛乱”造成的“扑朔迷离”现状:西方担心“越来越难以预测的白俄”
-
真爱!电讯报:国米将3500万镑报价卢卡库,球员愿意降薪100万镑
-
马自达CX-50行也,造型帅气,搭载2.5L+6AT,养护成本经济
-
中国天楹最新公告:签署3462万欧元垃圾焚烧发电厂设备销售合同
-
怎么看芒果熟了没(怎么看芒果熟了没有)
-
13人违法张贴涉黄小卡片被处罚 警方:看似涉黄多为诈骗,系电诈新型引流方式
-
夏日,他们守护平安!
-
藏在四川小凉山深处的雷波马湖
-
“不缺游客缺门票”如何解
-
河南发布高温红色预警:多地将连续升至40℃以上
-
7200万欧,官宣加盟!巴萨成冤大头,多花3200万,还说没钱签梅西
-
尹振涛:蚂蚁处罚落地,释放对平台经济看好预期
-
北京今天最高气温38℃ 高温橙色预警中
-
把所有算法融合成一个系统,集感知、预测、决策功能于一身 “卷”不动的智能驾驶看到新希望
-
(同人设计)永远7日之都希罗线·世界尽头和最后的指挥使结局(上)
-
太难了!武汉三镇靠点球破门,一群后卫挡不住人,亚冠没戏了