网宿科技:AI将引领边缘计算市场增长,智能硬件或成杀手级应用入口
近日,全球领先的边缘计算服务商网宿科技发布了首份《边缘计算市场实践与洞察报告》,深入分析了边缘计算的落地现状以及未来趋势。
网宿科技边缘平台资深架构师陈云辉解读报告时指出,边缘计算已经成为数字化、智能化进程中的重要支撑技术。伴随IoT产业成熟、AI时代到来,边缘计算的需求将越发涌现,市场前景更为可观。
AI带来对边缘计算的算力和推理需求
《报告》基于网宿科技多年的市场实践与洞察,分析了当前边缘计算的落地现状。《报告》显示,从边缘计算的主要产品形态来看,边缘云方面,边缘计算已经在实时音视频交互、CDN、云游戏、AR/VR等方面成熟应用。边缘云安全方面,将边缘与安全结合成为产业共识,诸如SASE架构已被广泛部署。在物联网领域,边缘智能解决方案也在工业制造、交通运输、畜牧养殖、智慧城市等场景中实现了应用创新。
物联网是边缘计算需求最为旺盛的场景之一,随着IoT产业的成熟,市场会逐步形成垂直行业的边缘智能解决方案,届时技术门槛和成本降低,边缘计算的需求也将顺势增长。
根据MarketsandMarkets报告显示,全球边缘计算市场规模将从2023年的600亿美元增长至2029年的1106亿美元,CAGR达到13%。在国内,IDC报告显示,2023下半年,中国边缘云市场规模总计62.6亿元,同比增速36.1%,增速超出预期。
对于驱动市场增长的因素,《报告》指出主要有四个方面,一是IoT产业落地成熟引领边缘计算增长,二是云原生技术应用带来边缘云刚需,三是AI大模型为边缘计算开辟新的商业机遇,四是生成式AI威胁推动云边端一体化安全能力的建设。
陈云辉表示,现在AI发展有两大趋势,一是在中心部署的大模型,会往越来越智能、参数越来越大的方向发展,一个是在端侧部署小模型,比如手机厂商在做的端侧模型,参数要够小同时性能也要满足一定的程度。而我们认为,AI大模型不只是做端和中心,边缘也有机会。
其分析,比如GPT-4o的发布,多了一些多模态、人机自然交互的体验,核心特点除了模型能力本身的提升外,最重要的就是实时性,边缘计算的优势就在于低时延,可以在其中发挥作用。另外,手机设备GPU算力有限,对于部分场景,算力需要外溢,相较于外溢到中心,时延可能要1-2秒,而外溢到边缘侧,位置距离用户更近,时延可能在几百毫秒,才能满足用户对生成式AI实时性互动的需求,体验更自然。
“所以整体来看,AI对边缘计算有两块需求,一个是算力,另一个是推理。推理模型需要部署在边缘侧,未来推理与迭代将在云-边-端呈现梯次分布,所以云边端一体化架构也是AI大模型发展的一个趋势。”陈云辉表示。
智能硬件或成杀手级AI应用入口
此次《报告》发布会上,陈云辉与边缘计算社区创始人史皓天还就业界所关心的杀手级AI应用等话题进行了探讨。
在陈云辉看来,尽管AI在诸多方面的应用已经如火如荼,但真正意义上的杀手级AI应用尚未出现。
比如To C层面,AI搜索、AI角色扮演、AI陪伴等,虽然流量大、用户多,但商业闭环尚未形成,用户留存率也有待提高。此外,AI PPT、AI电商生图等生产力工具,已经实现部分商业闭环,不过目前仍处在市场推广阶段。To B层面,企业内部的AI知识库面临幻觉问题,以及数据隐私和私有化部署成本问题,性能和效果达不到AI数字员工的理想状态,杀手级应用也暂时还未出现。
对于杀手级AI应用何时涌现,陈云辉认为,智能穿戴和AI硬件领域将可能出现杀手级应用,并随之带来对边缘计算的大量需求。
“随着模型能力不断升级,达到比较好的性能和效果,同时推理成本下降,再叠加AI硬件的成熟,将给整个产业带来更大的想象空间。比如AR/VR眼镜、AI耳机要求实时交互,并且搭载语音、视频等丰富内容,对算力要求极高,端侧算力有限,边缘侧将是提供算力承载的理想位置。”陈云辉进一步指出。
据悉,目前网宿科技已经在边缘AI领域进行了深入布局,推出了包括Serverless GPU、边缘AI网关、边缘模型微调与推理服务在内的边缘AI产品。
未来,网宿科技还将面向AI继续投入,一是持续加强建设算力网络和平台能力,降低AI技术的使用门槛,服务AI规模化普及;其次将关注智能硬件的发展,投入边缘计算资源建设以及云边端整体能力的建设,协同行业伙伴探索XR应用的落地。最后,面对AI加剧威胁形势,网宿科技还将以AI驱动安全,全方位提升边缘安全能力。
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )
本文来源于极客网,原文链接: https://www.fromgeek.com/ai/662199.html
本网站的所有内容仅供参考,网站的信息来源包括原创、供稿和第三方自媒体,我们会尽力确保提供的信息准确可靠,但不保证相关资料的准确性或可靠性。在使用这些内容前,请务必进一步核实,并对任何自行决定的行为承担责任。如果有任何单位或个人认为本网站上的网页或链接内容可能侵犯其知识产权或存在不实内容,请及时联系我们沟通相关文章并沟通删除相关内容。
评论