私募排排网-国内私募基金一站式服务平台
搜索
投资热线
投资热线
400-666-7388
下载APP
下载APP
当前所在位置:首页/资讯中心/股市热点/算力推动AI发展将成为瓶颈,AI应用正在爆发前夜!/

算力推动AI发展将成为瓶颈,AI应用正在爆发前夜!

2023-11-21 11:00:00
私募排排网 余宗杰
view count9006
添加客服
扫一扫 扫一扫 微信沟通
关注微信公众号
高净值人群都在看
微信扫码关注
随着AI和大模型的开发商越来越多,算力资源正变得越来越稀有,由算力推动的AI发展已经来到瓶颈,相关AI应用落地将成为推动AI的新力量。边缘侧或者终端侧部署AI成为近期较为关注的发展路径,轻量模型应用和轻量AI越来越多,“AI+硬件”下的边缘AI正在爆发前夜。
摘要由作者通过智能技术生成

随着AI和大模型的开发商越来越多,算力资源正变得越来越稀有,由算力推动的AI发展已经来到瓶颈,相关AI应用落地将成为推动AI的新力量。边缘侧或者终端侧部署AI成为近期较为关注的发展路径,轻量模型应用和轻量AI越来越多,“AI+硬件”下的边缘AI应用正在爆发前夜。

在手机端,华为、小米、VIVO等手机厂商跑步进入端侧大模型赛道,手机在处理图像、语音、NLP(自然语言处理)等任务的能力增强,大幅提升了手机性能;

在电脑端,英特尔宣布将在2023年12月14日正式发布面向下一代的AI PC英特尔酷睿Ultra处理器Meteor Lake,采用“CPU+GPU+NPU”的集成方式,不仅满足端侧大模型部署,还能保证AI在断网意外情况下的使用;

在物联网领域,近期一款名叫“AI PIN”的AI硬件亮相市场,还没有巴掌大,但内置了由高通骁龙芯片驱动的专有语言大模型,可过麦克风、摄像头、传感器进行互动。

未来,AI将从云端向边缘端、终端逐步渗透,AI+手机、AI+PC、AI+物联网AIoT等等各类“AI+硬件”将无处不在,并推动相关AI及大模型在各类具体场景的应用落地。

其中,不少A股上市公司早有布局,个别公司11月以来实现多日高涨,文末附上“边缘AI”以及“端侧大模型”概念股名单。

AI“从云端下凡”,边云协同助力AI应用落地

根据在网络中的位置,AI芯片可以分为云端AI芯片 、边缘和终端AI芯片;根据其在实践中的目标,可分为训练芯片和推理芯片,云端主要部署高算力AI训练芯片和推理芯片用于智能数据分析、模型训练任务和部分对传输带宽要求比高的推理任务。

边缘AI和终端AI主要为推理芯片,承担推理任务,需要独立完成数据收集、环境感知、人机交互及部分推理决策控制任务,即嵌入设备实时处理和分析数据 ,提供更快速和高效的决策和响应,例如在智能手机、摄像头、物联网设备等本地进行处理和决策。

相比云端AI先将数据传输到云端服务器进行计算和处理,再将结果传输回终端设备,边缘和终端AI只需要在离数据采集源和终端设备更近的位置进行人工智能计算和推理任务。

图1
高通骁龙 8Gen3 内置 AI 引擎

 

仅在云端的运行的AI大模型成本十分昂贵,像ChatGPT这样体量的超大模型,就需要1000张主流卡容量的独立计算集群,以及对应的模型并行算法框架来支持训练。而边缘AI是终端设备上进行的轻型模型运用,具有更强的本地处理优势,如具有隐私和安全性、低延时、可靠性、低成本 ,可负载在手机、笔记本电脑、XR 头显、汽车上。

由于不需要联网,不需要依赖远程服务器,边缘AI可实现更快的响应速度和低延迟的数据处理;在本地设备上数据处理和模型训练,可提供更高的数据隐私和安全性;在没有网络连接的情况下也可运行应用程序,同时还减少了对网络带宽的需求和数据传输的成本。

为满足边缘AI对计算能力和能效要求,需要不断开发边缘AI芯片以应对指数级增长的算力需求,龙头厂商和芯片厂商已经开始布局轻量级模型和大模型在边缘AI的运用。

2023年10月,高通和联发科相继发布集成AI引擎的旗舰SoC骁龙8 Gen3和天玑9300,可以支持十亿甚至百亿参数的大模型,这意味着端侧大模型可以借助边缘AI技术来实现,提高模型的部署效率和运行性能。

当然,边缘AI由于没有云端AI强大的算力资源,所以未来AI运算将呈现边云协同的多层次算力网络趋势,AI训练迭代优化等复杂性任务主要在云端,实时、局部数据处理和推理任务主要在边缘侧。通过边缘AI芯片的算力,打通推理加速的“最后一公里”。

图2
AI 运算呈现边云协同的多层次算力网络趋势

 

手机、PC、物理网AIoT多侧落地,边缘AI大有可为

AI 大模型的迭代推动了边缘域 AI 的应用发展,同时带动了下游应用端智能硬件的革新,在手机、PC、物联网三大类终端上“百花齐放”。

图3
边缘域 AI 产业链

 

首先是手机方面,今年2月高通首次成功在安卓手机上使用Stable Diffusion大模型生成AI图像,用时不超过15秒,可媲美云端时延,且用户文本输入不受限制。

图4
Stable Diffusion 利用文本提示生成的图像

在2023华为春季旗舰新品发布会上,华为基于多模态大模型技术,在手机端侧对模型进行小型化处理,实现了自然语言手机图库搜索体验。智慧搜图对亿级的图文数据进行预训练,增加了对泛化通用语义的理解,支持包含颜色、形状、物体、行为、时间和地点等多信息组合的自然语言搜索,同时还实现了端侧轻量化应用。

另一个向边缘侧、端侧部署发展AI应用落地尝试的是AI+PC,也是十分有可能诞生“杀手级”应用的AI使用场景。

联想集团首席工程师在接受《中国电子报》采访表示,对于消费者而言,PC始终是生产力工具,具体而言,智能写作助手、自动翻译工具、音视频合成以及虚拟现实内容等功能,将会让人工智能惠及每一个使用者。

例如,微软推出的Microsoft 365 Copilot是一种基于大型语言模型和微软图形的数据和人工智能辅助工具,它可以将用户的自然语言输入转化为高效的生产力工具,并集成在包括Word、Excel、PowerPoint等应用中。

为提升AI的使用体验,多家芯片巨头在布局AI+PC。英特尔宣布将在2023年12月14日正式发布面向下一代的 AI PC 英特尔酷睿 Ultra 处理器Meteor Lake。该处理器将使用“CPU+GPU+NPU”的集成方式,不仅满足端侧大模型部署,还能保证AI在断网这类意外情况下的使用。

英特尔的“老对手”AMD在近期进博会展示了搭载自研AI加速引擎的笔记本电脑。在Ryzen AI引擎与CPU、GPU的协同计算下,笔记本电脑可在极低的功耗下完成本地文生文智能对话、视频会议画面优化、老照片画质修复等智能计算,同时还拥有优秀的隐私保护功能。

物联网AIoT领域也出现了相关大模型应用落地的硬件产品。2023年11月6日,美国初创公司Humane发布硬件产品AI Pin,主打AI和用户的交互,通过内置的“AI Mic”连接到云端AI模型并进行交互和反馈。AI Pin也是大模型从云端向移动端部署的一次重要尝试,为后续AIoT新产品的定义提供了一个新的发展方向。

随着生成式功能日益强大,耳机、手表、扫地机器人等AIoT产品也将作为边缘AI的主要场景,分担云端算力的部分任务,保护用户隐私数据。此外,边缘AI能够大显身手的领域还有智能家居、智能汽车、智能安防等等,“AI+智能终端”的趋势将重构电子产业的成长。

图
AI+智能硬件

那么,有哪些A股上市公司已经开始布局相应“边缘计算”、“端侧AI”?笔者根据上市公司公告和投资者互动问答平台整理供读者参考:

图5 

其中一家上市公司已在大语言、AIGC等主流模型积极跟进,专为生成式AI而打造的PC平台,能够在终端侧运行高达百亿参数的模型,可以在PC侧通过Stable Diffusion生成图像,11月初至今涨幅已达12.12%。

图6 

在终端AI领域,恒玄科技自主研发了 BECO 嵌入式AI协处理器及对应指令集,和主 CPU核心配合工作,更好的完成基于神经网络AI算法的各种音频处理,11月初以来涨幅已达14.49%。

数据说明

本文所涉及的内容不保证数据完整性与准确性,分析结论仅供参考,所涉及品种均不构成实际投资操作建议。股市有风险,投资需谨慎。

风险揭示

本文所涉的文章观点,仅代表笔者个人观点,不代表本平台的任何立场,不构成任何投资建议。

版权声明:未经许可,任何个人或机构不得进行任何形式的修改或将其用于商业用途。转载、引用、翻译、二次创作(包括但不限于以影音等其他形式展现作品内容)或以任何商业目的进行使用的,必须取得我司许可并注明作品来源为私募排排网,同时载明内容域名出处。

 

热门概念股

上一篇:储存芯片分支HBM爆发!29只HBM核心概念股曝光!

下一篇:北证50指数“狂飙”,首批北交所主题基金迎来解禁!

  本页面所涉私募基金内容仅对合格投资者展示!因擅自转载、引用等行为导致非合格投资者获取本文信息的,由转载方自行承担法律责任和可能产生的一切风险。

  本页内容不构成任何投资建议,相关数据及信息来自基金管理人、托管估值机构、外部数据库,并可能援引内外部榜单、其他专业人士/或机构撰写制作的相关研究成果或观点,我司对所载资料的真实性、准确性、时效性及完整性不作任何实质性判断,对所涉产品/机构/人员不作任何明示或暗示的预测、保证,亦不承担任何形式的责任。

  版权声明:未经许可,任何个人或机构不得进行任何形式的修改或将其用于商业用途。转载、引用、翻译、二次创作(包括但不限于以影音等其他形式展现作品内容)或以任何商业目的进行使用的,必须取得作者许可并注明作品来源为私募排排网,同时载明内容域名出处

免费认证VIP
免费认证VIP

热门资讯

全部

私募排排网

基金导购
400-666-7388
专业
依托强大基金数据库 排名更真实
安全
自主团队研发 银行级加密算法
省心
海量基金 一键在线选购
便捷
查基金/看资讯 尽在私募排排网APP
下载私募排排网APP
超值新人福利等你来拿

尽调报告

FOF定制专享
全部
深圳市梦工场投资_排排网尽调报告

尽调日期:2025-06-13

量客私募_排排网尽调报告

尽调日期:2025-06-10

赢仕投资_排排网尽调报告

尽调日期:2025-06-06

深圳善择私募_排排网尽调报告

尽调日期:2025-06-05

龙帆资产_排排网尽调报告

尽调日期:2025-05-31

#

热门标签

全部
年度之星
热搜产品
热搜公司
热搜经理

热门路演

全部
海量基金

一站式服务平台

查排行、买基金,多品类齐全

持牌机构

正规持牌服务机构

合规持牌经营、投资省心又安全

海量基金

科技赋能,智能投资

利用大数据和AI技术,为您提供更智能的投资体验

资深投资

专业服务团队

全程陪伴,为您提供个性化服务

私募排排网
排排服务热线

400-666-7388(基金销售)

400-680-3928(集团综合)

意见反馈

关注私募排排网

微信微博
在售产品
私募基金公募基金资管计划FOF基金
功能及服务
私募基金排行公募基金排行私募公司大全私募经理大全私募路演直播私募基金资讯投资者教育
关于我们
关于排排网排排网招聘服务协议隐私政策免责声明从业人员公示
帮助中心
制度及业务规则法律法规业务表单下载
联系合作

产品引入:moneyhome@ppwfund.com

路演合作:186-8067-2257(姚女士)

ly@ppwfund.com

媒体合作:177-2283-9695(张先生)

宣传合作:186-8067-2257(姚女士)

联系地址:

深圳市福田区沙嘴路尚美红树湾1号

A座写字楼16楼1601-1605

基金销售服务由深圳市前海排排网基金销售有限责任公司提供  基金销售资格:深证局许可字[2016]21号  查看资质证书

网站地图|标签列表

版权所有©深圳市前海排排网基金销售有限责任公司粤ICP备20057963号粤公网安备粤公网安备 44030402003940号工商网监工商网监

温馨提示:业绩区间类型中可能包含较短业绩周期,敬请同时关注产品长期表现,树立价值投资、长期投资、理性投资理念。 基金的过往业绩不预示其未来表现,基金管理人管理的其他基金的业绩并不构成基金业绩表现的保证,本平台未以明示、暗示或其他任何方式承诺或预测产品未来收益。本平台的任何信息和数据仅作为参考,不构成任何投资建议。投资有风险,选择需谨慎。 投资者应谨慎注意各项风险,认真阅读基金合同、基金产品资料概要等销售文件,充分认识产品的风险收益特征,并根据自身投资目的、投资期限、投资经验、资产状况等因素充分考虑自身的风险承受能力,在了解产品情况及销售适当性意见的基础上,理性判断并审慎作出投资决策。基金投资实行“买者自负”原则,投资者自行负担基金运营状况与基金净值变化引致的投资风险。我司承诺并保证对代销产品做好投资者适当性管理及投资者销售服务工作。 我司代理销售的基金产品均由基金管理人管理,数据来源包括但不限于基金管理人、基金托管人、聚源数据等,我司对相关信息及数据仅进行客观披露/展示,虽力求所载内容准确可靠,但无法对其真实性、准确性、完整性作出实质性判断和保证,投资者须以中国证监会资本市场电子化信息披露平台、基金管理人官方网站及其委托的基金估值核算机构发布的信息及数据为准,并且在做好充分的研究后,以自身研究结果为依据,审慎独立地作出投资决策。

严选私募 公募基金 资管计划 FOF基金
私募排行 公募排行 公司大全 经理大全
投资者教育 金融词典 投资者问答 投教专区
首页
在售基金
直聊私募
排行
FOF定制尊享
尽调报告独家
路演
资讯量化
投资者教育
排排好基汇
高阶分析金V专享
排排现金宝
我的
VIP特权待申请
我的自选
我的资产
自建净值库新
关于排排网