加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

芯片产业新赛点:端侧AI与生态破局

(2024-12-18 09:35:49)
标签:

产业

点评

新闻

微信公众号搜索“芯谋研究”或“icwise”,阅读更多产业专业分析文章!

应用爆发、终端牵引,是近两年国内芯片产业迈向高质量发展的呼吁与共识。外部复杂环境,消费电子市场疲软,这些都在考验着终端产业的韧性,更深刻影响着上游的芯片行业。

进入2024年,终端市场崭露复苏迹象,根源在于AI技术,尤其是生成式AI在终端应用上开创了新局面。AI手机、AI PC、智能汽车、具身智能、智能家居、智能穿戴等,生成式AI正在为终端市场乃至芯片产业注入新的活力。

中国拥有丰富多样的终端品牌,是全球最大的半导体应用市场。在端侧AI时代下,国内众多芯片企业相继重兵投入,先发优势已然显现。但半导体行业分工细,产业链环节多,如何让半导体产业在AI上的资源“聚沙成塔”,发挥1+1>2的效果?成为目前事关端侧AI产业高质量发展和企业商业化前景的重中之重。

日前,芯谋研究出席了由安谋科技主办的端侧AI生态研讨会,期间众多先锋企业高管和资深技术专家云集,覆盖了芯片、OEM/ODM、大模型、AI解决方案等国内AI产业全链路,现场深入探讨产业技术趋势与落地案例,或许为上述设问提供了新的解题思路。

一、终端AI时代已开启,Arm架构正持续引领

算法、数据和算力是驱动AI技术发展的三驾马车。2007年之前,AI技术处于起步阶段,受限于算法和数据量,对芯片算力的需求并不迫切,通用CPU芯片尚且可满足需求。而后的十几年,随着互联网的普及,数据量喷涌,算法百家争鸣,代表算力的芯片产业,也随之演进,从GPU到专用AI芯片,再到当下的多元异构计算方案。

2023年以来,生成式AI引爆行业,开启了AI在应用上的新篇,也为AI在终端上的全面渗透带来机遇。未来十年,大模型将牵引AI,从数字世界走向物理世界,在手机、PC、智能汽车、机器人等智能终端落地,全面开启大模型的端侧AI时代。据Counterpoint预测,生成式AI手机渗透率有望从2023年的不到1%增长至2027年的43%。其次是AI PC,Canalys预测2024年AI PC渗透率约19%,到2027年渗透率将超60%。穿戴设备、医药、高端制造等行业也开始积极采用AI技术。

算法更多样、迭代更快速,然而在生产部署上大模型还面临着模型压缩、修正与对齐的挑战,这是算法与场景结合上的典型表现。本次研讨会现场,据智源人工智能研究院副院长兼总工程师林咏华分享,大模型领域已经呈现明显的两极分化,数百亿级以上的强大稠密模型,或10B以下的小模型更受欢迎。即模型要么更强更大,要么更小更精。越来越多的小模型被发布和下载,10B以下的小模型成为现在整个开源社区下载量的主力。

端侧AI的一大亮点是本地计算,数据避免了上传云端,降低了通信带宽,但对隐私保护和低延迟要求更高。这意味着在作为计算底层支持的芯片,在架构上要更快速、灵活地适配各种AI模型,应对带宽、存储的新挑战,同时还要满足终端产品低功耗、安全性、轻量化的市场要求。

在芯片架构上,Arm架构由于高性能、低功耗的特性,被终端芯片厂商广泛认可,超过99%的智能手机建立在Arm架构基础上。即便是在PC领域,近年来Arm架构也凭借生态企业闯出一片天地,高通与微软合作使Windows系统开始支持高通开发的Arm架构处理器,基于Arm架构的PC市占率连年攀升。

……

(关注微信公众号“芯谋研究”或“icwise”,阅读全文)

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有