AI PC/AI Phone都属於on-device题材 详情翻阅之前文章 那这玩意跟之前安装老黄的GPU笔电有啥不同 我个人认知重点在inferece省电这块 如果有尝试拿笔电有NV显卡跑AI玩意 就会发现那东西是吃电怪兽 自己亲身经验跑一个CV inference算法 全开CUDA 拔掉插座後 笔电瞬间关机 因为该算法会强制让笔电跑200~250w这功率 这玩意是电池无法承受 就算能承受 一个小时就没电 而NPU on-device 则是透过底层硬体特殊设计 搭配API和AI算法 然後在inference时 你可以透过c语言去使用不同特殊api 比方说做矩阵乘法 你可以用c函式库 或者 用硬体ic公司底层api去实现 後者就是省电 速度又快 比前者有时差异可到10倍省电 而台湾最适合做on-device AI 因为这玩意需要懂硬体(ic设计)和软体和AI算法设计 (压缩AI模型) 在inferece这块 非常吃对C语言了解 以及如何魔改AI算法 比方说原本AI算法要用ReLu6 但你硬体加速只支援ReLu 那你就稍微去魔改一些参数 重新optmize structure 然後deploy在省电NPU 所以你如果电脑是插电桌机 那老黄一个GPU就解决所有问题 因为从功能上来说NPU不能取代老黄GPU电脑 但如果是携带型设备像是手机 AR眼镜(参照GPT4o/Google I/O 人工智慧助手愿境) 笔电 那on-device的题材就在这 一个省电的移动性AI设备 通常瞄准落地场景就是多模态AI助手 所以on-device题材就是省电和压缩模型 或者模型特制化小於一定参数(手机分水岭是3B) ARM+NPU的AI-PC远景很美好 一但牵涉到软体部分就很复杂 ARM的PC目前挑战就是很多软体不支援 也没有optmize到省电极致 不像果家软硬整合就做很好 但AI Phone就不一样 没像AI Window PC各种驱动程式问题 高通+狗家on-device模型就是领跑者 但脸家LLaMA第三方C开发社群 也做出许多on-device生态群 而在on-device省电玩家有果家高通联发科和软体切过来的狗家和软软 目前高通疑似 有在默默建立on-device软体生态圈 联发科最近也在HuggingFace刷自家模型了 -- on-device有点大乱战 个人买股就是高通+QLD(赌狗家软家和果.....家 QQ) ※ 引述《kurapica1028 (kurapica1028)》之铭言： : 原文标题： : 黄仁勳开口加持！AI PC是什麽？跟传统PC有何不同？AI PC概念股、市场展望一次看 : 原文连结： : https://s.yam.com/mNM4P : 发布时间： : 2024.05.27 14:47 : 记者署名： : 工商时报 数位编辑 : 原文内容： : 台北国际电脑展（COMPUTEX）即将在6/4登场，辉达执行长黄仁勳近日提前来台，台股AI : 概念股再掀起狂欢，其中AI PC也强势表态。事实上，黄仁勳上次来台，就曾以一句「我 : 预期五年之内所有人的电脑里都会有AI。」，预言AI PC将是未来主流。到底AI PC是什麽 : ？台湾有什麽厂商可关注、AI PC的未来展望为何？工商财经网为读者一次整理。 : 一、AI PC能做什麽？跟传统PC有什麽差别？ : 近日不仅微软在Build 2024开发者大会上展示了新的Surface笔电和Surface Pro，国内大 : 厂华硕与宏碁亦在21日释出Vivobook S 15和Swift 14 AI两个AI PC产品，让「AI PC」的 : 讨论度再度飙升。 : 随着生成式人工智慧（AI）和大语言模型（LLM）的飞跃发展，作为AI直接触及终端用户 : 的重要媒介-边缘装置，成为AI技术发展的关键突破口。其中，AI PC无疑是最值得关注， : 将AI模型与传统PC紧密结合，为PC产业带来全新的硬体架构设计、内容生态等全面的革新 : 。AI PC一方面为用户提供更加个性化的创作、助理，大幅提升内容创作及消费体验；另 : 一方面，透过本地的AI运算能力，保护用户的隐私和数据安全。 : 在硬体架构上，AI PC采用「CPU+GPU+NPU」的异构设计，其中NPU（神经网络处理器）为 : 关键。NPU可为低强度的AI任务，如照片、音乐和影片处理等，提供卓越的效能表现，并 : 缩短回馈时间、延长续航力。而CPU和GPU则用於更加复杂的AI任务，协同NPU发挥强大的 : 算力。 : NPU在神经网路运算中以较低的功耗完成运算，并能帮助内建CPU、GPU更好地发挥完整效 : 能，而微软对於下一代AI PC内NPU的最低运算要求是40 TOPS（每秒兆次运算），为满足 : 高算力AI应用的需求，AI PC的记忆体容量和速度也将大幅提升，未来16GB甚至32GB的记 : 忆体空间将成为标配。 : 在近期的相关产品方面，华硕21日端出采高通最新Snapdragon X系列处理器、及搭载微软 : 最新Win 11升级更新版作业系统，AI算力达45 TOPs（每秒兆次操作）的AI PC新品 : Vivobook S 15。微软在开发者大会上发表的新一代Surface Laptop笔电及Surface Pro变 : 形平板亦内建安谋架构的高通晶片，能在不连接网路的情况下直接在本机执行AI运算。 : 二、AI PC市场有多大？ : 伴随着新一代AI晶片的问世，业界乐观看待今年将成为AI PC元年。研调机构预估，随着 : 逐步推广，搭载的大模型AI晶片市场空间巨大；当AI PC渗透率达到30％时，相关AI晶片 : 市场规模将超过340亿美元；当渗透率达到60％时，市场规模将突破670亿美元。 : 市场规模的增长，除了受益於渗透率的提升外，还有赖於AI晶片从高端向主流的持续铺开 : 。AI PC的出现，标志着传统PC正在经历新的颠覆。通过AI模型，AI PC不仅能大幅提升内 : 容创作和消费的体验，还可以为用户提供个性化的智慧助理服务，进一步开启个人生活和 : 工作的新纪元。 : 资策会预估，今年全球PC出货总量将至2.46亿台以上，其中AI PC可达3,864.8万台。未来 : 三年间，AI PC将进入高速成长期，至2026年突破1.32亿台、2027年时更将挑战1.8亿台， : 渗透率亦从近五成拉升至达66％，成为市场主流产品。 : 摩根士丹利证券半导体产业分析师詹家鸿则指出，大摩全球PC硬体团队预期，AI PC的渗 : 透率自2025年将会急速拉升，Windows on Arm（WoA）架构的PC因耗电较低，会是整个AI : PC发展的关键成长引擎，估计渗透率从2024年的8％跳升至2025、2026年的30％与50％。 : 国内业者义隆电则表示，第二季NB持续有短单挹注，AI PC备货订单逐步放量。尽管公司 : 预期今年笔电出货量介於低至中个位数增长、AI PC渗透率预估约5％～10％。 : 三、AI PC元年来了 台厂供应链有哪些？ : 随着进入AI PC元年，英特尔宣布要在2025年前，上市1亿台搭载英特尔AI处理器的AI : PC/NB，带动新一波换机潮。专家认为，台厂供应链是世界上最完整的AI PC生产链，在英 : 特尔的1亿台AI PC目标下有望迎来大商机，当中包括宏碁、华硕、仁宝、英业达、蓝天、 : 技嘉、纬创、广达、精英、和硕等。其中宏碁与华硕更是在微软举行的新品发表会中被微 : 软执行长纳德拉（Satya Nadella）点名为设备合作夥伴。 : 亦有业者指出，台系ODM厂、晶片、传输介面及关键零组件等业者可望受惠，如瑞昱、联 : 发科、新唐、联阳、友达及台积电等大厂皆可大啖AI PC商机。联发科的次世代AI晶片天 : 玑9400将於下半年问世，在COMPUTEX 2024（台北国际电脑展）上也将携手辉达推出AI新 : 品Arm架构PC晶片，与高通X系列晶片一较长短，挑战PC产业X86处理器独大的市场现状。 : 而半导体上游可以关注日月光、茂达、义隆等台厂，群联与威刚则有望分食AI PC的SSD大 : 饼。 : 心得/评论： : 市场普遍看好，AI PC下半年倾巢而出 : 包含半导体上游台积电、日月光、联发科、茂达、 : 义隆及钛太；品牌厂宏碁、华硕； : 代工厂和硕、广达、纬创、英业达、仁宝等可望受惠。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 24.4.211.194 (美国) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1716877170.A.604.html ※ 编辑: LDPC (24.4.211.194 美国), 05/28/2024 14:54:43