作者TureCooler (这三洨)
看板Stock
标题[新闻] 微软更新DirectML支援NPU,以加速Windows
时间Wed Dec 20 13:05:33 2023
原文标题:
微软更新DirectML支援NPU,以加速Windows AI应用
原文连结:
https://www.ithome.com.tw/news/160365
发布时间:
2023-12-18
记者署名:
李建兴
原文内容:
微软预告明年将更新DirectML开始支援神经处理单元(NPU)。NPU是一种专为机器学习工作负载设计的处理单元,适合用於计算密集、不需要图型介面互动的工作负载,目前英特尔新款Core Ultra处理器晶片已经内建NPU,而这也会是第一个可在Windows上使用DirectML技术的NPU。
DirectML是一个低阶且硬体抽象化的API,能够直接存取GPU等各类加速器,执行机器学习计算。其属於DirectX家族,DirectX主要用於Windows平台上的图形与游戏开发,而DirectML则专注於机器学习工作负载。DirectML也能够和其他机器学习框架和工具整合,像是跨平台推理引擎ONNX Runtime和Windows机器学习模型最佳化工具Olive。
Core Ultra的NPU加速器直接整合到SoC,能够以相对较低的功耗执行人工智慧运算,释放CPU和GPU运算资源。NPU获得DirectML支援便能够加入ONNX生态系,使用诸如ONNX Model Zoo的模型、英特尔Neural Compressor与ONNX Runtime等工具。
DirectML新增对NPU的支援,让开发者透过ONNX Runtime等API,将人工智慧模型转移到英特尔的NPU上执行,提供在Windows上执行人工智慧工作负载另一种选择。支援NPU的DirectML预计在2024年初,与最新的ONNX Runtime版本一起释出。
心得/评论:
windows 12 + NPU 明年微软要怎麽输,最近是不是有个很红的NPU概念股话题,新一代换机潮要出现了吗?
※必需填写满30正体中文字,无意义者板规处分
-----
Sent from JPTT on my Sony J9110.
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 27.242.32.37 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1703048738.A.70A.html
1F:推 jenchieh5 : aipc... 12/20 13:06
2F:→ Gipmydanger : aipc 12/20 13:14
3F:推 BBBroflovski: 没有杀手级的应用很难有换机潮吧 大部分人不都是打 12/20 13:20
4F:→ BBBroflovski: 游戏做文书 12/20 13:20
5F:→ Gipmydanger : 自制色图 12/20 13:29
6F:推 w9103 : 打游戏用家机手机,电脑文书多 12/20 13:33
7F:→ yukari8 : 所以那个有没有NPU速度差多少的测试有出来了吗 找到 12/20 13:39
8F:推 bala045 : 有NPU会算的比4090快吗..? 12/20 13:39
9F:→ yukari8 : 的测试还是聚焦在游戏或其他性能 推论到底差多少... 12/20 13:40
10F:推 GiPaPa : 要跑地端模型为何不用cuda要用这个垃圾 12/20 13:46
11F:推 kagemusha : 想当初glide也觉得direct3d是垃圾 12/20 13:50
12F:→ zo6596001 : 手机都用openGL跟Vulken ,directX 用途不够广泛。 12/20 14:32
13F:推 wei9898 : AiPC来了 12/20 14:49
14F:→ Alwen : AIPC到底可以干嘛,吹有一段时间惹,但我还是没想 12/20 15:17
15F:→ Alwen : 到用途 12/20 15:17
16F:推 jei01 : Wintel 又要重出江湖了 12/20 15:41
17F:→ yukari8 : 就看速度或效能有没有比较好 没有的话目前其实用显 12/20 15:51
18F:→ yukari8 : 卡跑也一样 所以我才想找实测的资料长怎样 12/20 15:52
19F:推 baijee : 出一个APP没有NPU不能用就好了 需求是创造出来的 12/20 15:52
20F:→ Alwen : 现在手机就符合条件惹,桌机也干不赢显卡 12/20 16:06
21F:→ Alwen : 商人没东西可以卖惹484,他们吹的那些也没有到杀手 12/20 16:07
22F:→ Alwen : 级应用 12/20 16:07
23F:推 mopa : 终端AI的未来在手机,不在PC,PC不是每个人有覆盖率 12/20 16:49
24F:→ mopa : 太低。 12/20 16:49
25F:→ chrischiu : 不要最後又是拿来玩game 12/20 17:13
26F:→ mysticz : 当然要拿来玩game啊,AI NPC耶 12/21 08:05
27F:推 alphish : AI搭配VR女友 人类就要毁灭惹 12/21 13:09