低价挑战 NVIDIA！晶片大神 Jim Keller 曝设计关键是「舍弃 HBM」 https://tinyurl.com/23cvjvhj 传奇晶片设计师 Jim Keller 打算设计比 NVIDIA 更高效的晶片，以降低 AI 应用价格并 抢占市占率。 Jim Keller 目前任 AI 晶片新创 Tenstorrent 执行长，认为很多市场 NVIDIA 都没服务 到，随着 AI 应用扩展到智慧手机、电动车和云端服务，越来越多公司寻求更便宜的解决 方案，很多小公司不愿为 NVIDIA 高阶 GPU 支付 2 万美元。 Jim Keller 在晶片设计界享有盛誉，也是 AMD Zen 系列的首席设计师，许多人认为他帮 助 AMD 东山再起、奋力追上英特尔。他也是开发特斯拉自驾软体 Autopilot 晶片组的重 要人物。 日本人工智慧独角兽公司 Preferred Networks 运算架构部门副总裁兼技术长 Junichiro Makino 形容「Jim Keller 简直就是传奇」。 设计 AI 晶片时，选择舍弃关键的 HBM Tenstorrent 成立於 2016 年，准备年底推出第二代多用途 AI 晶片，称某些领域比 NVIDIA AI GPU 更高能效和处理效率。Galaxy 系统比 NVIDIA DGX 效率高三倍，价格更 便宜 33%。 Keller 之所以能做到这点，是因 Tenstorrent 没用高频宽记忆体（HBM）。「即使有用 HBM 的人，也为成本及构建 HBM 所需设计时间挣扎，决定不用此技术。」 HBM 是生成式 AI 晶片的重要零件，对 NVIDIA 产品成功有重要作用，然也是 AI 晶片能 耗巨大、价格高昂的罪魁祸首之一。 典型人工智慧晶片组，GPU 每次执行进程时向记忆体发送数据，需 HBM 高速数据传输能 力。Tenstorrent 设计自己的晶片，大幅减少传输。Keller 指有了新方法， Tenstorrent 晶片可在 AI 开发某些领域取代 GPU 和 HBM。 Tenstorrent 也设计产品以尽可能实现成本效益，许多公司也在追求更适合的记忆体解决 方案，但 Keller 也坦承，要颠覆庞大 HBM 产业，还需数年时间。他预期与其一间公司 取代 NVIDIA，不如出现更多新公司，填补美国公司未涉足的各种人工智慧市场。 Tentorrent 晶片特点是百余个核心，每核心都有小型 CPU，即「大脑中的微型大脑」。 通常情况单晶片核心只有一个小型电脑和记忆体，只负责解决一个任务，但 Tenstorrent 核心能独立「思考」，决定先处理哪些数据，或放弃不重要任务，提高整 体效率。 Tentorrent 指每个核心都相对独立，可将更多或更少核心堆叠起来，应用更广泛。智慧 手机或穿戴设备只需少量晶片，AI 资料中心可将 100 个晶片组合，用途更灵活。 Keller 说还无法预测 AI 最佳应用是什麽，因此公司策略是打造出适合各种产品的技术 。 U.S. chip designer aims to bring down AI prices pushed up by Nvidia -- 推 pb220918:不爽可以当禽兽 五楼是禽兽!! 10/04 22:12 → pb220918:盖 10/04 22:12 → pb220918:盖 10/04 22:12 → pb220918:盖 10/04 22:12 → Davisss:我是禽兽 我真爽 我在骑1楼 10/04 22:13 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 180.177.0.241 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1721132748.A.CC5.html