觉得大家好像都看错重点吧 以前伺服器需要大量记忆体 是因为要维持即时服务非常多人的需求 就像 PTT 可以有十万人一起上站嘛 如果无法做到 就很像是被 DDOS 攻击 网站就连不上惹 但一到深夜 PTT 根本没啥活人在线上惹 然後现在是资料爆量的时代 譬如以抖音来说 甚至可以用 AI 去做人脸的影像分析 人脸影像分析可以在伺服器内部做的 那根本不需要做到即时分析 伺服器有空闲余裕的时候再做就好 所以成本可以降低没错阿 ※ 引述《mooto (退出会比较好, 就退出)》之铭言： : ※ 引述《neone (neone)》之铭言： : : 刚看到半导体产业分析机构semianalysis的这篇新文章: : : https://www.semianalysis.com/p/ai-server-cost-analysis-memory-is : : 虽然没付费只能看到部分 : : bing摘要: : : 这篇文章的核心内容是分析人工智能伺服器的成本。文章指出，随着数据中心建设的疯狂 : : ，市场也随之疯狂。但是，有许多公司并不应该因此而受益。文章还提到，IT预算有限， : : 因此Nvidia销售额的增长主要来自於购买较少的非GPU伺服器。文章中还提供了一个标准 : : CPU伺服器的成本分解，显示内存占伺服器成本的近40%。文章最後指出，在人工智能时代 : : ，普通伺服器的百分比将会下降，并且在数据中心转向加速计算时，各组件的成本分配也 : : 会发生重大变化。 : 老黄今天展示的那柜 Grace Hooper : 就用了144TB GPU Memory 透过NVLink共享 : (NVLink是他们自研的SERDES : 简单来说就是PCIe更快的介面) : 所以重点只是高速 共享 : 记忆体还是存在的 : 还有也不用担心大家嫌贵不买啦 : 老黄今天不就列了1600家要做AI的公司 : 挖不挖得到金矿又不关他的事 : 只要铲子卖得出去就好了 : 这种时候大家都争抢先当第一个啦 : 有机会变成AI界的m$, adobe谁不干 : 在那边省小钱 到时候就看别人鼠钱 : 反正新创花的也不是自己钱 : 烧光当然是再继续吹 : 话说老黄真的值得领那个钱 : 美国人训练不是盖的 : 相比之下今天下午发哥找他来蹭 : 那些高层讲话的台风 投影片的格局 真的差好多喔 -- Q 人类基本需求2.0 ◢◣ █ 自我实现 创意.问题解决.真伪.自发性 S ◢██◣ █ 尊重需求 自尊.自信.成就感 W ◢████◣ █ 社交需求 E ◢██████◣ █ 安全需求 E ◢████████◣ █ 生存需求 空气.水.食物.住所 T ▄▄▄▄▄▄▄▄▄▄▄▄ █ WiFi█ 电池 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.227.216.247 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1685379970.A.A98.html