老黄应该是有机会能继续用黄家刀法 用高阶价钱卖低阶产物给中国 从美国的最大化利益角度来想 美国也会希望老黄卖次级的晶片给中国 这样就某种程度能最大化阻滞中国发展 和弱化中国科技树发展 比方说 中国最近的华为昇腾910B AI晶片号称对标A100 已经卖给百度作为AI开发用途 如果说中国目前上面自制化晶片算力是10 那A100是30 H100是50 那老黄只要卖给中国晶片 效能是12~15 就可以变项阻碍中国发展 逼迫中国依赖使用老黄次级晶片 毕竟成本上开发 以及老黄eco system在大模型发展扮演很重要角色 完全自制耗时又花钱 且还不能随插 即用现在世面上各种开源大模型 但完全断货又会逼的中国自己发展出自己科技树 或找出其他一片天 就像最近韩国Naver买不到老黄H100 愤而跑去买I皇的AI晶片 美国之前禁令是用频宽参数来挡 所以老黄就把A100坪宽汇流600GB/s降到400GB/s 搞了一个A800 但从单颗A800的算力(FP32/FP64 Tensor Core)和A100是等效同级 至於为何要搞用频宽限流是因为 LLM大模型发展是靠多颗GPU算力高速互连算力NVLink 堆积起来(有兴趣可看底下连结) 目前与论共识是1万颗A100是要搞大模型的入场卷 以LLaMA 65B为例 训练需要时间是1022362 GPUxHours 所以如果你只有1颗A100 你需要1022362小时 但是你如果有一万颗你大概就需要~100小时 就能验收结果 而通常AI算法开发需要很多的调整 你每做一次feature开发 最好训练时间是座落在一周 到两周 也就是为何一万颗A100便成为入场卷 而NVLink4是采用100G PAM4 serdes架构 这玩意Marvell Broadcomm 都有在做类似产品 之前他们股价都有受惠 当你把频宽限流搞上去後 那训练开发时间都会加长 看到这里 有没有觉得啊 那A800单颗算力还是很强啊 是的 所以这次禁令 就是采用运算效能来当门槛 还提出性能密度参数(performance density parameter) 就是把性能连chiplet单颗下都考虑进去 然後你我都知道老黄最擅长的就是切效能 然後卖高价 最理想的结局就是中国还是大依赖老黄次级晶片放弃AI晶片发展 最後三天前的GPT4Turbo 已经瞄准取各种服务模式 加上Multimodal大模型这阵子 纷纷出炉 由於Scaling Law所造成的Emergent Ability 都意味者所有大公司都会 继续花钱买算力而中小型公司会去租算力(e.g.,Mistral 7B模型 有在Hugging Face榜单上 就是用前阵子被板上宣称是假公司的CoreWeave 租借算力平台开发的) 然後坐等11/21开奖 最後 有谁有纸箱吗QQ 万一我猜错了 请推荐哪家公园好睡 没郊狼和浣熊为佳 -- NVlink 在2016诞生时 没人想过会成为大模型的一个基础发展重要拼图之一 https://zhuanlan.zhihu.com/p/639228770 A800规格 https://tinyurl.com/2p8nsv4f ※ 引述《qwe22992168 (蛋疼)》之铭言： : 原文标题：辉达传再推中国特供AI晶片 最快「这时」量产 : 原文连结：https://www.ctee.com.tw/news/20231110700081-439901 : 发布时间：2023.11.10 03:00 : 记者署名：工商时报 杨日兴 : 原文内容： : 美国10月中下旬扩大AI晶片输中禁令，辉达等巨头原本为中国市场而降低规格的多款特供 : 产品遭美政府禁止出口中国。新禁令公布不久，传辉达与英特尔将再推出降规版晶片的计 : 画，而辉达已为此打造三款晶片。 : 科创板日报9日引述产业链人士表示，辉达现已为中国市场开发出最新改良的三款晶片 : HGX H20、L20 PCle、L2 PCle。三款晶片从旗舰产品H100改良而来，辉达最快将在本月16 : 日之後公布，中国厂商最快能在近日拿到产品。 : 界面新闻引述网路文件表示，辉达为中国客户专门研发的特供晶片HGX H20、L20 PCle、 : L2 PCle，分别针对云端训练、推理、边缘场景，产品基於辉达Hopper和Ada Lovelace架 : 构。产品送样时间在今年11～12月，量产时间为今年12月～明年1月。 : 从晶片命名逻辑来看，辉达应基於上述不同架构与应用推出多款产品。美国此次扩大的辉 : 达产品限制范围，不但包含基於H100和A100所降规的H800和A800，还扩大禁止L40、L40S : 、RTX4090等产品。 : 消息指出，辉达继续改良晶片并将性能降低至新参数以下，以符合美国法规以供应中国市 : 场，供应链厂商和客户近日还要与辉达继续沟通，年底才会量产。 : 此外，消息人士指出，英特尔为与辉达抗衡、为中国市场打造的Gaudi2晶片，受美新禁令 : 影响，还会再推出调整与改良版本。 : 美国最新晶片禁令来势汹汹，如大幅提前对辉达的禁令生效时间以防范中企囤货应对，对 : 源头的管制标准与参数进行诸多调整，本轮管制措施影响广泛。市场关注，美企为此再次 : 降规的晶片是否还能在中国市场上具有吸引力，且传百度采购华为晶片研究替代方案，新 : 禁令或许再给中国自研晶片替代提供突破口。 : 心得/评论： : 拜登封杀中共AI晶片 符合美国法规才行 : 卖给中共的AI晶片 年底才会量产 : 黄勳仁：可恶 想赚!! 黄仁勳现在台湾逛夜市 : 新闻越多 AI股跌越多 辉达暴涨 AI股暴跌 : AI股早就和辉达脱勾 脱节了 真奇妙 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 67.169.111.72 (美国) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1699689761.A.048.html ※ 编辑: LDPC (67.169.111.72 美国), 11/11/2023 16:07:08 ※ 编辑: LDPC (67.169.111.72 美国), 11/11/2023 16:07:32 中国不会放弃AI发展 但是不优先AI晶片发展可以是个选项 AI开源模型在训练端都是 吃老黄架构 不放弃AI晶片发展 意味者一堆开源模型不能直接套用 只能自己重新做起 这会在AI算法直接落後好几年 这也是当年Google TPU困境 ※ 编辑: LDPC (67.169.111.72 美国), 11/11/2023 16:29:57 ※ 编辑: LDPC (67.169.111.72 美国), 11/11/2023 16:31:00