Soft_Job 板


LINE

※ 引述《alihue (wanda wanda)》之銘言: : 原始文章: https://nee.lv/2021/02/28/How-I-cut-GTA-Online-loading-times-by-70/ : 如何減少 GTA Online 70% 載入時間? : 作者覺得 GTA Online 載入時間機八久,因此想要一探究竟 : 首先作者做 benchmark 發現 : Story mode load time: ~1m 10s : Online mode load time: ~6m flat : 然後看看 cpu usage 同時在這段時間燃燒 : 第一步,作者先做 profiling 可以得知哪一些 function 佔了最多 CPU 資源 : 第二步,用 disassembler 去看程式碼 : 問題1. It’s… strlen?! : 好像會 parse 一個高達 10MB 的 json 檔案,其中包含 63k items : 這些資料是遊戲中的線上商城的 : 問題不是 10MB,而是讀取資料的方式 : https://i.imgur.com/ZHLlEDJ.png
: 讀法是用 sscanf 一次讀一個 char,讀完馬上呼叫 strlen, : 再繼續讀下一個 char.... : 然後當要讀的檔案有 10mb 這麼大就有很重的 overhead 是sscanf的function裡會呼叫strlen,也不是一次讀一個char。 https://opensource.apple.com/source/xnu/xnu-792/libkern/stdio/scanf.c.auto.html 雖然不知微軟如何implement sscanf,不過應該大致相同。 這10mb的json是一個string。迴圈裡的sscanf會讀一個item(key:value)。 所以這個parser裡的strlen的complexity是 strlen(10mb)+strlen(10mb-length(key:value))+strlen(10mb-2*length(key:value)...... 這迴圈會跑63k次。很不幸的一個quadratic time的parser就出現了,因為程式師不知sscanf裡有strlen。 GTA的insert也是quadratic time,但這真的蠢,有code review應該都會抓的到 無論如何,json parser不應該自己寫。 https://github.com/simdjson/simdjson - 最快的parser https://rapidjson.org/ - 實際上快又準確,最多人建議的parser https://github.com/nlohmann/json - 好用也多人建議的parser google 一下,有超多的選擇。 上面任何一個都可以在幾秒(0.幾秒吧)內處理完10mb 63k的json。 而現在優化的GTA還是需要快一分鐘處理!對sscanf is slooooooow。 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.27.86 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1617027914.A.8CD.html
1F:推 alihue: 謝謝補充說明 03/29 22:25
2F:→ nh60211as: 所以這算是自己造輪子失敗的案例嗎 03/29 23:11
對,遊戲業的習慣,喜歡自己造輪子。十幾二十幾年前,因為各種限制,造輪子還有道理,現在還不趁機導入業界好用的lib就是怠惰了。
3F:推 jasonwung: 推 03/29 23:43
4F:推 viper9709: 原來是這樣 03/30 00:00
※ 編輯: oopFoo (59.115.98.214 臺灣), 03/30/2021 10:52:24
5F:推 dreamnook: 03/30 14:14
6F:推 Barchem: 推 03/30 14:44
7F:推 tsairay: 怕找開源的lib商用要付錢吧 03/30 18:13
8F:→ oopFoo: mit/bsd/apache license的libs超多,這幾個json libs都是 03/30 18:36
9F:推 hduek153: 推 03/30 19:43
10F:→ superpandal: 這事情有應不應該? 不過M$就不說了 03/30 19:53
11F:→ superpandal: 不過 XD 03/30 20:07
12F:推 OppOops: 事實上我認為他是用 recursive 的方式去處理 json 03/30 21:48
13F:→ OppOops: 所以才會重複展開 sscanf 03/30 21:49
15F:→ oopFoo: 很早就知道sscanf有strlen的問題。 03/30 23:03
16F:→ oopFoo: 跟重複展開無關 03/30 23:04
17F:推 wangm4a1: 推 04/01 16:09







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Gossiping站內搜尋

TOP