Soft_Job 板


LINE

※ 引述《uopsdod (pcman)》之銘言: : https://youtu.be/NRpLW8QIe5o
: 這是個互動式的系列教學影片,每個主題將會分成兩部分: : 1. 第一部分會跟大家呈現實務上遇到的問題,讓大家一起討論並思考可行的解決方案。 : 2. 第二部分會跟大家分享當初我選擇的解決方案,可能不是最佳解,但相信也能促進大 : 家不同面向的思考! : 這次要來探討的架構圖: : https://imgur.com/yxL4w38 : 之前工作上為了處理批次作業,且想要盡量減少server維運成本,而有了這次的架構。 : 但實作之後,發現了一些當初沒有預想到的問題。 : 我還滿珍惜這些實務上的經驗,就是遇到這些意外狀況, : 讓我有機會去思考多種解決方案,這樣的過程都非常有趣。 : 這次想透過這樣的互動形式,讓大家一起討論看看如果是你/妳會建議怎麼解決! 你把 scalable service 跟 unscalable service 混在一起,所以才會煩惱疊了 那麼多東西是不是怪怪的。 一般系統設計上的邏輯是,scalable service 接到 unscalable service 需要用 queue 做緩衝,在 AWS 上面比較常見的是 SQS (MQ 服務與 Kafka 服務依照情況 也可以考慮)。 全部都是 scalable service 就不太會有你提到的問題: S3 -> Lambda -> DynamoDB (w/ auto scaling) 如果最後面一定是 RDS,那麼可以這樣疊: S3 -> SNS -> SQS -> EC2 instances (workers) -> RDS 跑固定數量的 worker 就不怕 RDS 的連線數量被撐爆,反正慢慢消化,原文的推 文裡面好像有人提過了。 (我之前貼在這邊的成本公式是錯的,我深夜邊弄東西邊算把 RAM-GB 的部份多乘 了 60,原文我放到 Web Archive 上的 https://bit.ly/2vQ117p 這邊,錯的部 份我這邊刪掉了) 開發的人只要透過 loop 去吃 SQS 的內容,不需要在 serverless 受限環境裡開 發,還有 swap 可以惡搞讓你可以平行跑更多的 worker。 量很大的時候還可以看情況挑 c5/m5/r5 的機器搭配 auto scaling 機制把 spot instance 與一般機器混在一起用... 補一下我對 Lambda 的想法。現在這個階段用 Lambda 其實不是很划算: * 開發成本因為需要考慮 serverless 的關係偏高,工程師是稀缺資源,爽爽 無腦寫標準的 loop 搭配 systemd 的 Restart 參數其實就可以解決很多問 題。 * 量少的時候,如果你老闆會很在意 $6.768/month 跟 $0.x/month 的差異, 也許要考慮快跑啊... 目前 Lambda 比較合理的情境應該是 CloudFront 上的 Lambda@Edge,這可以在全 世界的 CloudFront 節點上執行,有反應時間上的優勢,其他的目前還沒看到... 總之,我覺得現階段用 Lambda 常常是個損人不利己的決策... -- Resistance is futile. https://blog.gslin.org/ & <[email protected]> --
QR Code



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.116.104.21 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1582226963.A.9D0.html
1F:→ Cavalier: 推, SNS-SQS-Worker 已經算是業界標準了 02/21 06:27
2F:推 x246libra: 好文 02/21 08:01
3F:推 qqkerk: lambda只能當輔助 qq 02/21 08:44
4F:推 uopsdod: 推 分析得好 02/21 09:02
5F:推 bug2: 謝謝分享~~ 02/21 09:27
6F:推 gg142000: 可是lambda不是開發起來比較簡單嗎? 02/21 09:37
7F:→ gg142000: 也不用特別去維護server 02/21 09:37
8F:→ robler: 寫的很好 想多看一些和Lambda的比較 02/21 10:57
※ 編輯: DarkKiller (122.116.104.21 臺灣), 02/21/2020 11:36:15 ※ 編輯: DarkKiller (122.116.104.21 臺灣), 02/21/2020 11:36:47
9F:推 domototice: 謝謝分享,是篇好文!功力太淺的我= =" 只能懂一些些 02/21 11:37
10F:→ NewSpec: 用MQ削峰是常識呀... 02/21 11:51
11F:推 alan3100: dynamodb-stream只能串給lambda也是lambda常見且沒替代 02/21 11:57
12F:→ alan3100: 的應用 02/21 11:57
※ 編輯: DarkKiller (122.116.104.21 臺灣), 02/21/2020 13:06:30
13F:→ slamgundam: 想問..SQS 可以用 IoT Core 取代嗎?這樣會不會撐爆 R 02/21 19:04
14F:→ slamgundam: DS 連線數? 02/21 19:04
15F:推 yuanyu90221: 感謝分享 02/24 01:04







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:BabyMother站內搜尋

TOP