作者leviliang (慕尼黑林志穎)
看板Soft_Job
標題[討論] 優化詠唱的感覺？
時間Sat Apr 15 08:32:44 2023
手機排版請見諒
小弟大約在去年 12 月開始跟風 ChatGPT
從此開始了自己的詠唱之旅
雖然有刻苦地修過 DL
但對于 Prompt 也沒有多高深的認知
目前是把 Prompt Engineering Guide 給嗑了一遍（還沒計畫深入去看論文
了解了一些詠唱的相關小知識
如明確指令、正確範例、規避誤導等等
進階技巧如 Few-Shot、COT、Self-Cobsistency 等也有都去理解
但實際上我沒有真正去優化過自己的詠唱
（官方文件有說，建議去 playground，從簡單的 instruction + example 開始，再慢慢
加入其他的 context、Input Data 或 Output Indicator 以進行優化）
我常常覺得自己隨便詠唱出來的就很夠用了
夠解決一些工作上不熟悉語言的問題
也夠我產出技術文件與 proofread
想請教有大大的使用場景是真的去優化了詠唱嗎？
也想請教這種優化下實際體驗與感想！
P.S. 目前還使用 Telegram Bot 作為私人快速助手（可以產出 code block 格式很愛）
，但不知板上大大們有沒有其他私房推薦平台？也分享一下吧！
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 138.246.3.10 (德國)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1681518766.A.A28.html
※ 編輯: leviliang (138.246.3.10 德國), 04/15/2023 08:35:27
1F：推 art1: 夠用就好了，我比較喜歡模糊地提問，廣度是 ChatGPT 最有價 04/15 08:40
2F：→ art1: 值的地方 XD 04/15 08:40
3F：推 ripple0129: 不用優化了，AutoGPT出了，AI詠唱師要失業了 04/15 20:06
4F：推 jhangyu: AutoGPT目前用的token過多，詠唱代價還太高 04/16 01:33
5F：→ jhangyu: 一次要14美元誰受得了 04/16 01:33
6F：→ NCKUFatPork: 調參數（temperature ），給規則，task break down. 04/16 16:53
7F：→ NCKUFatPork: 多給example 04/16 16:54
8F：→ NCKUFatPork: 但prompt 越多就越容易超過token 上限，規則越多或 04/16 16:56
9F：→ NCKUFatPork: 是降低temperature 倒不如直接brute force 直接把所 04/16 16:56
10F：→ NCKUFatPork: 有規則寫死 04/16 16:56
11F：→ NCKUFatPork: 可以去研究langchain 把task丟到不同model 去 04/16 16:58