作者ZMTL (Zaious.)
看板AI_Art
標題[LLMs] 那些ChatGPT做應用的坑:
時間Thu Jul 27 15:32:22 2023
最近忙著開發準備要上線的專案很少發情報，但這邊踩了幾個坑分享給大家一下
1.GPT4 API仍未普及(打開Playground看有沒有GPT4 Model可以用就知道)，
建議有覺得自己未來可能用GPT做應用的先去綁信用卡玩個幾次，
來被OpenAI把你當成開發者(不是買ChatGPT Plus，Plus跟API完全不同事情)
https://help.openai.com/en/articles/7102672-how-can-i-access-gpt-4
2.GPT API有個帳號限制是120美金/月，
就是不管你再有錢，你預設每個月就只能玩120美金
(然後我們預估我們應用上線後可能10天就會爆掉)，
要提高？寫信給OpenAI網頁客服然後等漫長的回應(我們等了兩周還沒受理)
https://share.hsforms.com/1AQvscELNT724FkL2Hp5Lvg4sk30
3.GPT 4 Model API有個每分鐘40000 Tokens/200則 的回應限制，法擴充。
(3.5: 90000/3500)
https://platform.openai.com/account/rate-limits
4.GPT API 其實可以Post Request而不用用Python套件，用Python反而要用try/catch自
己判斷錯誤狀況，但用Http Post他才會給你錯誤代碼(...)
https://platform.openai.com/docs/guides/error-codes/api-errors
5.系統沒有幫你紀錄每隻Key用掉多少$或多少token，
只會說你帳號總共用了多少錢，
多專案的話請在每個專案送收請求時自己記錄用掉的tokens數來核對金額。
用post的話request大概像是底下這樣，會包含用了多少token
HTTP status code: 200
Response content: {'id': 'xxx', 'object': 'chat.completion', 'created':
1690350998, 'model': 'gpt-4-0613', 'choices': [{'index': 0, 'message':
{'role': 'assistant', 'content': 'yyy'}, 'finish_reason': 'stop'}], 'usage':
{'prompt_tokens': 565, 'completion_tokens': 254, 'total_tokens': 819}}
[ ]
6.如果要報帳要去API那邊填入公司資訊，這樣帳單開出來才有公司的抬頭。
然後給OpenAI的錢還有20%的境外稅要算進去。
-
我繼續趕工，歡迎討論交流或提問XD
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.250.61.231 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/AI_Art/M.1690443146.A.DA2.html
1F：推 avans: 推GPT4應用說明，感覺壓力測試過不了所以用了許多限制... 07/27 21:36
2F：推 harry18456: 換換看Azure OpenAI? 07/28 06:08
3F：→ ZMTL: Azure那邊正在連繫中XD 07/28 15:47
5F：→ twinkleAshed: GPT4 API 已經開放給所有付過使用API的用戶了. 07/29 22:00
6F：→ twinkleAshed: 不過有個但是, 要使用過至少$1的額度, 不然不會有. 07/29 22:01
7F：→ ZMTL: 對，但不是馬上刷馬上開 07/31 10:36
8F：→ ZMTL: 新的一批(這個公告後的)要等下一次開放 07/31 10:36
9F：→ ZMTL: 而且試用額度不算 07/31 10:36