作者ZMTL (Zaious.)
看板AI_Art
标题[LLMs] 那些ChatGPT做应用的坑:
时间Thu Jul 27 15:32:22 2023
最近忙着开发准备要上线的专案很少发情报，但这边踩了几个坑分享给大家一下
1.GPT4 API仍未普及(打开Playground看有没有GPT4 Model可以用就知道)，
建议有觉得自己未来可能用GPT做应用的先去绑信用卡玩个几次，
来被OpenAI把你当成开发者(不是买ChatGPT Plus，Plus跟API完全不同事情)
https://help.openai.com/en/articles/7102672-how-can-i-access-gpt-4
2.GPT API有个帐号限制是120美金/月，
就是不管你再有钱，你预设每个月就只能玩120美金
(然後我们预估我们应用上线後可能10天就会爆掉)，
要提高？写信给OpenAI网页客服然後等漫长的回应(我们等了两周还没受理)
https://share.hsforms.com/1AQvscELNT724FkL2Hp5Lvg4sk30
3.GPT 4 Model API有个每分钟40000 Tokens/200则 的回应限制，法扩充。
(3.5: 90000/3500)
https://platform.openai.com/account/rate-limits
4.GPT API 其实可以Post Request而不用用Python套件，用Python反而要用try/catch自
己判断错误状况，但用Http Post他才会给你错误代码(...)
https://platform.openai.com/docs/guides/error-codes/api-errors
5.系统没有帮你纪录每只Key用掉多少$或多少token，
只会说你帐号总共用了多少钱，
多专案的话请在每个专案送收请求时自己记录用掉的tokens数来核对金额。
用post的话request大概像是底下这样，会包含用了多少token
HTTP status code: 200
Response content: {'id': 'xxx', 'object': 'chat.completion', 'created':
1690350998, 'model': 'gpt-4-0613', 'choices': [{'index': 0, 'message':
{'role': 'assistant', 'content': 'yyy'}, 'finish_reason': 'stop'}], 'usage':
{'prompt_tokens': 565, 'completion_tokens': 254, 'total_tokens': 819}}
[ ]
6.如果要报帐要去API那边填入公司资讯，这样帐单开出来才有公司的抬头。
然後给OpenAI的钱还有20%的境外税要算进去。
-
我继续赶工，欢迎讨论交流或提问XD
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 60.250.61.231 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1690443146.A.DA2.html
1F：推 avans: 推GPT4应用说明，感觉压力测试过不了所以用了许多限制... 07/27 21:36
2F：推 harry18456: 换换看Azure OpenAI? 07/28 06:08
3F：→ ZMTL: Azure那边正在连系中XD 07/28 15:47
5F：→ twinkleAshed: GPT4 API 已经开放给所有付过使用API的用户了. 07/29 22:00
6F：→ twinkleAshed: 不过有个但是, 要使用过至少$1的额度, 不然不会有. 07/29 22:01
7F：→ ZMTL: 对，但不是马上刷马上开 07/31 10:36
8F：→ ZMTL: 新的一批(这个公告後的)要等下一次开放 07/31 10:36
9F：→ ZMTL: 而且试用额度不算 07/31 10:36