作者kukulza (庫庫拉)
看板AI_Art
標題[問題]想請問chatgpt 是否有離線部署版
時間Sat May 4 14:17:57 2024
如題，請問各位，像是文生圖、圖生圖有stable diffusion可以離線自行操作使用
卻好像沒有看過chatgpt的開源軟件有類似Stable diffusion開放離線使用
是否chatgpt 只有線上版的呢?謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.9.53.161 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/AI_Art/M.1714803479.A.A9C.html
1F：→ Supasizeit: 你有三張4090嗎 05/04 14:24
2F：→ kukulza: 意思是stable diffusion對硬體的要求較小 05/04 14:34
3F：推 Supasizeit: GPT 沒有開源 你可以跑Llama7b 05/04 15:20
4F：→ kukulza: 謝謝，那我請問一下，跑模型的開源軟體有比較推薦的嗎 05/04 16:00
5F：→ kukulza: 聽說Text Generation WebUI很像SD，還是有其他更好的 05/04 16:01
6F：推 denny41606: 就Llama7b 05/04 17:04
7F：→ kukulza: Mistral-7B如何? 05/04 17:11
8F：推 Supasizeit: 舊了 05/04 19:47
9F：推 avans: SD可以離線使用是因為他本來就是開源的，GPT就好像Dall-E或 05/04 22:09
10F：→ avans: Midjourney一樣是閉源的模型，沒有人有辦法將之離線使用， 05/04 22:09
11F：→ avans: 相對的LLM可離線使用的開源模型如雨後春筍般不斷產出，個人 05/04 22:10
12F：→ avans: 推薦Llama3 8B，這個普通人電腦就跑得動了 05/04 22:10
13F：推 marklai: 可以參考樓上avans 大寫的那篇Llama3 文章，我覺得huggi 05/05 14:52
14F：→ marklai: ng face的線上版70b就很不錯了 05/05 14:52
15F：→ kukulza: 謝謝各位大大，不知道Llama3 8B有沒有支援中文 05/05 20:43
16F：→ kukulza: 看到有支援中文了 05/05 20:44
17F：推 sachialanlus: windows 用 llm studio 滿適合入門的 05/05 23:57
18F：→ sachialanlus: 能跑 chatgpt 等級的模型的配備遠比 sd xl 高 不是 05/05 23:59
19F：→ sachialanlus: 差幾倍而已 05/05 23:59
20F：→ kukulza: 我有查到一款JAN.AI是剛出來的，不知道好不好 05/06 00:12
21F：推 Supasizeit: Chatbot 你可以忍受一句話跑30秒嗎 05/06 16:59
22F：→ kukulza: 再請教一下，最近有使用TEXT GENERATION，覺得還蠻好用的 05/07 23:10
23F：→ kukulza: 但我發現再用角色卡對話的時候，明明是有圖片的，它卻顯 05/07 23:11
24F：→ kukulza: 示不出來，同樣的用TavernAI角色就能夠對話出順利生成圖 05/07 23:12
25F：→ kukulza: 片給我，是因為Text generation本身無法生成圖片嗎? 05/07 23:12
26F：→ cannedtuna: 查 ollama 只是跟gpt比起來真的很蠢 又跑很慢不如用3 05/08 01:21
27F：→ cannedtuna: .5 05/08 01:21