作者ivon852 (内容农场杀手)
看板iOS
标题[讨论] 压榨M2 iPad效能：跑AI绘图 Draw Things
时间Thu Oct 3 22:09:26 2024
iPad都用上M系列晶片了，可惜软体方面仍被系统大大限制住，要怎麽发挥处理器的效能
呢，就来试试看跑AI相关的玩意吧。
在Apple Intelligence上市之前，已经有开发者推出一些本机AI方案了，像LLM Farm能在
iPad跑语言模型。CPU硬算的情况下跑3B的小模型其实速度还满快的。
https://i.imgur.com/zYwvW8D.jpg
至於Draw Things就是跑AI绘图了，背後使用Stable Diffusion，可以生成...兔子！
https://i.imgur.com/ZRvPHOc.jpg
Draw Things是真正在本机运算的AI生图软体，无关键字审查，想生什麽就生什麽，相容
Civitai网站上的大多数Stable Diffusion模型。
APP功能有：文生图、图生图、局部重绘（换脸）、API伺服器等等。
这个APP大约2022年就上架了，板上也有大大介绍过。让人讶异的是作为半开源的软体，
这个专案仍有在不断更新，作者最近还加入最新ControlNet、FLUX模型的支援。至今都没
有收费，可以说这是macOS和iOS上最棒的Stable Diffusion生图软体了。
下载网址：
https://apps.apple.com/us/app/draw-things-ai-generation/id6444050820
推荐搭载M1晶片以上、RAM 8GB以上（含）的Mac或iPad安装。
iPhone的话可能要15以上，否则只能生低解析度的图片。
首先要在APP设定开启CoreML全部加速器，加快生图速度。
https://i.imgur.com/FrEJr8r.jpg
下载SDXL模型
https://i.imgur.com/cZLSy4f.jpg
然後填入正负提示词，解析度设1024x1024，点选生成，boom，图片就出来了。
如果用过Stable Diffusion WebUI，那麽这个应该会很好上手，网路上的「咒语」教学多
半能在此APP使用。
https://i.imgur.com/SJrOFnU.jpg
我还可以点橡皮擦功能，将画面上的一部分擦去。
https://i.imgur.com/whrwNiS.jpg
然後让AI重新生成一件衣裳出来～ 嗯，当然不一定要生衣服，也可以是其他关键字
https://i.imgur.com/4OkHdes.jpg
iPad Air 6 M2 8GB的效能跑SDXL模型，生成1024x1024解析度的图，大约3分钟内就能生
出来，这速度接近一些电脑低阶Nvidia显示卡的生图速度。
不过感觉目前极限也就到这了，光是SDXL的模型就很容易RAM不足闪退，得清空背景程式
再跑。长时间运算还可能导致iPad过热。
那麽我这台iPad要跑FLUX难度就更高了，可能要16GB RM的iPad Pro才够跑。
除非未来有进一步为行动装置优化的生图模型，否则得花钱投资更高阶iPad防患未然呀。
楼下问要跑AI为什麽不买Mac？抱歉我主力已经有Linux电脑了，iPad只是用来写字的平板
。可是又觉得iPad的M2晶片效能那麽强，不压榨一下很可惜，所以就拿来跑AI绘图。
其实个人跑Draw Things也不是单纯要在iPad生图而已，而是搭配SillyTavern AI聊天软
体使用，作为自架AI运算的一环。
关於SillyTavern的介绍：
https://reurl.cc/qv4qyy
Draw Things提供API Server，能够接受其他电脑传来的生图请求。所以能够一边跟AI
对话，一边生成图片。
https://i.imgur.com/RKhbFXq.jpg
因为老电脑要同时跑二个AI的模型非常吃资源，於是设定分工机制：在电脑跑SillyTavern
和LLaMA语言模型，iPad当作产图机，透过HTTP API Server远端生图。
--
原创梗图系列
https://i.imgur.com/Y10Cw4n.jpg https://i.imgur.com/FqRAWTs.jpg
https://i.imgur.com/Y1pYVqm.png https://i.imgur.com/UKvi40X.png
https://i.imgur.com/55uARuQ.jpg
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 42.77.173.64 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/iOS/M.1727964579.A.164.html
1F：推 jhjhs33504: 不晓得有无咒语生成的语言模型? 不然好容易改坏的样子 10/03 22:27
这很难吧，难道要AI自行分析画面给你改？虽然图生图有参考对象但还是得加一些形容词
2F：→ siegfriedlin: 我想看福利社 10/03 23:06
Civitai把NSFW开启就有了
3F：推 george755185: 可以用加速lora(4 step lcm或 hyperSD)才不会冷掉 10/04 00:18
4F：→ george755185: 它的独门绝技8 bit model. flux用在对话生图很强, 10/04 00:30
5F：→ george755185: 值得一试.只是我M1要生1张2分钟还是偏久 10/04 00:30
值得试试，但我记得LCM品质下降严重的样子？
6F：→ gary8442: iPadAirM2 2024是阉割版的 10/04 00:34
7F：→ gary8442: GPU也被阉掉一颗的残缺版本 10/04 00:35
8F：→ gary8442: 然後iPad Air机型散热能力明显比Pro差 容易过热发烫 10/04 00:36
9F：→ gary8442: 别太操 不然很快就挂了 已经一堆人Air5M1刚过保就死机 10/04 00:37
11F：→ gary8442: Air3 Air4也是一堆过保就坏掉的 板上都有一堆案例 10/04 00:38
是的，要注意散热。
可现阶段的装置哪台跑SD都会热吧？iPdd Air日常使用倒是没有很常遇到过热。
※ 编辑: ivon852 (42.77.173.64 台湾), 10/04/2024 01:31:17
12F：推 KimomiKai: 来玩玩看，感谢分享 10/04 02:35
13F：推 purplvampire: 谢谢分享 10/04 08:50
14F：推 ianferrari: 感谢分享 10/04 13:00
15F：推 Lyeuiechang: 推 10/04 19:04
16F：推 wind18: 相同设定下不知道为啥M4,8G明显比M2,16G算的慢欸 10/04 22:06
17F：推 george755185: 模型能不能全放进ram很影响生图速度.可以开监控看 10/04 22:31