作者driftcreator (猫爹)
看板AC_In
标题Re: [洽特] RisuAI的简易上手指南
时间Sun Jan 12 18:53:18 2025
2. Q&A知识集 (泛用於当前多数AI对话平台)
更新於2025/02/04
Q1: 面对AI失忆问题该如何解决
技术层面上有两项不同的情况，都会导致使用者感受到"AI失忆"
1. AI无法读取超过上下文的内容
a. 除非上下文太小、聊两句就塞爆，不然RisuAI新的Hypamemory V3可以缓解该问题
b. 将重要、必须被AI长期记住的关键事项，手动写进作者备注栏位或编辑Lorebook
2. AI模型的性能不足
角色忽然忘记自己上个回应里在干什麽，或是短时间的叙事出现矛盾，则属於该状况
a. 重新生成。看新的生成能不能抓到你要的东西，瑕疵比较少的手动修改得过且过
b. 透过OOC指令或是Cot选项去强迫模型划重点。但重点划错的话会适得其反
(目前市面上的Cot系模型就是这样设计的，让小模型先划重点再输出)
c. 换模型。如Gemini Pro的性能比Gemini flash强，或直上其他两家旗舰型号
d. 全程使用英文对话。AI模型对於英文的理解与划重点能力，比其他语言高上一截
Q2: 不喜欢目前使用模型的回应风格
1. 改preset。不同的prompts可以对叙事风格有相当程度的影响
2. 改模型的参数。可有限的调整创造力跟改善跳针频率
3. 换模型。模型决定了写作或应对中文的上限到哪
4. Fine-tune适合的模型
Q3: 输出tokens给AI模型时的结构
大多数AI平台的输出tokens结构长这样
|----------------------上下文上限-----------------------|
[卡片+preset+作者备注+lorebooks+记忆] + [近---------剩余的对话纪录---------远]
前半段除了作者备注外都是固定值。再怎麽资源吃紧，理想上最少要让AI抓到近期5组对话
剩下溢出的对话以RisuAI Hypa V3来说，预设是占上下文20%空间、每四段对话总结一次
结构有掌控好的话，其实会发现使用者感受到的不适，多半还是源於AI模型的性能不足
Q4: 需要缩减tokens耗量的情境
1. 全程使用英文对话
英文是tokens耗量最低、AI理解力最强的语言。以下是套中文皮去使用的技巧
a. 比起使用RisuAI内建翻译，使用网页版+沉浸式翻译套件会比较好对照，抓翻译bug
b. 直接输入英文，或透过LLM将中文转换成英文。(4.preset + mod 里有相关功能)
c. 若卡片有附加状态栏，则可直接把状态结构修改成中文，可避免外挂翻译後变形
2. 缩减相关tokens的参数使用
a. 缩上下文空间，控制单次输出的tokens上限
b. 砍掉AI模型已知、不需要特别撰写的卡片叙述或lorebook。(常识、知名角色等)
c. 缩卡片叙述。单角色的纯V2卡只要懂得精炼格式，大小可以控制在0.5~1k
d. 如果卡片带数据追踪语法，但条件式写的太臭太长，改写或砍掉
e. 缩preset，只保留必要功能
f. 降输出、手动缩减AI的回应长度。AI短输出习惯养成後，可以增加对话记忆组数
g. Regex变换不吃AI算力，所以回应附图功能跟装饰栏吃掉的tokens其实不多
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 184.65.128.80 (加拿大)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AC_In/M.1736679206.A.F19.html
1F：推 uohZemllac: 推 01/12 19:54
2F：推 pythonbetter: 推 01/12 23:02
3F：推 clovewind: 好强==话说失忆的问题有没有方法解决，已经勾supa了 01/12 23:13
4F：→ cha122977: 没想到会在这版看到AI机器人 这只是会聊色吗 01/13 01:51
5F：推 cm745633: 太棒了！谢谢分享 01/13 04:35
6F：推 clovewind: 了解，那作者备注有上限吗？ 01/13 10:48
7F：推 chirex: 有神紧拜 01/13 11:19
8F：推 clovewind: 感觉玩久了会像恋活一样自己跳下去做mod 01/13 21:19
9F：→ clovewind: 玩了一下1206 确实没其他语言 但一直跳error code500 01/13 21:20
10F：推 kuadrien: 推，感谢分享！ 01/14 20:29
本文更新於2025/02/04
※ 编辑: driftcreator (184.65.128.80 加拿大), 02/04/2025 19:48:00