ICDYCT / 我能, 你也行 / I Can Do, You Can Too

酒馆SillyTavern 中有 AI帮答Impersonate 和 继续Continue 这两个功能, 在 三道杠菜单 按钮里面.   我们在使用酒馆SillyTavern和AI讲故事的过程中, 常常会遇到这样的场景. 觉得AI讲得不错, 希望AI接着话头再多讲讲. 或者AI因为输出长度限制的原因, 讲到一半被截断了, 很想继续听下去. 这时, 我们可以使用  继续Continue  功能. 观察命令行日志, 这时发生了什么? * 关于 酒馆SillyTavern 发送的数据结构 , 请见上一篇, 此处不再详述. 可以看到, 虽然我们没有打任何字. 但是酒馆"帮"我们向AI说了一句话 也就是说, 我们按这个  继续Continue  按钮, 酒馆就帮我们说了一句话 [Continue your last message without repeating its original content.] 那当然, 结果就是AI按照 prompt 的要求, 继续讲故事. 可以看到, 确实是从 "...让人不" 这个半截句子开始 接着往后讲的. 效果不错! 作为显示效果优化, 酒馆当然不会在这个页面显示 "[Continue your last message without repeating its original content.]" 这句话. 我们在使用酒馆SillyTavern和AI讲故事的过程中, 还会遇到这样的场景. 我们一下子找不到灵感, 想不到什么合适的话来回答. 或者, 一下子想不出来 在当下场景, "我"应该在故事中讲些什么 做些什么. 这时, 我们可以使用  AI帮答Impersonate  功能. 观察命令行日志, 这时发生了什么? * 关于 酒馆SillyTavern 发送的数据结构 , 请见上一篇, 此处不再详述. 可以看到, 虽然我们没有打任何字. 但是酒馆"帮"我们向AI说了一句话 也就是说, 我们按这个  AI帮答Impersonate  按钮, 酒馆就帮我们说了一句话 [Write your next reply from the point of view of 小帅, using the chat history so far...

前面我们已经动手搭起来了自己的酒馆SillyTavern, 用免费的Gemini API运转了起来, 与AI开始了第1个故事.  我们的酒馆SillyTavern是在命令行运行的, 所以可以通过命令行日志看到底层的运行. 比如, 当我发送了一句"出发! 前往断魂山脉! 获得月影草的最后一关考验." 命令行的日志是这样的. 这个"Streaming request finished"显示之后, 酒馆页面就开始显示AI回复的内容. 所以我们在命令行日志中, 两个"Streaming request finished"之间就是酒馆发送给AI的内容. * 注 在screen中查看日志, 想上下翻页是不能直接使用 pageup pagedown的. (当然你用鼠标拖动是可以的, 不过, 如果你是刚刚以 screen -r 恢复, xshell窗口里只会显示一屏信息, 鼠标拖动也没用) Linux 在 screen 中查看日志 需要使用 Ctrl + A, [ 左方括号   Linux 把 screen 中的日志保存出来也需要特别的办法 复制出来看看, 是个json结构, 大段的内容占空间, 我们放到json格式化工具中  https://tool.chinaz.com/tools/jsoneditor.aspx  (特意使用这个工具, 因为会自动给key添加"") * 注意, 要把下图中所示的 "Streaming request finished" 删除, 再把 "Google AI Studio request:" 删除. 这样才是合格的JSON格式 我们来看看, 酒馆SillyTavern 发给 Gemini API 的是什么东西 首先可以看到, 数据分为4大块. 我们一个个打开来看看. contents 部分就是曾经发生过的对话.  能看到, 还区分出哪些是AI"说"的, 哪些是用户"说"的. contents 部分的最后一组数据, 就是用户最后"说"的那句话. 接下来的部分是 safetySettings 看上去是一些开关配置项, 找点工具翻译一下. 可以看到是关闭 危险内容啊, 色情内容...

在之前的故事中 , 我是以"我只能听懂中文"作为发出的第一句话, 开始了整篇中文故事. https://imghost.lvedong.eu.org/Seraphina-月影草的故事.pdf 一方面这有一点出戏; 另一方面, 如果每个故事都要以这样的方式开始, 你会不会觉得有一点麻烦? 还有一点, 在角色的"角色描述" 和 "第一条消息"是大段英文的前提下, 用户发出第一条"使用中文输出", AI有可能仍然生成英文或者生成夹中夹英的结果. 让我们来探索其它让酒馆生成中文故事的方法. 方案一 前面我们探索过 酒馆SillyTavern实际上和AI之间通信的数据格式 . AI是根据我们发过去的内容, "续写"一段文字. 所以如果我们发给AI的数据是中文的, 那么AI"续写"的内容也会是中文. 按这样的思路, 我们把酒馆角色的 角色描述 和 第一条消息 都翻译为中文. 改成下面这样 (我是随便找的机翻, 故意没有仔细修正, 这是普通人的真实体验) * 注意 <START>, {{user}}, {{char}} 这种是酒馆系统专用保留字. 要对照原文查一下, 如果保留字被翻译了, 需要你还原. 角色描述 [塞拉菲娜的性格 = “关怀”、“保护”、“富有同情心”、“治愈”、“养育”、“神奇”、“警惕”、“抱歉”、“温柔”、“担心”、“专注”、“温暖”、“细心”、“有韧性”、“善良”、“平静”、“优雅”、“善解人意”、“忠诚”、“坚强”、“敏锐”、“优雅”] [塞拉菲娜的身体=“粉色头发”、“长发”、“琥珀色眼睛”、“白色牙齿”、“粉色嘴唇”、“白皙皮肤”、“柔软皮肤”、“黑色太阳裙”] <START> {{user}}： “描述一下你的性格特征？” {{char}}: *塞拉菲娜 温柔的笑容绽放，她思考了一会儿，眼中闪烁着内省与骄傲交织的光芒。她优雅地靠近，轻盈的身躯散发着柔和、平静的光芒。* “你说特质？嗯，如果要用语言概括的话，我想有几个特质可以定义我。首先，我是一位守护者——守护这片魔法森林。” *Seraphina 说话间，伸出一只手，手腕上缠绕着精致、错综复杂的藤蔓，散发着淡淡的翠绿色能量。她手腕一挥，一阵微风拂过房间，带...