ICDYCT / 我能, 你也行 / I Can Do, You Can Too

酒馆SillyTavern 中有 AI帮答Impersonate 和 继续Continue 这两个功能, 在 三道杠菜单 按钮里面.   我们在使用酒馆SillyTavern和AI讲故事的过程中, 常常会遇到这样的场景. 觉得AI讲得不错, 希望AI接着话头再多讲讲. 或者AI因为输出长度限制的原因, 讲到一半被截断了, 很想继续听下去. 这时, 我们可以使用  继续Continue  功能. 观察命令行日志, 这时发生了什么? * 关于 酒馆SillyTavern 发送的数据结构 , 请见上一篇, 此处不再详述. 可以看到, 虽然我们没有打任何字. 但是酒馆"帮"我们向AI说了一句话 也就是说, 我们按这个  继续Continue  按钮, 酒馆就帮我们说了一句话 [Continue your last message without repeating its original content.] 那当然, 结果就是AI按照 prompt 的要求, 继续讲故事. 可以看到, 确实是从 "...让人不" 这个半截句子开始 接着往后讲的. 效果不错! 作为显示效果优化, 酒馆当然不会在这个页面显示 "[Continue your last message without repeating its original content.]" 这句话. 我们在使用酒馆SillyTavern和AI讲故事的过程中, 还会遇到这样的场景. 我们一下子找不到灵感, 想不到什么合适的话来回答. 或者, 一下子想不出来 在当下场景, "我"应该在故事中讲些什么 做些什么. 这时, 我们可以使用  AI帮答Impersonate  功能. 观察命令行日志, 这时发生了什么? * 关于 酒馆SillyTavern 发送的数据结构 , 请见上一篇, 此处不再详述. 可以看到, 虽然我们没有打任何字. 但是酒馆"帮"我们向AI说了一句话 也就是说, 我们按这个  AI帮答Impersonate  按钮, 酒馆就帮我们说了一句话 [Write your next reply from the point of view of 小帅, using the chat history so far...

前面我们已经动手搭起来了自己的酒馆SillyTavern, 用免费的Gemini API运转了起来, 与AI开始了第1个故事.  我们的酒馆SillyTavern是在命令行运行的, 所以可以通过命令行日志看到底层的运行. 比如, 当我发送了一句"出发! 前往断魂山脉! 获得月影草的最后一关考验." 命令行的日志是这样的. 这个"Streaming request finished"显示之后, 酒馆页面就开始显示AI回复的内容. 所以我们在命令行日志中, 两个"Streaming request finished"之间就是酒馆发送给AI的内容. * 注 在screen中查看日志, 想上下翻页是不能直接使用 pageup pagedown的. (当然你用鼠标拖动是可以的, 不过, 如果你是刚刚以 screen -r 恢复, xshell窗口里只会显示一屏信息, 鼠标拖动也没用) Linux 在 screen 中查看日志 需要使用 Ctrl + A, [ 左方括号   Linux 把 screen 中的日志保存出来也需要特别的办法 复制出来看看, 是个json结构, 大段的内容占空间, 我们放到json格式化工具中  https://tool.chinaz.com/tools/jsoneditor.aspx  (特意使用这个工具, 因为会自动给key添加"") * 注意, 要把下图中所示的 "Streaming request finished" 删除, 再把 "Google AI Studio request:" 删除. 这样才是合格的JSON格式 我们来看看, 酒馆SillyTavern 发给 Gemini API 的是什么东西 首先可以看到, 数据分为4大块. 我们一个个打开来看看. contents 部分就是曾经发生过的对话.  能看到, 还区分出哪些是AI"说"的, 哪些是用户"说"的. contents 部分的最后一组数据, 就是用户最后"说"的那句话. 接下来的部分是 safetySettings 看上去是一些开关配置项, 找点工具翻译一下. 可以看到是关闭 危险内容啊, 色情内容...

我们常常有一些"任务"需要在screen中执行, 这样当ssh登录中断的时候, 任务会保持运转. 比如,  酒馆SillyTavern 当我们screen -r重新连接到screen窗口时, 终端只能显示最后一屏的命令行日志内容. 用鼠标拖动滚动条是不能显示更早的内容的. 所以, 我们常用的 鼠标选择 + 复制 的操作不能保存超过一屏的日志内容. 我们可以这样保存日志. 1. 进入复制模式 Ctrl + A, [ 左方括号 2. 使用pageup键 pagedown键 上方向键 下方向键 移动光标 3. 使用空格键设置复制内容的起始点  4. 继续移动光标, 并再次使用空格键设置复制内容的结束点 会有提示信息, 复制了多少字符进入缓冲区 4. 进入命令模式 Ctrl + A, : 冒号 5. 用命令保存缓冲区的内容到文件 writebuf /root/log1.txt 保存成功也会有提示 好了. 现在你在任何地方, 即使是脱离了screen窗口, 也可以打开文件查看保存下来的日志内容了, 当然文件也可以被传输到你期望的任何地方. ======== 完