丐版VPS 搭酒馆SillyTavern 白嫖Google Gemini免费API 和AI对话第一个故事

我的VPS配置参数
Racknerd-LADC02
CPU    1
Disk Space	10 GB
Memory	768 MB
Swap	768 MB

Operating System	Debian 12 64 bit
以前没买过VPS的, 具体操作过程看这里 (支持 支付宝 alipay)

不需要太多资源, 哪怕是自用的翻墙梯子开着, 也可以同时玩酒馆.

1. 空间占用
安装前:
root@rn-ladc02:~# df -h
Filesystem      Size  Used Avail Use% Mounted on
udev            336M     0  336M   0% /dev
tmpfs            71M  456K   71M   1% /run
/dev/vda1       9.1G  1.5G  7.2G  17% /
tmpfs           355M     0  355M   0% /dev/shm
tmpfs           5.0M     0  5.0M   0% /run/lock
tmpfs            71M     0   71M   0% /run/user/0

安装后:
root@rn-ladc02:~# df -h
Filesystem      Size  Used Avail Use% Mounted on
udev            336M     0  336M   0% /dev
tmpfs            71M  476K   71M   1% /run
/dev/vda1       9.1G  2.5G  6.1G  29% /
tmpfs           355M     0  355M   0% /dev/shm
tmpfs           5.0M     0  5.0M   0% /run/lock
tmpfs            71M     0   71M   0% /run/user/0

2. 内存占用
安装前:
root@rn-ladc02:~# free -h
               total        used        free      shared  buff/cache   available
Mem:           709Mi       336Mi        52Mi       1.9Mi       434Mi       372Mi
Swap:          767Mi       3.5Mi       764Mi

安装完成运行时:
root@rn-ladc02:~# free -h
               total        used        free      shared  buff/cache   available
Mem:           709Mi       446Mi        66Mi       1.8Mi       316Mi       262Mi
Swap:          767Mi       126Mi       641Mi

3. 安装
安装 node.js
apt update
apt install nodejs -y

安装酒馆
apt install git -y
git clone https://github.com/SillyTavern/SillyTavern -b release
cd SillyTavern
./start.sh

问你要不要安装 npm 和 node.js
回答 y (我知道这很奇怪, 前面明明安装了 node.js 和 npm. 不管那些, 回答 y 即可)
终端运行start.sh,提示npm未安装并询问是否安装nodejs

看到下面这样的日志, 就说明酒馆是可以跑起来的.
编译完成,SillyTavern监听127.0.0.1:8000

先把酒馆关闭.  Ctrl + C

我们接下来处理如何让你的 电脑 /手机 可以访问 这个酒馆.
我会使用 https 的方式, 需要有你自己的域名. 

4. Caddy 反代
你需要有一个域名, 并设置DNS解析到你的VPS的IP上. 

安装 caddy 
(如果你用我的脚本搭梯子 已经安装了 caddy 那么跳过此步骤)
sudo apt install -y debian-keyring debian-archive-keyring apt-transport-https
curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/gpg.key' | sudo gpg --dearmor -o /usr/share/keyrings/caddy-stable-archive-keyring.gpg --yes
curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/debian.deb.txt' | sudo tee /etc/apt/sources.list.d/caddy-stable.list
sudo apt update
sudo apt install caddy

编辑 Caddyfile 
nano /etc/caddy/Caddyfile
Caddy配置把st.icdyct.space反代到localhost:8000
(如果你用我的脚本搭梯子 已经安装了 caddy, 那么在Caddyfile文件末尾添加一段即可)

你的域名
{
  reverse_proxy localhost:8000 {
    header_up Host {upstream_hostport}
  }
}

其中 8000 是因为 SillyTavern 默认监听 8000 端口.

重启 caddy 服务
systemctl restart caddy

现在用你自己的浏览器访问 https://你的域名
应该显示这样的页面
打开站点显示Forbidden,提示编辑config.yaml解除白名单拦截
这个页面是酒馆显示的, 说明你的caddy配置正确.

为了能正常使用酒馆, 我们还需要进一步的配置.

5. 修改酒馆配置文件
nano ~/SillyTavern/config.yaml
(如果你在前面 不是把酒馆安装在用户目录下, 那么你自己找到配置文件的位置)

修改下图中这 4 处配置项, 配置值如下图中所示.
nano里把listen改为true,enableForwardedWhitelist改为false

config.yaml里basicAuthMode为true,用户名和密码自己设
其中, 用户名和密码自己设置喜欢的.

如果你是 linux 操作小白, 也可以用这5行命令.
sed -i '/^listen:/s/.*/listen: true/' ~/SillyTavern/config.yaml
sed -i '/^enableForwardedWhitelist:/s/.*/enableForwardedWhitelist: false/' ~/SillyTavern/config.yamlsed -i '/^basicAuthMode: /s/.*/basicAuthMode: true/' ~/SillyTavern/config.yaml
sed -i '/^  username:/s/.*/  username: 你喜欢的用户名/' ~/SillyTavern/config.yaml
sed -i '/^  password:/s/.*/  password: 你喜欢的密码/' ~/SillyTavern/config.yaml

重新启动酒馆
~/SillyTavern/start.sh

现在用你自己的浏览器访问 https://你的域名
应该显示这样的页面
浏览器弹出登录框,填刚设的用户名和密码

用你刚刚设置的用户名和密码登录.

然后就可以看到酒馆的界面了.
SillyTavern欢迎页,语言是English,角色名是User

6. 酒馆设置
设置语言为 中文
语言下拉里箭头指向简体中文

设置你自己的名字
用户角色名称填小帅,下面是保存按钮

以后在对话列表中, 会显示你的名字.

保存.
红箭头指向保存按钮

设置 API
顶部红框箭头指向插头图标,进入API连接

API 选择 聊天补全
聊天补充来源 选择 Google AI Studio
API 密钥 可以找 Google 申请一个免费的.
聊天补全来源选Google AI Studio,密钥处提示缺少密钥



7. 申请 Google AI Studio 的 API 密钥
开新页面, 访问 https://aistudio.google.com/
登陆你的 google 账户
选择申请 API 密钥
Google AI Studio页面红框标出Get API key

红框标出创建API密钥按钮

将这个内容复制出来, 填写到前面那一步的 API 密钥中.
API密钥已生成弹窗,有复制和关闭按钮

8. 测试API是否正常工作
红框标出连接与发送测试消息两个按钮

如果你看到 绿灯, 并且命令行有这样的结果, 说明API正常连接和正常工作.
状态行绿灯旁显示Key saved,提示按Test Message验证

终端里Google AI Studio的请求与响应,安全类别阈值均为OFF

你可以把"自动连接到上次的服务器"勾选.
勾选自动连接到上次的服务器

9. 开始和AI对话讲故事吧.
点击 角色 选择酒馆默认创建的 角色
角色列表里红框标出侧栏图标和默认角色Seraphina

在对话框中输入"你能说中文吗?"
对话框里输入你能说中文吗

然后就可以和AI对话讲中文故事了. 比如,
聊天窗口底部的消息输入框

10. 在后台运行 start.sh
如果你不希望断开 ssh 登录时酒馆就关门歇业, 那么要找到一个方法将 start.sh 运行在后台.

我选择使用 screen

安装 
apt install screen -y

开一个新screen
screen
执行 start.sh
~/SillyTavern/start.sh
这样, 如果你的ssh连接断开, 酒馆也不会中断执行.

screen的更多用法, 比如下次ssh连接, 要恢复以前打开的screen, 请自行google或问GPT. 

========

========
请看我和AI对话讲的故事 PDF
我觉得 微观的遣词造句 词语挺丰富的, 整体构思等结构大致相当于小朋友的睡前故事. 或者是小朋友互相合作讲故事的水平.

========

看看别的


评论