这页回答:RelaySolo 支持哪些模型,能不能用本地模型,自己的 Key 怎么用,用 AI 时内容发给谁。
AI 模型和 Key
支持主流模型商的模型,填你自己的 API Key。也能连你自己装好的本地模型。用模型商时,每次只发这一次要处理的内容和用到的那几段资料,从你的电脑直接发给你选的那家模型商。
能用哪些模型
RelaySolo 接主流模型商的模型。你自己选用哪一家。
也能用本地模型,见下面。
这些地方用到 AI:翻译客户来信和起草回复、把询盘整理成卡片、按价格表起草报价、整理客户聊过什么、做每日简报、从你的资料里找答案并标出处。全部功能见功能。
本地模型
RelaySolo 能连你自己装好的 Ollama 或 llama.cpp。
RelaySolo 不帮你安装。Ollama 或 llama.cpp 和要用的模型,要你自己先装好、下好。
用本地模型时,问题在你自己的电脑上处理,不发给模型商。
收发邮件、检查更新还是要联网。本地模型跑得快不快、答得好不好,看你的电脑和你选的模型。
用你自己的 Key
你在模型商那里开好 API Key,填进 RelaySolo。请求从你的电脑直接发给模型商,不经过我们的服务器。
用量和费用按你和模型商之间的规则算。Key 加密保存在你的电脑上,我们这里没有。
用 AI 时发了什么、发给谁
-
发出去 每一次用到 AI
- 发什么
- 这一次的问题或要翻译、起草的内容,加上要用到的那几段邮件和资料。不发你的全部资料。
- 发给谁
- 你选的那家模型商,用你的 Key 从电脑直接发。
- 你能管
- 选哪家,用不用本地模型,问不问。
比如你让 AI 起草一份报价,发的是这封询盘,以及价格表里用到的那几行。别的客户、别的价格不跟着发。
用你自己装的本地模型时,这一步不发给模型商。
这是数据离开你电脑的 4 种情况之一。其他几种,比如收发邮件,见数据存在哪里。你自己的 Claude、ChatGPT 来查 RelaySolo 里的资料,是另一种情况,见接进 Claude、ChatGPT。
看看模型商自己的数据条款
发过去的内容,模型商怎么处理,按它自己的规则。每家不一样。选之前,建议你看一下它的数据条款,重点看这几条:
- 发过去的内容会不会被拿去训练模型。
- 保留多久,能不能要求删除。
- 用 API Key 调用和用它的聊天网页,规则是不是一样。