这页回答:RelaySolo 支持哪些模型,能不能用本地模型,自己的 Key 怎么用,用 AI 时内容发给谁。

AI 模型和 Key

支持主流模型商的模型,填你自己的 API Key。也能连你自己装好的本地模型。用模型商时,每次只发这一次要处理的内容和用到的那几段资料,从你的电脑直接发给你选的那家模型商。

能用哪些模型

RelaySolo 接主流模型商的模型。你自己选用哪一家。

也能用本地模型,见下面。

这些地方用到 AI:翻译客户来信和起草回复、把询盘整理成卡片、按价格表起草报价、整理客户聊过什么、做每日简报、从你的资料里找答案并标出处。全部功能见功能。

本地模型

RelaySolo 能连你自己装好的 Ollama 或 llama.cpp。

RelaySolo 不帮你安装。Ollama 或 llama.cpp 和要用的模型,要你自己先装好、下好。

用本地模型时,问题在你自己的电脑上处理,不发给模型商。

收发邮件、检查更新还是要联网。本地模型跑得快不快、答得好不好,看你的电脑和你选的模型。

用你自己的 Key

你在模型商那里开好 API Key,填进 RelaySolo。请求从你的电脑直接发给模型商,不经过我们的服务器。

用量和费用按你和模型商之间的规则算。Key 加密保存在你的电脑上,我们这里没有。

用 AI 时发了什么、发给谁

  1. 发出去 每一次用到 AI

    发什么
    这一次的问题或要翻译、起草的内容,加上要用到的那几段邮件和资料。不发你的全部资料。
    发给谁
    你选的那家模型商,用你的 Key 从电脑直接发。
    你能管
    选哪家,用不用本地模型,问不问。

比如你让 AI 起草一份报价,发的是这封询盘,以及价格表里用到的那几行。别的客户、别的价格不跟着发。

用你自己装的本地模型时,这一步不发给模型商。

这是数据离开你电脑的 4 种情况之一。其他几种,比如收发邮件,见数据存在哪里。你自己的 Claude、ChatGPT 来查 RelaySolo 里的资料,是另一种情况,见接进 Claude、ChatGPT。

看看模型商自己的数据条款

发过去的内容,模型商怎么处理,按它自己的规则。每家不一样。选之前,建议你看一下它的数据条款,重点看这几条:

  • 发过去的内容会不会被拿去训练模型。
  • 保留多久,能不能要求删除。
  • 用 API Key 调用和用它的聊天网页,规则是不是一样。
模型商能看到你问的内容。 我们管不了模型商那边。选一家你放心的。特别敏感的内容,可以不拿去问 AI,或者用你自己装的本地模型。

留在你本机的

  • AI 对话记录
  • AI 记住的客户情况
  • 你的 Key 设置

这些存在你的电脑上,我们的服务器上没有。其中模型 Key 加密保存。也正因为这样,要记得做备份。

还想了解更多:常见问题、隐私政策。