我的大模型使用方案
在比较高阶深入的场景,我们需要用到 GTP-4 或者 claude-3-opus 这类第一梯队的大模型,这种一般只能采用付费方案。在大部分场景用免费的就行了。下面介绍下我使用的这两种方案。
付费方案
付费我使用的是 openrouter + chathub,缺点是没法传附件,其中:
- openrouter 是一个代理,它支持上百种大模型,按需付费使用,丰俭由人,支持银联银行卡支付。
- chathub 是前端交互对话界面,因为 openrouter 自带的前端对话界面不太好用。
openrouter 注册与充值
OpenRouter 注册后,使用银联信用卡充值,最低 5 刀。充值完后你就可以用了,就可以使用他自己的 UI 进行大模型对话。但是他自带的 UI 不是很好用,提供了 API 的方式,也比较简单,如果你会前端,可以自己造个轮子,我这里使用 chathub。
进阶 - 使用 chathub 做前端
chathub 是一个优秀的开源项目,支持多种模型,支持配置 openroute api 的方式,但是目前的最新版已经是付费使用了,所以我找到旧版本重新编译。这个版本自带了 openrouter gpt-4 的 api 访问,基本够用了。我这里稍微修改了下源码,增加了 claude-3-opus 和 openai/gpt-4-turbo-preview 模型。
编译流程(mac 为例)
# 环境准备
# 安装 node.js
brew install node
# 下载 chathub 源码
git clone [email protected]:chathub-dev/chathub.git
# 编译,可以参考项目 readme
cd chathub
git checkout v1.44.2
yarn install
yarn build
导入 chrome 编译后生成 dist 目录,打开 chrome 插件页面,打开开发者模式,把 dist 文件夹拖进去即可。
配置 chathub 的 openrouter api 与模型
- 首先在 openrouter 里面创建一个 key
- 然后在 chathub 设置页面填入 key 以及 gpt 模型
免费方案
coze 字节开发的,非常强大,有免费的 gpt-4 可以用,目前也是我主要的使用工具,需要科学上网。
https://claude.ai/
用 google 账号注册一个
https://gemini.google.com/app google 的,也很强,够用,可以上传附件
https://poe.com gpt3.5 免费