前言

这是关于 GPT API 的一个 DownToEarth 的教程，从基础调用到工具拓展，目录安排如下：

  1. ChatTool, API 的简单封装
  2. 反向代理转发 API 请求
  3. 以 API 形式启动常见的大模型
  4. 模型微调指南
  5. 基于 API 构建实用工具
  6. 基于 API 部署 web 应用
  7. Agent 构建器，AutoGen/FlowiseAI/XAgent 等

ChatTool

三月份 ChatGPT API 接口开放时写了这个工具，目前挂在实验室的 GitHub 账号 下。ChatTool 将 API 封装为简单易用的 Chat 对象，支持多轮对话，配置代理，异步处理数据，使用工具以及微调等功能。简单来说，ChatTool 提供了一个易用的封装，本篇介绍其基本用法。

p.s. 也写了个 Julia 版 的 ChatTool，不过目前没在维护。

20231122212158

安装及配置

使用 Pip 安装：

1
pip install chattool --upgrade

修改环境变量(windows 在系统设置中修改)：

1
2
export OPENAI_API_KEY=your_api_key
export OPENAI_API_BASE_URL=https://api.example.com

由于 OpenAI 限制了访问 IP，需设置代理才能访问。这里 OPENAI_API_BASE_URL 填反向代理的链接，这一来可以在国内网络调用，反向代理的配置方式参考这篇。如果用本地模型启动的 API 服务，则填本地模型的访问链接，比如 http://localhost:8000。

安装及配置

使用示例

异步批量处理数据。

工具调用。

其他示例

微调。