# Cpp-AI-SDK **Repository Path**: woodcola/cpp-ai-sdk ## Basic Information - **Project Name**: Cpp-AI-SDK - **Description**: 类似与langchain对当前主流的LLM的接口进行封装的SDK,目前支持deepseek,minimax,Genmmi,ChatGPT,Ollama本地5个系列的接口封装 - **Primary Language**: C++ - **License**: Not specified - **Default Branch**: master - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 0 - **Created**: 2026-08-27 - **Last Updated**: 2026-08-27 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # Cpp-AI-SDK ## 介绍 Cpp-AI-SDK 是一个类似 LangChain 的 C++ 大语言模型(LLM)接口封装库。该 SDK 统一了对当前主流 LLM 服务的 API 调用方式,让开发者能够通过简洁的接口快速集成多种 AI 对话能力。 **支持的服务商:** - **DeepSeek** - 高性能开源大语言模型 - **ChatGPT** (OpenAI) - OpenAI 官方 API - **Gemini** (Google) - Google AI 对话服务 - **Ollama** - 本地部署的开源模型运行框架 - **MiniMax** - 字节跳动旗下的 AI 大模型 ## 软件架构 ``` Cpp-AI-SDK/ ├── ChatServer/ # 聊天服务器(WebSocket + Web UI) │ ├── ChatServer.cpp # 服务器主程序 │ ├── ChatServer.h # 服务器头文件 │ ├── main.cpp # 程序入口 │ └── build/www/ # 前端资源(HTML/CSS/JS) ├── sdk/ # 核心 SDK 库 │ ├── include/ # 头文件目录 │ │ ├── ChatSDK.h # SDK 主接口 │ │ ├── LLMManager.h # LLM 提供者管理器 │ │ ├── LLMProvider.h # LLM 提供者基类 │ │ ├── Config.h # 配置结构体 │ │ ├── SessionManager.h # 会话管理 │ │ ├── DataManager.h # 数据管理(SQLite) │ │ ├── ChatGPTProvider.h # ChatGPT 实现 │ │ ├── DeepSeekProvider.h # DeepSeek 实现 │ │ ├── GeminiProvider.h # Gemini 实现 │ │ └── OllamaLLMProvider.h # Ollama 本地实现 │ └── src/ # 实现文件 │ └── util/ # 工具类(日志等) └── test/ # 测试代码 ``` ### 核心组件 - **ChatSDK** - SDK 主入口,负责初始化和消息发送 - **LLMManager** - 管理不同 LLM 提供者的注册和调用 - **LLMProvider** - 抽象基类,定义标准 LLM 接口 - **SessionManager** - 管理对话会话历史 - **DataManager** - SQLite 数据持久化 - **日志系统** - 基于 spdlog 的日志记录 ## 安装教程 ### 环境要求 - **C++17** 或更高版本 - **CMake 3.10+** - **SQLite3** - **libcurl** - **spdlog** ### 构建步骤 ```bash # 1. 克隆仓库 git clone https://gitee.com/woodcola/cpp-ai-sdk.git cd cpp-ai-sdk # 2. 创建构建目录 mkdir build && cd build # 3. 编译 SDK cd sdk && cmake .. && make # 4. 编译聊天服务器 cd ../ChatServer && cmake .. && make # 5. 运行(需配置 API Key) ./ChatServer ``` ### 依赖安装(Ubuntu/Debian) ```bash sudo apt-get update sudo apt-get install -y build-essential cmake libsqlite3-dev libcurl4-openssl-dev ``` ### 依赖安装(macOS) ```bash brew install cmake sqlite3 curl spdlog ``` ## 使用说明 ### 1. 配置 API 创建配置文件 `ChatServer.conf`: ```json { "deepseek": { "api_key": "your-deepseek-api-key", "model": "deepseek-chat" }, "chatgpt": { "api_key": "your-openai-api-key", "model": "gpt-4" }, "gemini": { "api_key": "your-gemini-api-key", "model": "gemini-pro" }, "ollama": { "base_url": "http://localhost:11434", "model": "llama2" } } ``` ### 2. SDK 基本使用 ```cpp #include "ChatSDK.h" int main() { // 初始化 SDK ai_chat_sdk::ChatSDK sdk; // 配置 DeepSeek std::map config = { {"api_key", "your-api-key"}, {"model", "deepseek-chat"}, {"base_url", "https://api.deepseek.com"} }; // 初始化模型 if (!sdk.initModels({{"deepseek", config}})) { return -1; } // 发送消息 std::string response = sdk.sendMessage("deepseek", "你好,请介绍一下你自己"); std::cout << response << std::endl; return 0; } ``` ### 3. 流式响应 ```cpp // 注册回调处理流式输出 sdk.sendMessageStream("deepseek", "讲个笑话", [](const std::string& chunk) { std::cout << chunk << std::flush; }); ``` ### 4. 使用聊天服务器 启动服务器后,通过浏览器访问 `http://localhost:8080` 即可使用 Web 界面进行对话。 **功能特性:** - 多模型切换 - 会话历史管理 - Markdown 渲染 - 代码高亮与复制 - 流式输出动画 ## API 参考 ### Config 结构 ```cpp struct APIConfig : public Config { std::string api_key; std::string model; std::string base_url; // 可选 }; struct OllamaConfig : public Config { std::string model; std::string base_url; }; ``` ### Session 结构 ```cpp struct Session { std::string id; std::string model_name; std::string created_at; std::vector> messages; // (role, content) }; ``` ## 测试 ```bash # 运行 SDK 测试 cd build/test ./testLLM # 运行 SQLite 测试 cd build/test/testSQLite ./testSqlite3 ``` ## 参与贡献 1. **Fork** 本仓库 2. 创建特性分支:`git checkout -b feat/your-feature` 3. 提交修改:`git commit -m 'Add some feature'` 4. 推送分支:`git push origin feat/your-feature` 5. 发起 **Pull Request** ## 许可证 本项目采用 MIT 许可证开源。 ## 交流与支持 - 如有问题,请前往 [Gitee Issues](https://gitee.com/woodcola/cpp-ai-sdk/issues) 反馈 - 欢迎 Star 和 Fork 支持项目发展