LLM-Rosetta

用于 LLM 提供商 API 之间的统一消息格式转换库。

正如罗塞塔石碑使古代文字之间的翻译成为可能，LLM-Rosetta 弥合了不兼容的 LLM 提供商 API 之间的鸿沟——让你使用任意格式发送请求，并被任意提供商理解。

问题¶

不同的 LLM 提供商使用互不兼容的 API 格式。适用于 OpenAI 的请求无法直接发给 Anthropic 或 Google。切换提供商意味着重写集成代码。同时支持多个提供商则需要维护 N² 个转换器。

LLM-Rosetta 引入了中央中间表示（IR）作为枢纽。每个提供商只需与 IR 之间进行转换，将总数从 N² 降为 2N。

Provider A ↔ IR ↔ Provider B — 任意格式输入，任意格式输出。

两种使用方式¶

from llm_rosetta import OpenAIChatConverter, AnthropicConverter

openai_conv = OpenAIChatConverter()
anthropic_conv = AnthropicConverter()

# OpenAI 格式 → IR → Anthropic 格式
ir_request = openai_conv.request_from_provider(openai_request)
anthropic_request, warnings = anthropic_conv.request_to_provider(ir_request)

pip install llm-rosetta

客户端（OpenAI 格式）──→ 网关 ──→ Anthropic API
客户端（Anthropic 格式）──→ 网关 ──→ Google API
客户端（Google 格式）──→ 网关 ──→ 任意提供商

pip install "llm-rosetta[gateway]"
llm-rosetta-gateway

支持的 API 标准¶

详见 API 标准了解各格式的详细对比。

核心特性¶

使用场景¶

多提供商应用 — 构建可在 LLM 提供商之间无缝切换的应用，无需更改集成代码。生产环境用 OpenAI，测试用 Claude，或让用户自选提供商。

AI 编程工具代理 — 运行单个网关，同时服务 Claude Code、Gemini CLI、Codex CLI 等工具，将每个请求路由到正确的上游。

本地模型访问 — 将网关指向 Ollama 或 LM Studio，让基于云 SDK 的工具通过自动格式转换访问本地模型。

API 迁移 — 从一个提供商迁移到另一个？转换现有的请求/响应处理，无需重写业务逻辑。

文档目录¶

• 快速上手 — 安装和入门
• 指南 — 核心概念、转换器、IR 类型、流式处理
• API 标准 — 支持格式的详细对比
• 网关 — HTTP 代理设置、配置、CLI 工具集成
• 示例 — 跨提供商对话、工具调用
• API 参考 — 完整 API 文档
• 更新日志 — 版本历史

引用¶

如果您在研究中使用了 LLM-Rosetta，请引用我们的论文：

@article{ding2026llm,
  title={LLM-Rosetta: A Hub-and-Spoke Intermediate Representation for Cross-Provider LLM API Translation},
  author={Ding, Peng},
  journal={arXiv preprint arXiv:2604.09360},
  year={2026}
}

许可证¶

MIT 许可证