PRODUCTS // 关联产品 TOTAL: 02
omlx
开源社区
oMLX 是一款专为 Mac (Apple Silicon) 优化的本地大模型推理服务器,是 OpenClaw 等 Agent 生态的高性能后端。它基于 MLX 框架,支持文本 LLM、视觉模型 (VLM)、OCR 及向量模型。核心技术包括“冷热分层 KV 缓存”:常用缓存驻留内存,溢出部分转储至 SSD 并支持重启后复用,极大提升了 Claude Code 等工具处理长上下文的响应速度。提供原生 macOS 菜单栏应用与 Web 控制面板,支持多模型并发调度、LRU 自动显存管理及 MCP 协议。
one-api
开源社区
One API 是一个开源的大模型接口管理与分发系统,支持通过标准的 OpenAI API 格式访问包括 OpenAI、Claude、Gemini、DeepSeek 及国内主流模型(如文心一言、通义千问等)在内的数十种模型。其核心功能包括多渠道负载均衡、流式传输、令牌额度管理、用户/渠道分组倍率设置以及模型映射。支持 Docker 快速部署和多机横向扩展,是目前开发者构建统一 AI 聚合接口的首选网关工具。