local-multimodal-infra
将本机及内网的 CPU / NVIDIA GPU 算力封装为可供 Agent 调用的多模态推理服务。
语音识别、语音合成、对话、向量与重排、视觉、OCR、内容审核、实时语音,全部在本地通过 ONNX Runtime 运行,以标准 MCP 和 OpenAI 兼容 API 提供给 Agent 与应用。
- 一套服务,多种接入:标准 MCP(推理 / 管理两个独立目录)、OpenAI 兼容 API(含实时语音 WebSocket 与内容审核)、旧版 JSON-RPC。