OrKaCore

OrKa 是一款直截了当、以 YAML 配置为核心的编排器，让你在几分钟内在自有 GPU（或廉价云主机）上快速启动、串联并监控任何开源大模型。响应延迟低于 150 毫秒、数据完全自主可控，并配有逐 token 的追踪视图，让你清晰看到每一步的成本与执行细节。