skillgraph

✨ skillgraph: 让您的 AI 代理更智能、高效！

告别传统工具调用的繁琐与低效，skillgraph 是一个革命性的实验性代理框架，旨在用强大的“技能”替代复杂的工具链。 它为开发者带来了前所未有的控制力，并帮助团队与企业实现更紧密的上下文集成、更低的成本和更流畅的工作流程。 我们相信，用更智能的方式构建 AI 代理，将开启无限可能！🚀

---

💡 为什么选择 skillgraph？核心优势一览

1. 终结高昂成本： 传统的工具调用往往伴随着高额的 Token 消耗。skillgraph 通过智能的技能委托机制和多层缓存策略， 显著降低运行成本，让您的 AI 代理更加经济实惠。🤑
2. 极致控制力： 厌倦了代理的“盲目”操作？skillgraph 让您对代理行为拥有前所未有的精细控制。告别猜测，精准引导代理完成任务。🎯
3. 简化复杂工作流： 多轮对话和复杂任务不再是噩梦。技能可以进入“技能模式”，原生处理多轮交互，轻松搞定票务预订、表单填写等复杂场景。
4. 智能上下文管理： 创新性的“主客体记忆架构”替换了传统的 RAG 系统，通过跟踪用户意图（主语）和当前讨论焦点（客体）， 实现快速、廉价且准确的对话状态管理，让对话拥有人类般的连贯性。🧠
5. 生产级稳定性： 采用多层 LLM 故障回退链（如 Beta → Alpha → Retry）和优雅降级机制，即使在部分服务中断的情况下也能保证 99.9% 的正常运行时间。
6. 开源精神： 基于 Apache 2.0 协议开源。我们鼓励您使用、探索、改进它，并与我们分享您的宝贵建议！🌍

---

🎯 skillgraph 如何运作？告别传统工具调用！

“我们厌倦了现有框架的局限性：它们昂贵、难以控制，并且让简单的事情变得复杂。于是，我构建了 skillgraph。”
—— skillgraph 作者

传统的 AI 代理通常被给予一堆低级工具函数，代理需要消耗大量 Token 来规划、协调和选择工具，过程冗长且低效。 而 skillgraph 则采取了截然不同的方法：

• 工具箱 vs 技能： 传统的框架是“代理有一个工具箱 → 挑选工具 → 调用它们”。 而 skillgraph 则是“代理拥有技能 → 委托给正确的技能 → 技能处理一切”。
• 技能的强大之处： 一个“技能”是一个更复杂的单元，它：
  • 知道何时介入（意图检测）。
  • 可以在内部协调多个工具。
  • 原生处理多轮工作流（技能模式）。
  • 拥有自己的业务逻辑和错误处理。
  • 能通过反馈不断提升。
• 更低的开销，更高的效率： 代理只需将任务委托给相应的技能，技能便会高效执行。这意味着更少的开销，更低的成本，和更强大的控制力。

---

📚 深入了解：创新特性和技术细节

1. 🧠 主客体记忆架构：像人类一样思考

告别传统 RAG 系统在对话状态管理上的缓慢与昂贵，skillgraph 引入了精妙的“主客体记忆架构”，它模仿了人类对话的思维模式：

• 主体 (Subject)： 代表用户的核心目标、约束和偏好。它在整个对话中累积，除非用户明确改变目标，否则保持不变。 例如：{ goals: ["查找活动"], constraints: ["Chennai", "本周末"] }
• 客体 (Object)： 代表当前正在讨论的事物。当对话主题切换时，客体也会相应切换。 例如：{ type: "活动", attributes: { location: "Chennai", timeframe: "本周末" } }， 当用户问“那餐馆呢？”时，客体迅速切换为{ type: "餐馆", location: "Chennai" }，而主体保持不变。

一个快速的 Utility LLM（如 Llama-3-8B）会分析每次用户输入，并相应更新主体和客体，无需复杂的嵌入和向量搜索， 实现对对话状态的快、准、狠管理。

2. 💰 智能缓存策略：省钱又提速！

skillgraph 采用了多层缓存机制，有效降低成本并提升响应速度：

• Anthropic Prompt 缓存（成本优化）： 只缓存静态系统提示词，而不是整个提示。系统提示词在所有用户、所有对话中共享， 首次请求写入缓存（约 5000 Tokens），后续请求从缓存读取（约 500 Tokens），实现系统提示词 Tokens 89% 的成本削减， 大大节省了开销。
• Redis 对话缓存（速度优化）： 对话历史被缓存到 Redis 中。首次查询可能需要 50ms 访问 PostgreSQL， 但后续查询仅需 <5ms 从 Redis 获取。新消息发布时，缓存自动失效。
• PostgreSQL（数据源）： Messages、Subject/Object 状态、以及用于语义搜索的向量嵌入都存储在 PostgreSQL 中，作为所有数据的可靠来源。

3. ⚙️ 鲁棒性与扩展性

• 多 LLM 支持： 支持 Anthropic, OpenAI, Azure, Bedrock, DeepSeek, Together, Huggingface 等主流 LLM 提供商。
• 异步优先架构： 可处理 1000+ 并发请求，保证高吞吐量。
• 复杂的故障回退链： 如 Beta (Haiku 4.5) → Alpha (Sonnet 4.5) → Alpha 重试 → 错误，确保即使在部分服务中断时也能稳定运行。
• 增量式对话摘要： 每隔 10 条消息进行增量摘要（可配置），允许无限长的对话而不会触及上下文限制。
• 会话范围的向量搜索： 使用 pgvector 进行语义搜索，并确保搜索结果严格限定在当前会话内，保障数据安全。

---

🛠️ 未来规划与展望 (V0.25)

skillgraph 还在持续发展中，目前版本（发布于 2025 年 11 月 5 日）已具备以下核心功能：

• 聊天和流式支持
• 自定义技能创建和注册
• 基于意图的技能路由
• 交互式技能（技能模式）
• 反馈收集与技能改进（仍在完善中）
• 统一消息表与嵌入索引
• React 聊天 UI 与流式渲染
• 极简设计（仅 8 个依赖项）

我们正在积极开发并计划增加更多功能，例如：可观测性（Prometheus + Grafana 集成）、更多的单元测试、更完善的部署指南（K8s 配置） 以及针对高级功能的详细文档。

“这是一个实验性的项目。它能运行，但并不完美。使用它，找出它的不足，并告诉我们。”
—— skillgraph 作者

我们期待您的参与，一同打造更强大的 AI 代理框架！