博客
- Token 成本控制:从账单震惊到精准预算的三层防线
用语义缓存、分级路由和预算管控三层防线,把 LLM Token 成本降低 40-70%。包含各模型定价对比、缓存命中率分析、以及可直接集成的 Python 成本控制模块。
- RAG 系统部署实战:从文档索引到 Agent 工具集成
从零搭建一个 RAG 系统——文档加载、chunk 策略、向量存储、检索优化,以及如何将 RAG 作为 LangGraph Agent 的工具,让 LLM 自主决定何时检索知识库。
- 搭建 AI Gateway:统一模型访问入口与多模型路由
用 FastAPI 从零搭建一个 AI Gateway——在 Agent 和 LLM 之间加一层网关,统一做模型路由、故障转移、限流和指标监控,让 Agent 不直连任何一家模型提供商。
- 给 LLM 调用加上监控:Token 用量、延迟、错误率一目了然
用 LangChain 回调机制给 AI Agent 加上可观测性——从运维视角监控每次 LLM 调用的 Token 消耗、延迟、错误率和成本,产出可接入 Prometheus/Grafana 的指标数据。
- 运维工程师 AI 转型路线图:AI Agent Engineer + AI Reliability Engineer
结合运维背景和 AI 产品开发经验,系统梳理 AI Agent Engineer 和 AI Reliability Engineer 两个方向的核心能力、学习路径和博客内容规划。
- 从零搭建第一个 LangGraph Agent:工具调用与状态管理
用 LangGraph 从零构建一个带工具调用的 AI Agent,深入理解 State、Node、Edge、Tool 四个核心概念,并展示一个实用的 AI 运维助手 demo。
- AI项目开发文档准备清单
AI项目开发文档准备清单
- Gitlab ci/cd .gitlab-ci.yml问题集
Gitlab ci/cd问题集
- 标准项目结构规划方案
基于 14 讲课程方法论与 OpenAI 高级仓库模板提炼的项目结构规划:7 条核心设计原则、最小版与进阶版两层目录结构、初始化与会话循环流程、干净状态检查清单。