RAG

企業級開源 AI 技術棧藍圖：從 vLLM 推理、Qdrant 向量檢索到 LangGraph 編排與 Langfuse 評測

系統性梳理企業私有化落地的大模型開源技術棧（Open Source AI Stack）：剖析模型服務層（vLLM/Ollama 多 GPU 張量平行）、向量與記憶層（Qdrant/Milvus HNSW 混合檢索）、應用編排層（LangGraph 狀態圖/MCP 協議），以及可觀測與自動評測層（Langfuse OTel 鏈路追蹤與 RAG Triad 幻覺防禦）。