vLLM 用 PagedAttention 把大模型推理吞吐提升数倍。本文从原理到 Docker 部署、参数调优与压测，手把手搭建高吞吐推理服务。
2026-10-24
想让应用开口说话又怕云 API 贵、怕隐私外泄？本文用 CosyVoice 在本地搭建高自然度语音合成（TTS）服务，覆盖安装、零样本克隆、FastAPI 服务化与 Docker 部署。
2026-10-23
Xinference 实战：用统一推理平台在本地与集群一站式部署 LLM、Embedding 与重排模型，并对外提供 OpenAI 兼容 API。
2026-10-21
Docker Desktop 4.63 带来的 docker-agent 开源框架，让你用 YAML 声明模型、指令与工具，零代码编排多代理工作流，并推送至任意 OCI 仓库跨环境运行。
2026-10-19
LiteLLM 是统一的大模型网关，用一套 OpenAI 兼容接口接入多家模型，内置负载均衡、失败降级与按密钥的成本管控，本文手把手教你部署。
2026-10-19
Text2SQL 实战：用大模型把自然语言转成可靠 SQL，覆盖提示词工程、schema 约束、向量表发现与生产落地清单，并给出防注入与权限边界。
2026-10-17
LobeChat 是开源可私有部署的 AI 聊天界面，本文用 Docker 一步步完成本地 Ollama 接入、vLLM 对接与生产级 Nginx 反代，打造自主可控的对话工作台。
2026-10-16
RAG（检索增强生成）能从零搭起：加载文档、切块、向量化、检索，再让大模型据此作答。本文用可运行代码手把手实现一个私域知识问答系统。
2026-10-15
Embeddings 向量嵌入把文本变成语义向量，本文用 Python 实战演示余弦相似度、语义检索与近重复去重。
2026-10-14
手把手把 DeepSeek-R1 部署到本地：Ollama 快速体验、vLLM 扛并发，含显存账、性能调优与 Qwen 选型对比。
2026-10-13