AI 应用

本地部署大模型 LLM 完全指南:从硬件选型到 vLLM 实战

本地部署大模型 LLM 完全指南:从硬件选型到 vLLM 实战

想本地跑大模型却不知从何下手?本文从显卡显存选型讲起,手把手用 Ollama 五分钟起模型、用 vLLM 做高吞吐部署,并演示应用如何以 OpenAI 兼容格式接入,小白也能落地。

苏三 苏三 2026-07-28
0 0 0
2026 年 AI 开发者必备工具 TOP 20(按场景分类)

2026 年 AI 开发者必备工具 TOP 20(按场景分类)

2026 年 AI 开发者该装哪些工具?本文按编码辅助、大模型对话、本地部署、文档设计等场景,精选 20 个最值得用的 AI 工具,并给出不同角色的组合选型建议,帮你少踩坑、提效率。

苏三 苏三 2026-07-27
0 0 0
Ollama 本地知识库搭建:30 分钟搞定私域问答

Ollama 本地知识库搭建:30 分钟搞定私域问答

30 分钟用 Ollama 搭建本地知识库问答系统,不依赖任何云服务,支持 PDF/Markdown 导入,Zero Data Leakage。

苏三 苏三 2026-07-26
0 0 0
Vercel SDK for Python:非 JS 技术栈的 LLM 集成指南

Vercel SDK for Python:非 JS 技术栈的 LLM 集成指南

非 JS 技术栈也能用 Vercel AI SDK?本文用 Python 完整演示 LLM 集成、流式输出与提示词模板管理,不写一行前端 JS 也能把大模型能力接进后端服务,实战即用。

苏三 苏三 2026-07-26
0 0 0
AI Agent 开发实战:从 Function Calling 到工具调用

AI Agent 开发实战:从 Function Calling 到工具调用

怎么让大模型真正「干活」?本文讲清「模型只决定调什么、代码才真正执行」的分工,用 Function Calling 从零搭出一个会调用工具、查数据、跑任务的 AI Agent,附完整示例。

苏三 苏三 2026-07-23
0 0 0
1 2 3 4