AI 交互式学术知识图谱
旨在刻画大语言模型时代技术树的立体拓扑关联。可视化展现 LLM、RAG、微调 PEFT、多智能体 Agent 与推理基础设施之间的学术共生与演化路径。点击节点探索深度概念、技术难点和直接学术连结。
LLM 基础模型
AI时代的核心大脑与计算基石，提供基本的语言理解、常识生成与推理能力。
核心学术原理
大语言模型（LLM）是通过在海量文本数据上进行自监督预训练而获得泛化理解能力的神经网络模型。随着以 DeepSeek-R1、Qwen2.5 为代表的高性能模型开源，个人和企业可以直接在这些模型的基础上进行微调、构建 RAG 或搭建智能体体系。 它是知识图谱的中心节点，几乎所有高阶 AI 架构都围绕其建立。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
RAG 检索增强
解决 LLM 幻觉、补充企业私有及实时知识的黄金架构。
核心学术原理
检索增强生成（Retrieval-Augmented Generation，RAG）结合了搜索技术和语言生成技术。在 LLM 接收输入前，先通过向量检索获取与问题相关的外部私有文档切片，将切片与提示词拼接后一并输入模型，能有效提高生成答案的客观准确度并避免数据泄露。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
向量数据库
高维向量数据的存储与高并发近似最近邻（ANN）检索中心。
核心学术原理
传统的 SQL 数据库无法高效计算百维乃至上千维空间中的向量余弦相似度。向量数据库（如 Milvus, Pinecone, Qdrant）专为解决此痛点而生，提供纳秒级的多维空间距离搜索。它是存储文档 Embedding 向量的绝对支柱。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
Embedding 嵌入模型
将文本、图片等高阶实体映射为低维稠密向量的翻译官。
核心学术原理
Embedding 是大模型理解万物语义的核心机制。它通过多层语义网，将自然语言转换为如 1024 维的实数数组。当两个短语或句子的语义接近时，它们的向量夹角余弦值也会趋近于 1。优质的 Embedding（如 BGE 系列）是 RAG 召回精度的一半保障。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
Rerank 重排模型
对粗筛召回的切片文档进行精细二次打分与精排，提高召回相关度。
核心学术原理
粗筛（向量库检索）注重速度与召回率，通常会返回前 20 或 50 个切片。然而，这些切片可能含有大量噪音。Reranker 模型（如 BGE-Reranker）专门接收 (Query, Doc) 对，并输出精准的相关性得分。由于不需存储向量，重排计算成本小却能使 RAG 精度获得阶跃性提升。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
大模型微调 SFT
为通用底座注入特定行业领域知识、专业行文风格以及格式约束的过程。
核心学术原理
监督微调（Supervised Fine-Tuning, SFT）在预训练底座之上，使用海量的高质量问答对（指令数据）进行参数更新。这使模型学会扮演特定角色（如专业顾问），或是严格掌握特定的业务逻辑及输入输出结构，实现端到端的业务特化。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
LoRA 低秩自适应
通过向基座注入旁路低秩矩阵，大幅降低微调显存开销的经典参数高效微调（PEFT）方案。
核心学术原理
全参数微调需要同时保存梯度、优化器状态和权重本身，对 7B 模型就需要上百 GB 显存。LoRA 通过冻结原底座权重，仅在侧面引入极小维度的 A、B 两个低秩矩阵。微调时仅对这两个小矩阵进行求导和参数更新，将训练显存开销骤降 80% 以上且近乎无损性能。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
QLoRA 量化微调
将基座模型量化到 4-bit 之后再附加 LoRA 训练，单卡 24G 显存即可微调 7B 大模型。
核心学术原理
QLoRA 引入了 NormalFloat 4 (NF4) 数据类型、双重量化（Double Quantization）和分页优化器（Paged Optimizers）等突破。它甚至可以让一张家用 RTX 3090/4090 显卡无压力训练 7B、14B 大模型，真正将大模型微调门槛拉入了平民化和个人工坊时代。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
人类反馈对齐 DPO
不需单独训练奖励模型的直接偏好优化（DPO），让模型在回答好坏中自省对齐。
核心学术原理
传统的 RLHF（基于人类反馈的强化学习）极难训练，因为需要同时维护主模型、策略模型、奖励模型和判别模型。DPO 绕过了复杂的奖励建模，直接通过推导极大似然函数，在包含（好的回答，坏的回答）的对比语料上更新模型。简单高效，是目前业界对齐和防毒的主流方法。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
智能体 Agent
拥有自主规划能力、记忆系统以及外部工具调用能力的超级自动化实体。
核心学术原理
智能体（Agent）将大模型视作决策的大脑。其包含三个核心要件： 1. **记忆（Memory）**：包括对话上下文（短期记忆）和外接向量检索（长期记忆）； 2. **规划（Planning）**：如 ReAct、CoT，将复杂目标拆解为子步骤并自省检查； 3. **工具调用（Tool Use）**：如 API、网络搜索、数据库查询。Agent 能够代替人类完成全自动复杂流。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
LangGraph 状态机
高度严谨的可循环图（Cyclic Graph）多智能体流控制框架。
核心学术原理
智能体在工作时容易陷入无限死循环或逻辑崩盘。LangGraph 提倡‘图论控制（Graphs）’，允许开发者为智能体定义明确的节点（State Nodes）和有向循环边（Edges）。通过严格的有状态转换，可以将多智能体协作流程限定在精确的企业业务逻辑内。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
CrewAI 协同团队
注重角色扮演和流水线分工的高级多智能体团队管理框架。
核心学术原理
CrewAI 采用拟人化管理。开发者只需声明多个 Role（如：文案编辑、事实核查员、排版师），给他们分配各自的 Tools 与 Tasks。框架会自动通过流水线（Sequential）或者等级制（Hierarchical）方式让他们相互调用和核实，极其适合快速产出研报、代码重构等创造类协同任务。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
Function Calling
大模型将自然语言诉求结构化导出为可执行 API 参数的桥梁技术。
核心学术原理
当用户问‘帮我查询北京今天的天气’，大模型本身并无法实时查天。但支持 Function Calling 的模型会理解用户的意图，并主动输出一条结构化 JSON 数据：`{name: 'get_weather', args: {city: 'Beijing'}}`。后端程序捕获该 JSON 并请求气象接口后将结果返回给模型，模型整理出大白话。这是 Agent 驾驭现实世界的灵魂技术。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
算力与推理基础设施
大模型得以平稳低延迟运行、高吞吐服务的底层计算平台与编译调度层。
核心学术原理
大模型在推理服务中极其消耗计算带宽（Memory Bandwidth）。仅仅使用原生的 PyTorch 加载大模型会造成极高延迟。推理基础设施（如 vLLM）通过精妙的分块内存管理和算子优化，将模型吞吐率提升数十倍，提供高性价比的企业级线上 API 服务。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
单卡 RTX 4090/3090
消费级显卡之王，大模型全网研发和本地测试的核心功臣（拥有 24G 显存）。
核心学术原理
RTX 4090/3090 拥有 24GB 的 GDDR6X 高速显存，配合 QLoRA 以及 Ollama，使得个人开发者能够在床头、书桌上直接跑通并训练 7B 到 14B 参数级别的大模型，是 AI 平民化运动（Local AI）的最强燃料。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
vLLM 推理引擎
独创 PagedAttention 显存管理机制，大模型高并发线上服务的工业标准。
核心学术原理
在推理中，由于每个生成请求的历史上下文（KV Cache）大小在动态变化，传统加载方式会导致大量不连续、碎片化的显存浪费。vLLM 借鉴操作系统的虚拟内存管理技术，提出了 **PagedAttention**。它将 KV 缓存切成不连续的物理页面进行分配，将显存浪费降为接近 0%，使服务器高并发处理请求的吞吐量瞬间翻了 2 到 4 倍！
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
Ollama 本地推理
一键部署、高内聚封装的家用大模型运行框架，支持 Mac/Windows/Linux 多端自适应。
核心学术原理
以往要在本地跑大模型，需要配置复杂的 Python 虚拟环境、PyTorch、显卡 CUDA 驱动。Ollama 将整个 runtime 极其惊艳地整合、重构成一个极小的原生 C++ 服务（基于 llama.cpp）。你只需要输入 `ollama run deepseek-r1:8b` 即可。对各终端硬件 CPU/GPU 的异构加速封装得天衣无缝。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
提示词工程
用自然语言或结构化脚本（如同指挥棒）激发大模型特定逻辑链的技术。
核心学术原理
提示词工程（Prompt Engineering）并非简单的‘写大白话聊天’。在工业落地中，它是对系统指令（System Prompt）进行高强度结构化控制（采用 XML、Markdown 等结构）的学问。通过设定严苛的防错边界和上下文范例，能以极小算力代价大幅降低非结构化结果外溢。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
思维链 CoT
强制模型在输出最终答案前，先写出其内心严密的推理步骤（Let's think step by step）。
核心学术原理
对于多步算术、符号推理等难题，LLM 容易因一次预测一个 token 的局限而出现开头正确结尾离谱。思维链提示（Chain-of-Thought）在 prompt 里显式加上‘请分步思考并列出推导’，让模型开辟额外的‘思维演练草稿纸’，极大地激发了模型的自省和深层推理性能。这正是 DeepSeek-R1、o1 等推理大模型背后的第一原则。
知识关联路径 (Topology Connections)
DIRECT PORTAL PATHWAYS / 学术版块直达
Few-Shot 少样本学习
在 Prompt 中预置 1-3 个完美的输入输出示范，给大模型建立最牢固的模仿轨道。
核心学术原理
有些规则极难用枯燥的文字规则表达清楚，但人类常说：‘看样例’。Few-Shot 技术在 System 或 User 的提示词里直接附带了若干个正确的格式转换例子。大模型拥有惊人的上下文学习能力（In-Context Learning），会立刻顿悟，严格按照例子的修辞语态、排版结构和情绪风格进行输出。