ADK.wang AI & 软件技术百科

如图 8-1 所示，RAG 主要包含 4 个组件：索引器（Indexer）、检索器（Retriever）、重 排器（Re-Ranker）与生成器（Generator）。

附加法有两种实现方式，一种是适配器 （Adapters），在Transformer子层后面加入小的全连接网络；另一种是 软提示（Soft Prompts），在输入层前面构造一段可调的前缀向量。

erstes generatives Pre-Trained Transformer (GPT)-Modell im Juni 2018 auf

为了提高大语言模型的可靠性，研究人员和开发者正在积极探索多种检测和缓解幻觉的方法： 1. 数据层面： 通过高质量数据清洗、引入事实性知识以及强化学习与人类反馈 (RLHF) 等方式 [13] ，从源头减少幻觉。

分词器 (Tokenizer) 的作 用，就是定义一套规则，将原始文本切分成一个个最小的单元，我们称之为词元 (Token) 。

DummyGPTModel 类中的模型架构包括标记和位置嵌入、 Dropout、一系列变换器块（ DummyTransformerBlock ）、最终的层归一化 （ DummyLayerNorm ）和线性输出层（ out_head ）。

在ReAct诞生之前，主流的方法可以分为两类：一类是“纯思考”型，如思维链 (Chain-of-Thought)，它能引导模型进 行复杂的逻辑推理，但无法与外部世界交互，容易产生事实幻觉；另一类是“纯行动”型，模型直接输出要执行的动 作，但缺乏规划和纠错能力。

在人类这种快速学习能力的启发下，算法人员希望元学习模型也能够快速掌握一个先验知识，帮助以后任务的学习，模型需要学习很多与之相类似的任务，然后用在这些任务上学到的先验知识，使其面对一个新问题时可以学习得又快又好，而这一要求的提出使目前的元学习和少样本学习（F...

）微内核架构 微内核架构（Microkernel Architecture）是一种面向功能进行拆分的可扩展架构，有时也可以称作插件化架构，比如Eclipse类型的IDE、UNIX操作系统，都是参照微内核架构设计的。

当我们通过大模型构建应用时，很多时候会有一些重复的指令，因此，通过LangChain构建的应用程序，很多时候并不会直接将用户输入的指令传递给LLM，而是将其嵌入一个更大的上下文模板中，称为提示模板（Prompt Template）。

．检索 检索模块的核心能力是实现检索增强生成所需要的模块，包括文档加载器（Document Loader）、文本分割（Text Splitter）、文本嵌入模型（Embedding Model）、矢量存储（Vector Store）和检索召回（Retrie...

❷ 模 型 的 性能 优化 ： AI训练师可以采用一系列技术手段来减小模型的体积、降低 计算复杂度并提高运行速度，包括模型剪枝（Model Pruning）、模型量化（Model Quantization）、知识蒸馏（Knowledge Distillat...

对于文本分类问题， 我们一般使用词袋模型（Bag of words），把文章对应的稀疏矩阵合并为一个向量，然后 统计每个词出现的频率。

也就是说，状态效用为 （17-5） 该式被称为贝尔曼方程（Bellman equation），以理查德·贝尔曼（Richard Bellman）命名 （Bellman, 1957）。

．模型I/O 模型I/O模块的核心能力是通过设计模型适配（Models）、提示词模板 （Prompt Templates）和输出解析器（Output Parsers）这3个模 块，适配不同大模型框架的调用。

（2）假设文档嵌入（HyDE） 假设文档嵌入（Hypothetical Document Embeddings，HyDE）是一种创新的检索技术，它的核心思想是"用答案找 答案"。

hello_agents/ protocols/ # 通信协议模块 mcp/ # MCP协议实现（Model Context Protocol）

ここでは、よく使われる指標の1つであるMean Average Precision（MAP）について説明します。

ChatGLM使用了最先进的深度学习前沿技术，经过约1TB标识符的中英双语训练，辅以监督微调、特定任务指令（Prompt）训练、人类反馈强化学习等技术，针对中文问答和对话进行了优化。

它的局限性引出了一个关键问题：如果环境的当前状态不足以作为决策的全部依 据，智能体该怎么办？ 图 1.2 简单反射智能体的决策逻辑示意图 为了回答这个问题，研究者们引入了“状态”的概念，发展出基于模型的反射智能体（Model-Based Reflex Ag...

子代理架构（Sub-agent architectures） - 思想：由主代理负责高层规划与综合，多个专长子代理在“干净的上下文窗口”中各自深挖、调用工具并探索，最后仅回传凝练摘要（常见 1,000–2,000 tokens）。

其次是情景记忆 (Episodic Memory)，它负责长期存储具体的交互事件和智能体的学习经历。

（3）智能体层 (HelloAgents)：负责任务分解、工具调用、结果整合。

■ 端点控制器（Endpoints controller）：在部署工作负载并动态分配了IP地址之后，端点控制器会更新Kubernetes DNS服务，以及完成其他一些工作。