ADK.wang AI & 软件技术百科
全库汇聚全球 22,000+ 核心技术词条,深度引证上千本行业权威学术专著,涵盖大模型原理、云原生、架构设计与工程效能。
22,077
全量学术技术词条
9 大
核心专业领域体系
10,000+
权威专著深度引证
100%
原书精粹与工业对齐
专业技术领域分类
共 1516 篇词条追求通用人工智能 (AGI)
具身行动 在追求通用人工智能(AGI) 的征途中,具身Agent(Embodied Agent)正成 为核心的研究范式,它强调智能系统与物理世界的紧密结合。
适应优化算法 (ADAM)
另外,它使用自适应优化算法(ADAM)对梯度下降的方向进行更新,通过对参数的差值求出参数更新的方向,以及自适应学习率更快地逼近最优初始参数,使模型快速收敛。
适应速率缩放 (LARS)
这时通常可采用层自适应速率缩放(LARS)算法。 从理论认知上讲,Batch Size增大会减少反向传播的梯度更新次数,但为了达到相同的模型效果,需要增大学习率。
适应量化
Adaptive Quantization
这使得编码端可以选择性能更优的量化方法,例如自适应量化(Adaptive Quantization) [11] 以及下一节将要介绍的率失真优化量化(RDOQ)等。
通用大语言模型 (LLM)
在文本生成方面,以OpenAI的GPT-4o为例,详细介绍了通用大语言模型(LLM)的工作原理,包括其基于 Transformer架构的生成机制、上下文编码、自注意力机制以及预训练和微调过程。
通道剪枝
Channel Pruning
通道剪枝(Channel Pruning)组件。 在CNN网络中,通过对特征图中的通道维度进行剪枝,可以同时降低模型大小和计算复杂度,且压缩后的模型可以直接基于现有的深度学习框架进行部署。
速度
Fast Generation
同样,在企业级大模型部署时,我们也有三个关键点需要考虑:响应性 (Responsive)、结果生成速度(Fast Generation)以及最终的吞吐量(Throughput)。
逻辑推理 (DROP)
图1 DeepSeek-V3与主流模型在各类基准测试中的表现对比 不仅如此,DeepSeek-V3在代码生成(HumanEval-Mul)、逻辑推理(DROP)和长文本处理(LongBench v2)等复杂场景中也展示了强大的专业性。
道琼斯工业指数 (DJIA)
罗伯特·哈格斯特朗(Robert Hagstrom)的书《巴菲特的投资组合》( The Warren Buffett Portfolio )中介绍,巴菲特在1957—1969年成立合伙公司期间,他的年复合收益率高达30.4%,年平均回报比道琼斯工业指数(D...
遵循提示词
Prompt
正是这些海量数据,使得ChatGPT展示出了强大的三种能力: ● 语言生成:遵循提示词(Prompt),然后生成补全提示词的句子。
配合监督微调 (SFT)
值得注意的是,该模型的技术突破源于8.1万亿令牌的预训练数据积累,配合监督微调(SFT)与强化学习(RL)的双阶段优化,其128K长上下文窗口设计更适配复杂场景应用。
采取提示词
Prompt
所以,我们应该追求不修正模型参数,就能让任务需求方顺利完成任务的方式,也就是应该采取提示词(Prompt)模式完成任务,而非采用微调模式。
量代表代码属性图 (CPG)
由于注意力模块的输入是长度为 c ∗ m 的向量,且每个向量代表代码属性图(CPG)中的一个节点,矩阵中的所有向量按其首次出现在源代码中的位置进行排序,为此使用一维卷积来构建自下而上的结构,使用一维反卷积构建自上而下的结构,将高级特征缩放到与输入相同的大小...
量值来表征
Meanings are Vectors
词的意义就由词的向量值来表征(Meanings are Vectors)。
量化器 (PQUANT)
实际的量化器等级(PQUANT)以均匀或非均匀的方式 从PQINDEX 转化得到。
量化器可分为标量量化器
Scalar Quantizer
根据输入输出数据的类型,量化器可分为标量量化器(Scalar Quantizer)和矢量量化器(Vector Quantizer)两种类型。
量化指标有点击率 (CTR)
比如在电商行业,常用的量化指标有点击率(CTR)、转化率(CVR)、复购率、跳出率、净推荐值(NPS)、用户留存、停留时长、GMV、人均UV价值(ARPU)、客单价等。
量化过程同率失真优化 (RDO)
其主要思想是将量化过程同率失真优化(RDO)准则相结合,对于一个变换系数c i
量子进化算法 (MQEA)
游晓明博士结合免疫系统的动力学模型及免疫细胞在自我进化中的克隆选择和亲和度成熟机理,提出了一种基于免疫算子的量子进化算法(MQEA),通过抗体的克隆选择、记忆细胞产生、免疫细胞自适应交叉变异、抗体的促进与抑制和抗体相似性抑制等进化机制,最终可找出最优解。
量检索
Multi-vector Retrieval
多向量检索(Multi-vector Retrieval)通过使用多个向量来表示一段文 本,作为对密集检索(Dense Retrieval)的一种扩展,如 ColBERT 能 够更全面地捕捉文本的多维信息。
量表示代码属性图 (CPG)
第一层将144维向量映射到大小为 c =6的隐藏状态,然后将特征张量中的矩阵展平为向量,每个向量表示代码属性图(CPG)中的节点。
钩子系统
Hook System
OpenClaw 的钩子系统(Hook System)是一套事件驱动的扩展机制,允许在 Agent 生命周期的关键节点注入自定义逻辑——无需修改核心代码。
链式调用
Prompt Chain
LangChain中的Chain(链)表达了这个开源框架的核心内容:链式调用(Prompt Chain)。
错误率降低剪枝 (REP)
决策树中常见的剪枝算法有:错误率降低剪枝(REP)算法、悲观错误剪枝(PEP)算法、代价复杂度剪枝(CCP)算法、最小误差剪枝(MEP)算法。