ADK.wang AI & 软件技术百科
全库汇聚全球 22,000+ 核心技术词条,深度引证上千本行业权威学术专著,涵盖大模型原理、云原生、架构设计与工程效能。
22,077
全量学术技术词条
9 大
核心专业领域体系
10,000+
权威专著深度引证
100%
原书精粹与工业对齐
专业技术领域分类
共 22077 篇词条Term Memory (STM)
本书选取3种对比方法,分别是整合移动平均自回归(Autoregressive Integrated Moving Average,ARIMA)模型、Holt-Winters(HW)模型和Long Short-Term Memory(LSTM)模型,这些方法...
解码器
Transformer decoder
常见的自编码器的网络结构如图10.2所示,最简单的自编码器只有3层结构,中间的隐藏层才是所需要关注的地方,以隐藏层为界限,左边为编码器(Encoder),右边为解码器(Decoder),所以在训练过程中,输入才能在经过编码后再解码,还原成原来的模样。
注意力机制
Self-Attention Mechanism
)Transformer Transformer 主要用在语言模型(LM)上,Transformer 是一个完全依赖于自注意力机制 (Self-Attention)来计算其输入和输出的表示的转换模型,可以并行同时处理所有的输入 数据,模仿人类联系上下文的习...
研究所
Software Productivity Research
Jean-Daniel Fekete Jean-Daniel Fekete,法国信息可视化与人机交互领域计算机科学家,他还有个中国名字 叫“傅可青”,自 2007 年起,担任法国国家信息与自动化研究所(INRIA)高级研究员与 AVIZ (Analys...
访问控制
Role-Based Access Control
的指定目录下修改镜像默认配置文件;如何利用持久卷申明(PersistentVolumeClaim)方法,解耦Pod配置文件里对持久化存储类型的关联性,并通过该方法将共享存储挂载到Pod内部的容器上,从而实现数据文件持久化;如何利用Kubernetes的访问...
引擎
TSM engine
Google Kubernetes引擎(GKE) Google Kubernetes引擎(Google Kubernetes Engine, GKE)是运行在Google云平台(Google Cloud Platform, GCP)上的托管Kubernet...
损失函数
NLLLoss
由于误差有正有负,将负号去掉,取绝对值不方便, 最简单的方式就是取误差的平方,所以目标函数为: 在机器学习中,J被称为损失函数(Cost Function),为了使J值不随着样本数的增加而变得过大,通常 乘以1/n,即: 运用最小二乘法的原理,对 1 2 ...
感知机
Perceptron
神经网络的起源最早可以追溯到20世纪五六十年代,当时学者们将其称为感知机(perceptron),随后又提出了多层感知机(Multilayer perceptron),无论是感知机还是多层感知机,都将模型训练的过程分为输入层、隐藏层以及输出层,二者主要区别...
指标 (SSIM)
⻛险投资 ⼈在对 项⽬进⾏尽职调查 和 ⻛险评估之前 , ⼀ 般都 会对 项⽬所处 的 ⾏业进⾏研究 , 阅读 ⼤ 量 的 ⾏业报告 , 并找到 ⼀ 些⽤ 于 衡量 这个 ⾏业 中 公司经营状况 的 特定指标 ( KPI ), ⽐如⽹游领域 的
机制
VMware vSAN
列表4.6 GPT的变压器块组件 from chapter03 import MultiHeadAttention 给定的代码定义了一个PyTorch中的TransformerBlock类,该类包含一个多头注意力 机制(MultiHeadAttention...
英国广播公司 (BBC)
通过阅读凯西·赖克(Kathy Reich)和帕特丽夏·康韦尔(Patricia Cornwell)的小说或者观看由哥伦比亚广播公司(CBS)制作的电视节目《犯罪现场》(CSI)或由英国广播公司(BBC)制作的《无声的见证》(*Silent Witness...
微调 (SFT)
图4.6 预训练与微调过程 [1] 一般来讲,个人用不着自己训练一个BERT预训练模型,而是直接调用模型的权重,进行微调(Fine-Tune)以适应当前特定任务,但读者可以了解一下BERT是怎么训练出来的。
队列
RocketMQ
TensorFlow提供了各种队列:基本的先进先出(FIFO)队 列(FIFOQueue)、可以区分某些元素优先级的队列(PriorityQueue)、将其元素 随机排序的队列(RandomShuffleQueue),以及通过填充批量处理具有不同形状的 元...
深度学习
IBM Watson
在深度学习经典学习资料中,伊恩·古德费洛(Ian Goodfellow)和约书亚·本吉奥(Yoshua Bengio)等人的书籍《深度学习(Deep Learning)》具有重要的参考价值,对深度学习相关概念和技术有深入的介绍和讲解 [157] ;国内邱锡...
美国在线 (AOL)
你可能会认为,较高层级的管理者应该会有一些心胸,可以容纳那些偶尔工作上合不来的人,就像以前安然的杰弗里·斯基林(Jeffrey Skilling)和美国在线(AOL)的罗伯特·皮特曼(Robert Pittman)一样,但一般还是认为合宜才占优势。
麻省理工学院 (MIT)
不过,在一间 学校里面,主机毕竟可能只有一部,如果多人等待使用,那怎么办?大家还是得要等待啊! 好在1960 年代初期麻省理工学院(MIT)发展了所谓的: 『兼容分时系统(Compatible Time-Sharing System, CTSS)』, 它可...
Reinforcement Learning (RL)
Reinforcement Learning (RL) is a methodology of deep learning in which an
大型语言模型
LLMs
参考文献 ・ 机器学习中的人类参与综述 – arxiv.org 139 第 14 章:知识检索(RAG) 大型语言模型(LLM)在生成类人文本方面展现出强大能力,但其知识库通常仅限于训 练数据,无法访问实时信息、企业内部数据或高度专业化的细节。
梯度下降 (SGD)
使用一个样本为例简单说明,此时二次代价函数为: 假如使用梯度下降法(Gradient Descent)来调整权值参数的大小,权值 w 和偏置 b 的梯度推导如下: 其中, z 表示神经元的输入, σ 表示激活函数。
基础设施即服务
Infrastructure as a Service
它旨在通过网络把多个成本较低的计算实体整合成一个具有强大计算能力的完美系统,并借助软件即服务(SaaS)、平台即服务(PaaS)、基础设施即服务(IaaS)、成功的项目群管理(MSP)等先进的商业模式,把强大的计算能力分布到终端用户手中,如图3-25所示。
国际货币基金组织
International Monetary Fund
国际货币基金组织(International Monetary Fund)的一项研究指出,“这种收入的损失是由于某些职业或行业特定技能过时而价值下降;或者是因为寻找适当的工作需要大量时间,对于一个成熟的劳动者而言尤其如此;还可能是因为所谓的‘周期性降级’(...
技术研究院 (NIST)
安全散列算法SHA: 安全散列算法SHA(Secure Hash Algorithm)是美国国家安全局 (NSA) 设计,美国国家标准与技术研究院(NIST) 发布的一系列密码散列函数,包括 SHA-1、SHA-224、SHA-256、SHA-384 和 ...
搜索引擎优化
SEO Search Engine Optimization
(6)搜索引擎优化(SEO): - 负责所有网站内容针对搜索引擎的优化工作; - 制定公司网站SEO规范,参与公司网站开发中的SEO咨询和审核; - 负责以时尚起义优化为主的网络营销研究、分析与服务工作; - 网站的结构优化和流程优化; - 网页关键词分析...
损失
Wasserstein loss
以 表示模型输出值, 表示对应的真值,对于数值预测问题,最常用的损失函数是均方误差损失(M ean Square Error),公式为 ,这也是线性回归采用的损失函数;对于分类问题,最常 用的损失函数为交叉熵损失(Cross Entropy),也称对数损失...