ADK.wang AI & 软件技术百科

峰值算力达到92 TOPS （65000×2×700 M ≈ 90 TOPS），累加器（Accumulator）的内存大小是4 MB，激活存储器（Activation Storage）的内存大小是24 MB（图7.3.3）。

如果我们可以找到一个向量 V 和一个值λ，使得它们之间的关系如下： 那么，这个向量 V 就是这个矩阵的“特征向量（Eigen Vector）”，这个值λ 就是这个矩阵的“特征值（Eigen Value）”。

在这里，将所有特征向量存在的空间，称为特征空间（Feature Space），特征空间的每一个维度，对应于实例的一个特征。

其次，每个SM 的Sub Core 中，均包含多种功能单元，如Tensor Core， FP64、FP32、INT8 等CUDA Core，RT Core，以及特殊函数处理单元（MFU）。

受到统计物理学中玻尔兹曼分布（Boltzmann distribution）的启发，可见层的向量v和隐藏层的向量h组成的联合分布，与配置的负能量的指数成正比： P(v,h)∝e -E (v,h) （1-26） 其中，配置的能量如下所示： E(v,h)=v ...

年，丹麦哥本哈根大学尼耳斯·玻尔研究所(Niels Bohr Institute)在《美国国家科学院院刊》上发表研究报告，旨在计算“温度升高后大西洋风暴潮的预估威胁”。

AI 芯片发展方向 为了满足数据中心算力需求，谷歌在2014 年开始研发基于特定领域架构（DSA）的张量处 理单元（TPU），专为深度学习任务设计的定制硬件加速器，加速谷歌的机器学习工作负载， 特别是训练和推理大模型。

世纪50年代，艾伯特·埃利斯（Albert Ellis）开发了一种与之类似的名为理性情绪疗法（RET）的模型。

DR由OpenAI推出，它不同于普通的推理型AI，更像是一位真人专家（Agent）。

图5.3.3 3. 改动三：MXU 在TPU v1 中，矩阵乘法单元（MXU）与向量内存相连，而在TPU v2 中，MXU 则与向量 单元连接，所有数据的传输和计算都由向量单元分发。

图1.2.5 ● 更大的模型：以Transformer 为基本结构的代表性预训练神经语言模型（Neural Language

提示词工程主要分为两种，一是离散提示词（Discrete Prompt）工程，二是连续提示词（Continuous Prompt）工程。

既然提示词是必不可少的，那么我们用什么样的提示词才能获得更好、更精准的效果呢？ 该用什么样的提示词？ 关于这一点，我结合沟通管理大师和社会心理学家约瑟夫（Joseph）与哈里（Harry）提出的经典沟通模型约哈里窗口（Johari Window），根据问题...

编译优化层（MindCompiler）：作为AI 框架的核心，以全场景统一中间表示（MindIR） 为媒介，将前端表达编译成执行效率更高的底层语言，同时进行全局性能优化，包括自动微分、 代数简化等硬件无关优化，以及图算融合、算子生成等硬件相关优化。

将狭义的算子统一称为核（Kernel），在AI 框架中，使用C++实现层里的算子指的就是这 里的Kernel，而这里的Kernel 实现并不支持自动梯度计算（Autograd）模块，也不感知微分的 概念。

图8.12 Prefix Tuning算法的结构 此算法在原始的输入之前增加了一段和任务相关的虚拟词元 （Virtual Tokens）作为前缀（Prefix）。

 分层任务网络（HTN）规划允许智能体以高层动作（HLA）的形式从领域设计者那里获 得建议，这些高层动作可以通过低层动作序列以各种方式实现。

大语言模型智能体(LLM-based Agent) 谷歌的Transformer技术和OpenAI的GPT预训练技术凭借规模定律(Scaling Law)的优势，使大语言模型展现出强大的语言理解能力和解决通用问题的能力。

而在自然語言處理(NLP)系統中，「Transformer」是一種融入注意力機制和神經網路模型領域的主流模型和關鍵技術。

其中，聚合方式主要有原始数据（RAWDATA）、计数（COUNT）、去重计数（COUNT DISTINCT）、求和（SUM）、求平均值（AVERAGE）、求最大值（MAX）、求最小值（MIN）等，如图5-6所示。

评价分数平均值（ Mean of Score ） PQ 感知量化（ Perceptual Quantization ） SDR 标准动态范围（ Standard Dynamic Range ） 5 视频修复增强系统概述 视频修复增强系统通常采用软件自动修复...

当用户编写的C/C++/Obj-C 代码输入到Clang 前端时，Clang 会执行以下步骤： ● 词法分析（Lexical Analysis）：将源代码转换为标记（tokens）。

我们与AI沟通的语言是提示词（Prompt），下面是一个通用且非常容易上手的提示词撰写策略，它由4个要素构成。

每 个计算瓦片都有一个读取单元（Fetch Unit）、一个可编程的8 路SIMD 向量处理单元（这里是 scVPU，不要与TPU v4 中的Tensor Core 的VPU 混淆）以及一个Flush Unit。