ADK.wang AI & 软件技术百科

机器学习算法中最重要的就是数据，根据使用的数据形式，可以分为三大类：监督学习（Supervised Learning）、无监督学习（Unsupervised Learning）与强化学习（Reinforcement Learning），如图1.3所示。

In the 1980s, researchers began developing Generative Adversarial Network (GAN) algorithms, which are highly efficient Generativ...

我们可以将采集的数据应用于常见的机器学习模型中，如支持向量机（SVM）、随机森林（Random Forest）等，同时也可以尝试深度学习模型，如循环神经网络（RNN）、长短时记忆网络（LSTM）等。

complexity by applying Recurrent Neural Network (RNN), Gated Recurrent

深度神经网络模型中的深度是指模型叠加的神经元层数非常之多，一些神经网络的层次已经可以达到上千层，主要得益于鲁梅尔哈特（Rumelhart）等人提出的反向传播（BP）算法和近年来提出的残差网络（ResNet）模型等。

在深度学习兴起应用到语言识别领域之前，声学模型已经有了非常成熟的模型体系，以及被成功应用到实际系统中的案例，例如，经典的高斯混合模型（GMM）和隐马尔可夫模型（HMM）等。

图3-5 非监督学习 比较有名的非监督学习算法有 K 均值聚类（K-Means Clustering）、关联规则分析（Association Rule，如Apriori算法等）、主成分分析（Principal Components Analysis，PCA...

表示学习的重点是自动学习，它与传统机器学习中的特征工程（Feature Engineering）不同，特征工程主要指对于数据的人为处理提取，如处理缺失值、特征选择、类型转换、维度压缩等预处理手段。

常见的深度学习应用包括： ·图像分类 ·实时视觉跟踪 ·自动驾驶 ·机器人控制 ·物流优化 ·生物信息 ·语音识别和自然语言理解（NLU） ·自然语言生成（NLG）和语音合成 这些问题中有许多也可以使用经典方法来求解，但有时候复杂得多，而深度学习的效果更好。

贝叶斯优化（Bayesian optimization）是一种自适应的超参数优化方法，根据当前已经试验的超参数组合来预测下一个可能带来最大收益的组合。

为了估计系数所（即图结构 ）,Peters 和 Biihlmann （ 2014 ） 建议使用基于贝叶斯信息 准则 （ BIC ） 的惩罚最大似然分数，见 7.2.2 节，以及 dag 空间中的贪婪搜索算法。

马尔可夫过程（Markov Process）及马尔可夫链（Markov Chain）是马尔可夫决策过程（Markov decision Process）的基础知识。

第3章简要介绍深度学习的基础模型，包括深度神经网络（Deep Neural Networks）、深度卷积神经网络（Convolutional Neural Networks）、深度循环神经网络（Recurrent Neural Networks）、深度图神...

表 4-2 分类 正确结果标签 正 负 正 True Positive（TP） False Positive（FP） 负 False Negative（FN） True Negative（TN） 分类结果为正的情况是 Positive、为负的情况是 Neg...

表 4-2 分类 正确结果标签 正 负 正 True Positive（TP） False Positive（FP） 负 False Negative（FN） True Negative（TN） 分类结果为正的情况是 Positive、为负的情况是 Neg...

表 4-2 分类 正确结果标签 正 负 正 True Positive（TP） False Positive（FP） 负 False Negative（FN） True Negative（TN） 分类结果为正的情况是 Positive、为负的情况是 Neg...

表 4-2 分类 正确结果标签 正 负 正 True Positive（TP） False Positive（FP） 负 False Negative（FN） True Negative（TN） 分类结果为正的情况是 Positive、为负的情况是 Neg...

但在实际工程项目中，很多隶属于传统机器学习范畴的经典算法依旧能发挥着巨大的作用，比如决策树学习（Decision Tree Learning）、聚类（Clustering）、支持向量机SVM（Support Vector Machine）和贝叶斯网络（Ba...

表12-1 生成模型的常见公共基准测试 基准测试 描 述 MMLU 大规模多任务语言理解（ MMLU ）基准测试在 57 个不同任务上测试模型，包括分类、 问答和情感分析 GLUE 通用语言理解评估（ GLUE ）基准测试由涵盖各种难度的语言理解任务组成 ...

PyTorch PyTorch是一个基于Torch的Python开源机器学习库，用于机器学习、自然语言处理等，它是2017年由Facebook人工智能研究院（FAIR）推出的，它不仅能够实现GPU加速，还支持动态神经网络。

参数服务器（ Parameter Server ） 参数服务器是实现分布式机器学习的一种典型架构，目前很多研究 集中在这个方向，比如，Google能够处理百亿参数规模的深度机器学习 框架DistBelief就是此种架构。

最权威的企业流程分类：PCF 自1991年开始，美国生产力与质量中心（APQC）开始开发流程分类框架（Process Classification Framework，PCF）。

organization may consider having the CAIO report up through the Chief Executive Officer (CEO). The CAIO is expected to col- labo...

更灵活的结构：图神经网络、深度搜索树网等模型算法，通过不断抽象多样且灵活的数 据结构（例如图形（Graph）、树形（Tree）等），来应对更为复杂的建模需求，进而衍生出新 的算子（例如图卷积等）与计算框架（例如图神经网络框架等）。