条件随机场 (CRF)

“c、BERT、NEZHA等，用来表征Token的语义信息；而下接结构如双向长短时记忆（BiLSTM）网络、双向门控循环单元（BiGRU）、R-Transformer [1] 、空洞卷积（IDCNN） [2] 等模型结构则是用来补充文本序列的方向信息；条件随机场（CRF）则是基于下接结构传来的隐含层（Hidden）值计算序列信息的全局分布，使NER模型在训练过程中更加容易得到最优解。”

“常用的浅层结构机器学习算法包括高斯混合模型（GMM）、隐马 尔科夫模型（HMM）、条件随机场（CRF）、最大熵模型 （MaxEnt）、支持向量机（SVM）、逻辑回归（LR），以及单隐层的 多层感知机（MLP）等，这些浅层结构模型的共性是只有一个隐含层用 来将数据的原始信号转换为问题空间的特征表示。”

“可选择的模型包括 隐马尔可夫模型（HMM）、条件随机场（CRF）模型、神经网络模型 等，目前流行的方法是将传统的机器学习模型与深度学习相结合，如 利用长短期记忆（LSTM）模型进行特征自动提取，再结合CRF模型，利 用模型各自的优势，以达到更好的抽取效果。”

“语言场景的困难指的是人类语言的多样性、复杂性和歧义性；学习算法的困难指的是NLP的数理模型一般都较难懂，例如，隐马尔可夫模型（HMM）、条件随机场（CRF）及基于RNN的深度学习模型；语料的困难指的是如何获取高质量的训练语料。”

“条件随机场（CRF）由Lafferty等人于2001年提出，结合了最大熵模型和隐马尔可夫模型的特点，是一种无向图模型，近年来在分词、词性标注和命名实体识别等序列标注任务中取得了很好的效果。”

“然后，网络的输出图和得分图进行双线性插值（Bi-linear Interpolation），上采样8倍到原图大小，通过完全连接的条件随机场（CRF）来微调结果并获得最终输出。”