基于LSTM网络地序列标注中文分词法.PDFVIP

优先出版 计 算 机 应 用 研 究 第33 卷 基于LSTM 网络的序列标注中文分词法* 1, 2 2, 3* 2, 3 2 1 任智慧 ，徐浩煜 ，封松林 ，周 晗 ，施 俊 (1 ．上海大学 通信与信息工程学院，上海 200444 ；2 ．中国科学院上海高等研究院，上海 201210 ；3 ．中国科学院大 学，北京 100049) 摘 要：当前主流的中文分词方法是基于字标注的传统机器学习的方法。但传统机器学习方法需要人为地从中文文本 中配置并提取特征，存在词库维度高且仅利用 CPU 训练模型时间长的缺点。针对以上问题，进行了研究提出基于 LSTM （long short-term memory ）网络模型的改进方法，采用不同词位标注集并加入预先训练的字嵌入向量 （character embedding）进行中文分词。在中文分词评测常用的语料上进行实验对比，结果表明：基于LSTM 网络模型的方法能得 到比当前传统机器学习方法更好的性能；采用六词位标注并加入预先训练的字嵌入向量能够取得相对最好的分词性 能；而且利用GPU 可以大大缩短深度神经网络模型的训练时间；LSTM 网络模型的方法也更容易推广并应用到其他自 然语言处理（NLP ）中序列标注的任务。 关键词：中文分词；LSTM ；字嵌入 中图分类号：TP391.1 Sequence labeling Chinese word segmentation method based on LSTM networks 1, 2 2, 3* 2, 3 2 1 Ren Zhihui , Xu Haoyu , Feng Songlin , Zhou Han , Shi Jun (1. School of Communication Information Engineering, Shanghai University, Shanghai 200444, Chian; 2 Shanghai Advanced Research Institute, Chinese Academy of Sciences, Shanghai 201210, Chian; 3. University of Chinese Academy of Sciences, Bei- jing 100049, Chian) Abstract: Currently, the dominant state-of-the-art methods for Chinese word segmentation are based on character tagging meth- ods by using traditional machine learning technology. However, there are some disadvantages in the traditional machine learning methods: 1) Artificially configuring and extracting features from Chinese texts ; 2) High dimension of the dictionary; 3) long training time by just exploiting CPUs. This paper proposed an improved method based on Long Short-Term Memory (LSTM) network model, by using differen