趋近智
自然语言处理基本原理
章节 1: 自然语言处理基本原理与高级文本处理
自然语言处理流程
高级分词方法
词干提取与词形还原比较
文本数据中的噪声处理
停用词高级定制
文本标准化方法
动手实践：构建预处理流程
章节 2: 文本特征工程
从词袋模型到TF-IDF
计算 TF-IDF 分数
使用N-gram来获取语境信息
特征哈希简介
文本特征的降维
比较不同的文本表示方法
动手实践：生成文本特征
章节 3: 监督学习在文本分类中的应用
分类算法回顾
将分类器应用于文本数据
分类模型评估指标
交叉验证策略
文本模型的超参数调优
处理不平衡数据集
实践：构建文本分类器
章节 4: 嵌入表示与序列数据理解
基于频率的模型的局限性
分布式语义学简介
词嵌入基本原理
Word2Vec：CBOW 与 Skip-gram 模型结构
GloVe：词语的全局向量表示
词嵌入的可视化
使用预训练词嵌入模型
动手实践：使用词嵌入
章节 5: 自然语言处理中的序列模型介绍
序列感知的必要性
循环神经网络（RNN）基础
理解梯度消失问题
长短期记忆（LSTM）网络
门控循环单元 (GRUs)
将序列模型应用于文本
动手实践：构建一个简单的序列模型
高级分词方法
这部分内容有帮助吗？
- Neural Machine Translation of Rare Words with Subword Units, Rico Sennrich, Barry Haddow, and Alexandra Birch, 2016 Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (Association for Computational Linguistics) DOI: 10.18653/v1/P16-1162 - 介绍了用于开放词汇神经机器翻译的字节对编码（BPE），是NLP子词分词的一项工作。
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova, 2019 Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers) (Association for Computational Linguistics) DOI: 10.18653/v1/N19-1423 - 虽然主要介绍BERT模型，但本文详细阐述了所使用的WordPiece分词策略，使其成为理解WordPiece的来源。
- Tokenizers, Hugging Face, 2023 (Hugging Face) - 提供了现代分词方法（包括BPE、WordPiece和SentencePiece）的实用指导和概述，并附有实现示例。