趋近智
数据清洗与预处理入门
章节 1: 干净数据的重要性
什么是数据清洗？
什么是数据预处理？
常见数据质量问题来源
数据质量差的影响
数据清洗流程概述
章节 2: 识别和处理缺失数据
什么是缺失值？
检测缺失数据的方法
可视化缺失数据模式
策略一：删除行（行删除法）
策略二：删除列
策略三：基础值填充（均值/中位数/众数）
选择策略的考量
处理缺失数据：动手实践
章节 3: 处理重复数据
如何定义重复数据？
为何移除重复数据？
识别完全重复行
根据特定列识别重复项
移除重复行
处理重复数据：实践
章节 4: 修正数据类型
数据集中的常见数据类型
为什么正确的数据类型很重要
识别不正确的数据类型
转换为数字类型 (整数, 浮点数)
处理数值转换中的错误
转换为日期时间类型
转换为分类或字符串类型
数据类型修正：动手实践
章节 5: 数据格式化与标准化
统一格式的重要性
统一文本大小写（大写/小写）
去除前导/尾随空格
简单字符串替换
基本单位转换示例
格式化实操
为何移除重复数据？
这部分内容有帮助吗？
- Data Mining: Concepts and Techniques, Jiawei Han, Micheline Kamber, Jian Pei, 2011 (Elsevier) - 这本书是数据挖掘领域公认的资源，其中专门有一章介绍数据预处理，涵盖数据清洗策略及解决不一致和重复数据的基本原理，以确保分析的数据质量。
- Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems, Aurélien Géron, 2022 (O'Reilly Media) - 这本机器学习实用指南广泛涵盖数据准备技术，强调干净数据（包括重复数据移除）对于构建稳健、准确的机器学习模型的重要性。
- Data Quality: The Ten Dimensions That Every Data Professional Needs to Know, James D. Price, 2017 (Technics Publications) - 本书提供了一个理解和管理数据质量的实用框架，详细说明了重复记录等问题如何破坏数据完整性，并从多个维度影响业务运营和分析结果。