Python数据预处理技术与实践
大数据分析与挖掘从业者和AI技术开发人员必读

作者:白宁超、唐聃、文俊

定价:69元

印次:1-8

ISBN:9787302539711

出版日期:2019.12.01

印刷日期:2026.01.13

图书责编:王金柱

图书分类:零售

电子书
在线购买
分享
内容简介
作者简介
前言序言
资源下载
查看详情 查看详情 查看详情

本书基础理论和工程应用相结合,循序渐进地介绍了数据预处理的基本概念、基础知识、工具应用和相关案例,包括网络爬虫、数据抽取、数据清洗、数据集成、数据变换、数据向量化、数据规约等知识,书中针对每个知识点,都给出了丰富的教学实例和实现代码,最后,通过一个新闻文本分类的实际项目讲解了数据预处理技术在实际中的应用。 本书的特点是几乎涵盖了数据预处理的各种常用技术及主流工具应用,示例代码很丰富,适合于大数据从业者、AI技术开发人员以及高校大数据专业的学生使用。

白宁超,大数据工程师,现任职于四川省计算机研究院,研究方向包括数据分析、自然语言处理和深度学习。主持和参与国家自然基金项目和四川省科技支撑计划项目多项,出版专著1部。唐聃,教授,硕士生导师,成都信息工程大学软件工程学院院长,四川省学术和技术带头人后备人选。研究方向包括编码理论与人工智能,《自然语言处理理论与实战》一书作者。文俊,硕士,大数据算法工程师,现任职于成都广播电视台橙视传媒大数据中心。曾以技术总监身份主持研发多个商业项目,负责公司核心算法模型构建。主要研究方向包括数据挖掘、自然语言处理、深度学习及云计算。

前 言 当前,大数据与人工智能技术炙手可热,其对应的工作岗位也逐年增加,薪资也较为诱人。我们在做大数据与人工智能处理时,不可避免地会遇到数据的问题。现实中的数据是不完整的,比如存在缺失值、干扰值等脏数据,这样就没有办法直接挖掘数据的价值,也不能将其直接应用于人工智能设备。为了提高数据的质量产生了数据预处理技术。数据预处理主要是指对原始数据进行文本抽取、数据清理、数据集成、数据变换、数据降维等处理,其目的是提高数据质量,以更好地提升算法模型的性能,其在数据挖掘、自然语言处理、机器学习、深度学习算法中应用广泛。数据预处理是一项很庞杂的工程,当你面对一堆数据手足无措的时候,当你面对数据预处理背后的坑一筹莫展的时候,当你的算法性能迟迟不能提升的时候,本书可以帮助你解决以上问题。本书从什么是数据预处理及其相关基础知识入手,分别介绍了网络爬虫、数据抽取、数据清洗、数据集成、数据变换、数据向量化、数据规约等技术,并结合实际项目和案例帮助读者将所学知识快速应用于工程实践,相信会对数据预处理感兴趣的读者和大数据从业者有所帮助。 本书的主要内容 本书从逻辑上可分为三部分,共12章内容,各部分说明如下: 第一部分(第1~3章),主要介绍数据预处理的基础知识,包括数据预处理的基本概念、工作流程、应用场景、开发环境、入门演练和Python科学计算工具包Numpy、SciPy、Pandas及其实际应用。如果读者已具备一定的数据预处理基础,可以跳过此部分,从第三章开始学习。 第二部分(第3~10章),是数据预处理的实战进阶部分,共计8章。第3章介绍数据采集与存储,主要涉及数据类型和采集方式,...

目录
荐语
查看详情 查看详情
目    录

第1章  概述 1

1.1  Python数据预处理 1

1.1.1  什么是数据预处理 1

1.1.2  为什么要做数据预处理 2

1.1.3  数据预处理的工作流程 2

1.1.4  数据预处理的应用场景 3

1.2  开发工具与环境 3

1.2.1  Anaconda介绍与安装 3

1.2.2  Sublime Text 7

1.3  实战案例:第一个中文分词程序 12

1.3.1  中文分词 12

1.3.2  实例介绍 14

1.3.3  结巴实现中文分词 14

1.4  本章小结 15

第2章  Python科学计算工具 16

2.1  NumPy 16

2.1.1  NumPy的安装和特点 16

2.1.2  NumPy数组 18

2.1.3  Numpy的数学函数 20

2.1.4  NumPy线性代数运算 22

2.1.5  NumPy IO操作 22

2.2  SciPy 23

2.2.1  SciPy的安装和特点 23

2.2.2  SciPy Linalg 25

2.2.3  SciPy文件操作 27

2.2.4  SciPy 插值 28

2.2.5  SciPy Ndimage 30

2.2.6  SciPy优化算法 33

2.3  Pandas 35

2.3.1  Pandas的安装和特点 36

2.3.2  Pandas的数据结构 36

2.3.3  Pandas的数据统计 39

2.3.4  Pandas处理丢失值 41

2.3.5  Pandas处理稀疏数据 45... 查看详情

本书结合作者的项目经验,从实际工程需求出发,循序渐进地介绍了大数据预处理相关技术、流行工具与应用案例,全书分为三部分,核心内容概要如下:
第一部分 数据预处理的基础知识。包括数据预处理的基本概念、工作流程、应用场景、开发环境、入门演练和Python科学计算工具包Numpy、SciPy、Pandas的实际应用等。
第二部分 数据预处理的实战进阶。内容包括:
数据采集与存储,主要涉及数据结构类型和采集方式,着重介绍了爬虫技术以及不同格式的文本信息抽取和文件读取。
高效读取文件、正则清洗文本信息、网页数据清洗和文本批量清洗。
中文分词精讲、封装分词工具包、NLTK词频处理、命名实体抽取和批量分词处理。
特征向量化处理,涉及数据解析、缺失值处理、归一化处理、特征词文本向量化、词频-逆词频、词集模型、词袋模型和批量文本特征向量化。
基于Gensim的文本特征向量化,涉及构建语料词典、词频统计、词频-逆词频计算、主题模型和特征降维等。
主成分分析PCA降维技术的原理和实际案例。
Matplotlib数据可视化分析案例。

第三部分 数据预处理的实际应用。主要介绍竞赛神器XGBoost的算法原理、应用、优化调参以及数据预处理在文本分类中的实际应用。


查看详情