# 零、前言
随着世界朝着数字化和自动化的方向发展,作为技术专家/程序员,保持自我更新并学习如何利用这些工具和技术非常重要。 本书《Python 迁移学习实用指南》旨在帮助从业人员熟悉并准备好在各自领域中使用这些进步。 本书大致分为三个部分:
* 深度学习基础
* 迁移学习的要点
* 迁移学习案例研究
迁移学习是一种**机器学习**(**ML**)技术,其中在训练一组 ML 问题中获得的知识可以用于训练其他类似类型的问题。
这本书的目的是双重的。 我们将专注于深度学习和迁移学习的详细介绍,并通过易于理解的概念和示例将两者进行比较和对比。 第二个重点领域是使用 TensorFlow,Keras 和 Python 生态系统(带动手实例)的实际示例和研究问题。
本书从 ML 和深度学习的核心基本概念开始,然后是一些重要的深度学习架构的描述和覆盖,例如 CNN,DNN,RNN,LSTM 和胶囊网络。 然后,我们的重点转移到迁移学习概念和经过训练的*高级网络*,例如 VGG,Inception 和 ResNet。 我们还将学习如何利用这些系统来改善我们的深度学习模型的表现。 最后,我们重点关注**计算机视觉**,**音频分析**和**自然语言处理**(**NLP**)。
到本书结尾,您将准备好在自己的系统中既实现深度学习又实现迁移学习的原则。
# 这本书是给谁的
《Python 迁移学习实用指南》适用于对数据感兴趣并应用最先进的迁移学习方法来解决实际难题的数据科学家,ML 工程师,分析师和开发人员。
需要具备 ML 和 Python 的基本知识。
# 本书涵盖的内容
第 1 章“机器学习基础”介绍了 CRISP-DM 模型,该模型为任何数据科学,ML 或深度学习项目提供了行业标准框架/工作流程。 我们还将涉及涵盖 ML 领域基础知识的各种重要概念,例如探索性数据分析,特征提取和工程,评估指标等。
第 2 章“深度学习基础知识”提供了深度学习基础知识的旋风之旅,概述了神经网络的基本组成部分以及如何训练深度神经网络。 从单个神经单元工作原理的基础开始,涵盖了重要的概念,例如激活函数,损失函数,优化器和神经网络超参数。 还特别强调建立本地和基于云的深度学习环境。
第 3 章“了解深度学习架构”着重于理解当今在深度学习中使用的各种标准模型架构。 自 1960 年代的传统人工神经网络以来,我们已经走了很长一段路,而基本模型架构,例如完全连接的**深层神经网络**(**DNN**),**卷积神经网络**(**CNN**),**循环神经网络**(**RNN**),**长期记忆**(**LSTM**)网络, 仅举几例,将介绍最新的**胶囊网络**。
第 4 章“迁移学习基础”着眼于与迁移学习概念相关的核心概念,术语和模型架构。 将详细讨论与预训练模型有关的概念和架构。 我们还将把迁移学习与深度学习进行比较和对比,并讨论迁移学习的类型和策略。
第 5 章“释放迁移学习的力量”,以来自 Kaggle 的数据集为例,利用深度学习模型和少量数据点,使读者了解我们面临的挑战,以及迁移学习如何释放其真正的力量和潜力,以在这些情况下为我们提供出色的模型。 在这里,我们将通过较少的数据可用性约束来解决非常受欢迎的猫猫分类任务。
第 6 章“图像识别和分类”是在本书的前两部分中详细讨论的概念的一系列实际应用/案例研究中的第一篇。 本章首先介绍了图像分类的任务,然后继续讨论并实现了针对各种图像分类问题的一些流行的,最新的深度学习模型。
第 7 章“文本文档分类”讨论了迁移学习在非常流行的自然语言处理问题文本文档分类中的应用。 本章从高层次介绍多类别文本分类问题,传统模型,基准文本分类数据集(例如 20 个新闻组)和表现开始。 随后,它介绍了用于文本分类的深度学习文档模型及其相对于传统模型的优势。 我们将学习使用密集向量的单词特征表示,以及如何在文本分类问题中如何利用相同特征来应用迁移学习,从而使源域和目标域可能有所不同。 还描述了其他无监督的任务,例如文档摘要。
第 8 章“音频识别和分类”解决了识别和分类非常短的音频剪辑的难题。 在这里,我们利用一些创新技术来利用迁移学习,这些创新技术将来自计算机视觉领域的预训练深度学习模型的功能应用于完全不同的音频识别领域。
第 9 章“DeepDream”着重介绍了生成型深度学习的领域,这是真正人工智能最前沿的核心思想之一。 我们将重点研究卷积神经(CNN)如何通过迁移学习来思考或梦想和形象化图像中的模式。 由 Google 于 2015 年首次发布,由于深层网络开始从图像中产生有趣的模式,仿佛自己在思考和做梦,它引起了轰动。
第 10 章“风格迁移”利用来自深度学习,迁移学习和生成学习的概念,通过动手实例在不同内容和样式的图像上展示艺术图像神经风格迁移。
第 11 章“自动图像字幕生成器”涵盖了计算机视觉以及自然语言生成中最复杂的问题之一-图像字幕。 虽然将图像分类为固定类别具有挑战性但并非不可能,但这是一个稍微复杂的任务,涉及为任何照片或场景生成类似于人类的自然语言文本说明。 利用迁移学习,自然语言处理和生成模型的功能,您将学习如何从头开始构建自己的自动图像字幕系统。
第 12 章“图像着色”提供了一个独特的案例研究,其任务是为黑白或灰度图像着色。 本章向读者介绍各种色标的基础知识,以及为什么图像着色是一项如此困难的任务。
# 充分利用这本书
1. 如果您精通 ML 和 Python,那就太好了。
2. 对数据分析,机器学习和深度学习的浓厚兴趣将是有益的。
# 使用约定
本书中使用了许多文本约定。
`CodeInText`:指示文本,数据库表名称,文件夹名称,文件名,文件扩展名,路径名,虚拟 URL,用户输入和 Twitter 句柄中的代码字。 这是一个示例:“完成后,请记住使用您喜欢的编辑器(我们使用`vim`)在`~/.bashrc`的末尾添加以下行。”
代码块设置如下:
```py
import glob
import numpy as np
import os
import shutil
from utils import log_progress
np.random.seed(42)
```
当我们希望引起您对代码块特定部分的注意时,相关的行或项目以粗体显示:
```py
preprocessor = Preprocess()
corpus_to_seq = preprocessor.fit(corpus=corpus)
holdout_corpus = test_df['review'].values
holdout_target = test_df['sentiment'].values
holdout_corpus_to_seq = preprocessor.transform(holdout_corpus)
```
任何命令行输入或输出的编写方式如下:
```py
ubuntu@ip:~$ mkdir ssl
ubuntu@ip:~$ cd ssl
ubuntu@ip:~/ssl$
```
**粗体**:表示新术语,重要单词或您在屏幕上看到的单词。 例如,菜单或对话框中的单词会出现在这样的文本中。 这是一个示例:“启动实例后,您可以签出“实例”部分并尝试连接到实例。”
警告或重要提示如下所示。
提示和技巧如下所示。
- TensorFlow 1.x 深度学习秘籍
- 零、前言
- 一、TensorFlow 简介
- 二、回归
- 三、神经网络:感知器
- 四、卷积神经网络
- 五、高级卷积神经网络
- 六、循环神经网络
- 七、无监督学习
- 八、自编码器
- 九、强化学习
- 十、移动计算
- 十一、生成模型和 CapsNet
- 十二、分布式 TensorFlow 和云深度学习
- 十三、AutoML 和学习如何学习(元学习)
- 十四、TensorFlow 处理单元
- 使用 TensorFlow 构建机器学习项目中文版
- 一、探索和转换数据
- 二、聚类
- 三、线性回归
- 四、逻辑回归
- 五、简单的前馈神经网络
- 六、卷积神经网络
- 七、循环神经网络和 LSTM
- 八、深度神经网络
- 九、大规模运行模型 -- GPU 和服务
- 十、库安装和其他提示
- TensorFlow 深度学习中文第二版
- 一、人工神经网络
- 二、TensorFlow v1.6 的新功能是什么?
- 三、实现前馈神经网络
- 四、CNN 实战
- 五、使用 TensorFlow 实现自编码器
- 六、RNN 和梯度消失或爆炸问题
- 七、TensorFlow GPU 配置
- 八、TFLearn
- 九、使用协同过滤的电影推荐
- 十、OpenAI Gym
- TensorFlow 深度学习实战指南中文版
- 一、入门
- 二、深度神经网络
- 三、卷积神经网络
- 四、循环神经网络介绍
- 五、总结
- 精通 TensorFlow 1.x
- 一、TensorFlow 101
- 二、TensorFlow 的高级库
- 三、Keras 101
- 四、TensorFlow 中的经典机器学习
- 五、TensorFlow 和 Keras 中的神经网络和 MLP
- 六、TensorFlow 和 Keras 中的 RNN
- 七、TensorFlow 和 Keras 中的用于时间序列数据的 RNN
- 八、TensorFlow 和 Keras 中的用于文本数据的 RNN
- 九、TensorFlow 和 Keras 中的 CNN
- 十、TensorFlow 和 Keras 中的自编码器
- 十一、TF 服务:生产中的 TensorFlow 模型
- 十二、迁移学习和预训练模型
- 十三、深度强化学习
- 十四、生成对抗网络
- 十五、TensorFlow 集群的分布式模型
- 十六、移动和嵌入式平台上的 TensorFlow 模型
- 十七、R 中的 TensorFlow 和 Keras
- 十八、调试 TensorFlow 模型
- 十九、张量处理单元
- TensorFlow 机器学习秘籍中文第二版
- 一、TensorFlow 入门
- 二、TensorFlow 的方式
- 三、线性回归
- 四、支持向量机
- 五、最近邻方法
- 六、神经网络
- 七、自然语言处理
- 八、卷积神经网络
- 九、循环神经网络
- 十、将 TensorFlow 投入生产
- 十一、更多 TensorFlow
- 与 TensorFlow 的初次接触
- 前言
- 1. TensorFlow 基础知识
- 2. TensorFlow 中的线性回归
- 3. TensorFlow 中的聚类
- 4. TensorFlow 中的单层神经网络
- 5. TensorFlow 中的多层神经网络
- 6. 并行
- 后记
- TensorFlow 学习指南
- 一、基础
- 二、线性模型
- 三、学习
- 四、分布式
- TensorFlow Rager 教程
- 一、如何使用 TensorFlow Eager 构建简单的神经网络
- 二、在 Eager 模式中使用指标
- 三、如何保存和恢复训练模型
- 四、文本序列到 TFRecords
- 五、如何将原始图片数据转换为 TFRecords
- 六、如何使用 TensorFlow Eager 从 TFRecords 批量读取数据
- 七、使用 TensorFlow Eager 构建用于情感识别的卷积神经网络(CNN)
- 八、用于 TensorFlow Eager 序列分类的动态循坏神经网络
- 九、用于 TensorFlow Eager 时间序列回归的递归神经网络
- TensorFlow 高效编程
- 图嵌入综述:问题,技术与应用
- 一、引言
- 三、图嵌入的问题设定
- 四、图嵌入技术
- 基于边重构的优化问题
- 应用
- 基于深度学习的推荐系统:综述和新视角
- 引言
- 基于深度学习的推荐:最先进的技术
- 基于卷积神经网络的推荐
- 关于卷积神经网络我们理解了什么
- 第1章概论
- 第2章多层网络
- 2.1.4生成对抗网络
- 2.2.1最近ConvNets演变中的关键架构
- 2.2.2走向ConvNet不变性
- 2.3时空卷积网络
- 第3章了解ConvNets构建块
- 3.2整改
- 3.3规范化
- 3.4汇集
- 第四章现状
- 4.2打开问题
- 参考
- 机器学习超级复习笔记
- Python 迁移学习实用指南
- 零、前言
- 一、机器学习基础
- 二、深度学习基础
- 三、了解深度学习架构
- 四、迁移学习基础
- 五、释放迁移学习的力量
- 六、图像识别与分类
- 七、文本文件分类
- 八、音频事件识别与分类
- 九、DeepDream
- 十、自动图像字幕生成器
- 十一、图像着色
- 面向计算机视觉的深度学习
- 零、前言
- 一、入门
- 二、图像分类
- 三、图像检索
- 四、对象检测
- 五、语义分割
- 六、相似性学习
- 七、图像字幕
- 八、生成模型
- 九、视频分类
- 十、部署
- 深度学习快速参考
- 零、前言
- 一、深度学习的基础
- 二、使用深度学习解决回归问题
- 三、使用 TensorBoard 监控网络训练
- 四、使用深度学习解决二分类问题
- 五、使用 Keras 解决多分类问题
- 六、超参数优化
- 七、从头开始训练 CNN
- 八、将预训练的 CNN 用于迁移学习
- 九、从头开始训练 RNN
- 十、使用词嵌入从头开始训练 LSTM
- 十一、训练 Seq2Seq 模型
- 十二、深度强化学习
- 十三、生成对抗网络
- TensorFlow 2.0 快速入门指南
- 零、前言
- 第 1 部分:TensorFlow 2.00 Alpha 简介
- 一、TensorFlow 2 简介
- 二、Keras:TensorFlow 2 的高级 API
- 三、TensorFlow 2 和 ANN 技术
- 第 2 部分:TensorFlow 2.00 Alpha 中的监督和无监督学习
- 四、TensorFlow 2 和监督机器学习
- 五、TensorFlow 2 和无监督学习
- 第 3 部分:TensorFlow 2.00 Alpha 的神经网络应用
- 六、使用 TensorFlow 2 识别图像
- 七、TensorFlow 2 和神经风格迁移
- 八、TensorFlow 2 和循环神经网络
- 九、TensorFlow 估计器和 TensorFlow HUB
- 十、从 tf1.12 转换为 tf2
- TensorFlow 入门
- 零、前言
- 一、TensorFlow 基本概念
- 二、TensorFlow 数学运算
- 三、机器学习入门
- 四、神经网络简介
- 五、深度学习
- 六、TensorFlow GPU 编程和服务
- TensorFlow 卷积神经网络实用指南
- 零、前言
- 一、TensorFlow 的设置和介绍
- 二、深度学习和卷积神经网络
- 三、TensorFlow 中的图像分类
- 四、目标检测与分割
- 五、VGG,Inception,ResNet 和 MobileNets
- 六、自编码器,变分自编码器和生成对抗网络
- 七、迁移学习
- 八、机器学习最佳实践和故障排除
- 九、大规模训练
- 十、参考文献