ML_006：Google Machine Learning 在线速成课程学习笔记之六

在线课程地址：https://developers.google.com/machine-learning

9. 正则化
为什么要正则化？简单来说，就是不要过于依赖样本，防止过拟合。

9.1 L2 正则化
请查看以下泛化曲线，该曲线显示的是训练集和验证集相对于训练迭代次数的损失。

上图显示的是某个模型的训练损失逐渐减少，但验证损失最终增加。换言之，该泛化曲线显示该模型与训练集中的数据过拟合。
根据奥卡姆剃刀定律，或许我们可以通过降低复杂模型的复杂度来防止过拟合，这种原则称为正则化。
也就是说，并非只是以最小化损失（经验风险最小化）为目标，而是以最小化损失和复杂度为目标，这称为结构风险最小化。
现在，我们的训练优化算法是一个由两项内容组成的函数：一个是损失项，用于衡量模型与数据的拟合度，另一个是正则化项，用于衡量模型复杂度。

机器学习速成课程重点介绍了两种衡量模型复杂度的常见方式（这两种方式有些相关）：

• 将模型复杂度作为模型中所有特征的权重的函数。
• 将模型复杂度作为具有非零权重的特征总数的函数。

如果模型复杂度是权重的函数，则特征权重的绝对值越高，对模型复杂度的贡献就越大。
我们可以使用 L2 正则化公式来量化复杂度，该公式将正则化项定义为所有特征权重的平方和。
在这个公式中，接近于 0 的权重对模型复杂度几乎没有影响，而离群值权重则可能会产生巨大的影响。

9.2 简化正则化 Lambda

模型开发者通过以下方式来调整正则化项的整体影响：用正则化项的值乘以名为 lambda（又称为正则化率）的标量。也就是说，模型开发者会执行以下运算：

执行简化正则化对模型具有以下影响：（为什么？）

• 使权重值接近于 0（但并非正好为 0）
• 使权重的平均值接近于 0，且呈正态（钟形曲线或高斯曲线）分布。

增加 lambda 值将增强正则化效果，lambda 值较高的权重直方图可能会下图所示：

降低 lambda 的值往往会得出比较平缓的直方图，如下图所示：

在选择 lambda 值时，目标是在简单化和训练数据拟合之间达到适当的平衡：

• 如果您的 lambda 值过高，则模型会非常简单，但是您将面临数据欠拟合的风险。您的模型将无法从训练数据中获得足够的信息来做出有用的预测。
• 如果您的 lambda 值过低，则模型会比较复杂，并且您将面临数据过拟合的风险。您的模型将因获得过多训练数据特点方面的信息而无法泛化到新数据。

注意：将 lambda 设为 0 可彻底取消正则化。 在这种情况下，训练的唯一目的将是最小化损失，而这样做会使过拟合的风险达到最高。

理想的 lambda 值生成的模型可以很好地泛化到以前未见过的新数据。遗憾的是，理想的 lambda 值取决于数据，因此您需要手动或自动进行一些调整。
lambda 值是怎么得到的？

ML_005：Google Machine Learning 在线速成课程学习笔记之五

在线课程地址：https://developers.google.com/machine-learning

8. 特征组合 

8.1 对非线性规律进行编码

下图中，蓝点代表生病的树，橙点代表健康的树。

您可以画一条直线将生病的树与健康的树清晰地分开吗？不，您做不到。这是个非线性问题。您画的任何一条线都不能很好地预测树的健康状况。

要解决上图所示的非线性问题，可以创建一个特征组合。特征组合是指通过将两个或多个输入特征相乘来对特征空间中的非线性规律进行编码的合成特征。“cross”（组合）这一术语来自 cross product（向量积）。我们通过将 x1 与x2 组合来创建一个名为 x3 的特征组合：

x3=x1*x2

我们像处理任何其他特征一样来处理这个新建的  特征组合。线性公式变为：

y = b + w1*x1 + w2*x2 + w3*x3

线性算法可以算出 w3 权重值，就像算出 w1 和 w2 权重值一样。换言之，虽然 w3 表示非线性信息，但您不需要改变线性模型的训练方式来确定 w3 的值。

特征组合的种类

我们可以创建很多不同种类的特征组合。例如：

• [A X B]：将两个特征的值相乘形成的特征组合。
• [A x B x C x D x E]：将五个特征的值相乘形成的特征组合。
• [A x A]：对单个特征的值求平方形成的特征组合。

通过采用随机梯度下降法，可以有效地训练线性模型。因此，在使用扩展的线性模型时辅以特征组合一直都是训练大规模数据集的有效方法。

8.2 组合独热矢量

在实践中，机器学习模型很少会组合两个单独的浮点特征。机器学习模型经常组合独热特征矢量，将独热特征矢量的特征组合视为逻辑连接。

例如，假设我们具有以下两个特征：国家/地区和语言。对每个特征进行独热编码会生成具有二元特征的矢量，这些二元特征可解读为 country=USA, country=France 或 language=English, language=Spanish。然后，如果您对这些独热编码进行特征组合，则会得到可解读为逻辑连接的二元特征，如下所示：

  country:usa AND language:spanish

再举一个例子，假设您对纬度和经度进行分箱，获得单独的独热 5 元素特征矢量。例如，指定的纬度和经度可以表示如下：

  binned_latitude = [0, 0, 0, 1, 0]

  binned_longitude = [0, 1, 0, 0, 0]

假设您对这两个特征矢量创建了特征组合：

  binned_latitude X binned_longitude

此特征组合是一个 25 元素独热矢量（24 个 0 和 1 个 1）。该组合中的单个 1 表示纬度与经度的特定连接。然后，您的模型就可以了解到有关这种连接的特定关联性。

假设我们更粗略地对纬度和经度进行分箱，如下所示：

binned_latitude(lat) = [

  0  < lat <= 10

  10 < lat <= 20

  20 < lat <= 30

]

binned_longitude(lon) = [

  0  < lon <= 15

  15 < lon <= 30

]

针对这些粗略分箱创建特征组合会生成具有以下含义的合成特征：

binned_latitude_X_longitude(lat, lon) = [

  0  < lat <= 10 AND 0  < lon <= 15

  0  < lat <= 10 AND 15 < lon <= 30

  10 < lat <= 20 AND 0  < lon <= 15

  10 < lat <= 20 AND 15 < lon <= 30

  20 < lat <= 30 AND 0  < lon <= 15

  20 < lat <= 30 AND 15 < lon <= 30

]

现在，假设我们的模型需要根据以下两个特征来预测狗主人对狗狗的满意程度：

• 行为类型（吠叫、叫、偎依等）
• 时段

如果我们根据这两个特征构建以下特征组合：

  [behavior type X time of day]

我们最终获得的预测能力将远远超过任一特征单独的预测能力。

例如，如果狗狗在下午 5 点主人下班回来时（快乐地）叫喊，可能表示对主人满意度的正面预测结果。如果狗狗在凌晨 3 点主人熟睡时（也许痛苦地）哀叫，可能表示对主人满意度的强烈负面预测结果。

线性学习器可以很好地扩展到大量数据。对大规模数据集使用特征组合是学习高度复杂模型的一种有效策略。神经网络可提供另一种策略，将在后文介绍。

ML_004：Google Machine Learning 在线速成课程学习笔记之四

在线课程地址：https://developers.google.com/machine-learning

7. 表示法

7.1 特征工程
传统编程的关注点是代码。在机器学习项目中，关注点变成了表示。也就是说，开发者通过添加和改善特征来调整模型。

将原始数据映射到特征

上图左侧表示来自输入数据源的原始数据，右侧表示特征矢量，也就是组成数据集中样本的浮点值集。 特征工程指的是将原始数据转换为特征矢量。进行特征工程预计需要大量时间。

机器学习模型通常期望样本表示为实数矢量。这种矢量的构建方法如下：为每个字段衍生特征，然后将它们全部连接到一起。

映射数值
机器学习模型根据浮点值进行训练，因此整数和浮点原始数据不需要特殊编码。

映射字符串值
模型无法通过字符串值学习规律，因此您需要进行一些特征工程来将这些值转换为数字形式：

首先，为您要表示的所有特征的字符串值定义一个词汇表。对于 street_name 特征，该词汇表中将包含您知道的所有街道。
然后，使用该词汇表创建一个独热编码，用于将指定字符串值表示为二元矢量。在该矢量（与指定的字符串值对应）中：

• 只有一个元素设为 1。
• 其他所有元素均设为 0。
• 该矢量的长度等于词汇表中的元素数。

上图显示了某条特定街道 (Shorebird Way) 的独热编码。在此二元矢量中，代表 Shorebird Way 的元素的值为 1，而代表所有其他街道的元素的值为 0。

映射分类（枚举）值
分类特征具有一组离散的可能值。例如，名为 Lowland Countries 的特征只包含 3 个可能值： {'Netherlands', 'Belgium', 'Luxembourg'}
您可能会将分类特征（如 Lowland Countries）编码为枚举类型或表示不同值的整数离散集。例如：

• 将荷兰表示为 0
• 将比利时表示为 1
• 将卢森堡表示为 2

不过，机器学习模型通常将每个分类特征表示为单独的布尔值。例如，Lowland Countries 在模型中可以表示为 3 个单独的布尔值特征：

• x1：是荷兰吗？
• x2：是比利时吗？
• x3：是卢森堡吗？

采用这种方法编码还可以简化某个值可能属于多个分类这种情况（例如，“与法国接壤”对于比利时和卢森堡来说都是 True）。

7.2 良好特征的特点

避免很少使用的离散特征值
良好的特征值应该在数据集中出现大约 5 次以上。这样一来，模型就可以学习该特征值与标签是如何关联的。也就是说，大量离散值相同的样本可让模型有机会了解不同设置中的特征，从而判断何时可以对标签很好地做出预测。
例如，house_type 特征可能包含大量样本，其中它的值为 victorian。
相反，如果某个特征的值仅出现一次或者很少出现，则模型就无法根据该特征进行预测。
例如，unique_house_id 就不适合作为特征，因为每个值只使用一次，模型无法从中学习任何规律。

最好具有清晰明确的含义
每个特征对于项目中的任何人来说都应该具有清晰明确的含义。

不要将“神奇”的值与实际数据混为一谈
良好的浮点特征不包含超出范围的异常断点或“神奇”的值。
例如，假设一个特征具有 0 到 1 之间的浮点值。那么，如下值是可以接受的：quality_rating: 0.37。
如果用户没有输入 quality_rating，则数据集可能使用如下神奇值来表示不存在该值：
quality_rating: -1。

为解决神奇值的问题，需将该特征转换为两个特征：

• 一个特征只存储质量评分，不含神奇值。
• 一个特征存储布尔值，表示是否提供了 quality_rating。为该布尔值特征指定一个名称，例如 is_quality_rating_defined。

考虑上游不稳定性
特征的定义不应随时间发生变化。例如，下列值是有用的，因为城市名称一般不会改变，example:city_id: "br/sao_paulo"
但收集由其他模型推理的值会产生额外成本。可能值“219”目前代表圣保罗，但这种表示在未来运行其他模型时可能轻易发生变化：inferred_city_cluster: "219"。

7.3 数据清理

作为一名机器学习工程师，您将花费大量的时间挑出坏样本并加工可以挽救的样本。即使是非常少量的“坏苹果”也会破坏掉一个大规模数据集。

缩放特征值

缩放是指将浮点特征值从自然范围（例如 100 到 900）转换为标准范围（例如 0 到 1 或 -1 到 +1）。如果某个特征集只包含一个特征，则缩放可以提供的实际好处微乎其微或根本没有。不过，如果特征集包含多个特征，则缩放特征可以带来以下优势：

• 帮助梯度下降法更快速地收敛。
• 帮助避免“NaN 陷阱”。在这种陷阱中，模型中的一个数值变成 NaN（例如，当某个值在训练期间超出浮点精确率限制时），并且模型中的所有其他数值最终也会因数学运算而变成 NaN。
• 帮助模型为每个特征确定合适的权重。如果没有进行特征缩放，则模型会对范围较大的特征投入过多精力。

您不需要对每个浮点特征进行完全相同的缩放。即使特征 A 的范围是 -1 到 +1，同时特征 B 的范围是 -3 到 +3，也不会产生什么恶劣的影响。不过，如果特征 B 的范围是 5000 到 100000，您的模型会出现糟糕的响应。

处理极端离群值

如何最大限度降低这些极端离群值的影响？
一种方法是对每个值取对数。对数缩放可稍稍缓解这种影响，但仍然存在离群值这个大尾巴。

对此，我们采用另一种简单的方法：将某个特征的最大值“限制”为某个任意值，所有大于该值的值都将变为该值。

分箱

下图显示了加利福尼亚州不同纬度的房屋相对普及率。

在数据集中，latitude 是一个浮点值。模型中将 latitude 表示为浮点特征没有意义。这是因为纬度和房屋价值之间不存在线性关系。例如，纬度 35 处的房屋并不比纬度 34 处的房屋贵 35/34（或更便宜）。但是，纬度或许能很好地预测房屋价值。

为了将纬度变为一项实用的预测指标，我们对纬度“分箱”，如下图所示：

每个纬度的房屋数曲线图。

我们现在拥有 11 个不同的布尔值特征（LatitudeBin1、LatitudeBin2、…、LatitudeBin11），而不是一个浮点特征。拥有 11 个不同的特征有点不方便，因此我们将它们统一成一个 11 元素矢量。这样做之后，我们可以将纬度 37.4 表示为：

[0, 0, 0, 0, 0, 1, 0, 0, 0, 0, 0]

分箱之后，我们的模型现在可以为每个纬度学习完全不同的权重。

清查

截至目前，我们假定用于训练和测试的所有数据都是值得信赖的。在现实生活中，数据集中的很多样本是不可靠的，原因有以下一种或多种：

• 遗漏值。 例如，有人忘记为某个房屋的年龄输入值。
• 重复样本。 例如，服务器错误地将同一条记录上传了两次。
• 不良标签。 例如，有人错误地将一颗橡树的图片标记为枫树。
• 不良特征值。 例如，有人输入了多余的位数，或者温度计被遗落在太阳底下。

一旦检测到存在这些问题，您通常需要将相应样本从数据集中移除，从而“修正”不良样本。要检测遗漏值或重复样本，您可以编写一个简单的程序。检测不良特征值或标签可能会比较棘手。

除了检测各个不良样本之外，您还必须检测集合中的不良数据。直方图是一种用于可视化集合中数据的很好机制。此外，收集如下统计信息也会有所帮助：

• 最大值和最小值
• 均值和中间值
• 标准偏差

考虑生成离散特征的最常见值列表。例如，country:uk 的样本数是否符合您的预期？language:jp 是否真的应该作为您数据集中的最常用语言？

了解数据

遵循以下规则：

• 记住您预期的数据状态。
• 确认数据是否满足这些预期（或者您可以解释为何数据不满足预期）。
• 仔细检查训练数据是否与其他来源（例如信息中心）的数据一致。

像处理任何任务关键型代码一样谨慎处理您的数据。良好的机器学习依赖于良好的数据。

ML_003：Google Machine Learning 在线速成课程学习笔记之三

在线课程地址：https://developers.google.com/machine-learning

4. 泛化

泛化是指模型很好地拟合以前未见过的新数据（从用于创建该模型的同一分布中抽取）的能力。

过拟合模型在训练过程中产生的损失很低，但在预测新数据方面的表现却非常糟糕。过拟合是由于模型的复杂程度超出所需程度而造成的。

机器学习的目标是对从真实概率分布（已隐藏）中抽取的新数据做出良好预测。遗憾的是，模型无法查看整体情况；模型只能从训练数据集中取样。如果某个模型在拟合当前样本方面表现良好，那么我们如何相信该模型会对新数据做出良好的预测呢？

奥卡姆剃刀定律：机器学习模型越简单，实证结果就越有可能不仅仅基于样本的特性。

根据以下因素描述模型泛化到新数据的能力：

• 模型的复杂程度
• 模型在处理训练数据方面的表现

如何获得以前未见过的数据呢？一种方法是将您的数据集分成两个子集：

• 训练集 - 用于训练模型的子集。
• 测试集 - 用于测试模型的子集。

机器学习细则

以下三项基本假设阐明了泛化：

• 我们从分布中随机抽取独立同分布的样本。
• 分布是平稳的；即分布在数据集内不会发生变化。
• 我们从同一分布的数据划分中抽取样本。

在实践中，我们有时会违背这些假设。例如：

想象有一个选择要展示的广告的模型。如果该模型在某种程度上根据用户以前看过的广告选择广告，则会违背假设。

想象有一个包含一年零售信息的数据集。用户的购买行为会出现季节性变化，这会违反平稳性。

如果违背了上述三项基本假设中的任何一项，那么我们就必须密切注意指标。

总结

如果某个模型尝试紧密拟合训练数据，但却不能很好地泛化到新数据，就会发生过拟合。

如果不符合监督式机器学习的关键假设，那么我们将失去对新数据进行预测这项能力的重要理论保证。

5. 训练集和测试集
将数据集分为两个子集的概念：

• 训练集 - 用于训练模型的子集。
• 测试集 - 用于测试训练后模型的子集。

确保您的测试集满足以下两个条件：

• 规模足够大，可产生具有统计意义的结果。
• 能代表整个数据集。换言之，挑选的测试集的特征应该与训练集的特征相同。

请勿对测试数据进行训练。如果您的评估指标取得了意外的好结果，则可能表明您不小心对测试集进行了训练。

例如，假设一个模型要预测某封电子邮件是否是垃圾邮件，它使用主题行、邮件正文和发件人的电子邮件地址作为特征。我们按照 80-20 的拆分比例将数据拆分为训练集和测试集。在训练之后，该模型在训练集和测试集上均达到了 99% 的精确率。我们原本预计测试集上的精确率会低于此结果，因此再次查看数据后发现，测试集中的很多样本与训练集中的样本是重复的（由于疏忽，我们在拆分数据之前，没有将输入数据库中的相同垃圾邮件重复条目清理掉）。我们无意中对一些测试数据进行了训练，因此无法再准确衡量该模型泛化到新数据的效果。

6. 验证集
为了防止过拟合，增加了验证集。

该工作流程之所以更好，原因在于它暴露给测试集的信息更少。

ML_002：Google Machine Learning 在线速成课程学习笔记之二

在线课程地址：https://developers.google.com/machine-learning

3. 深入了解机器学习

下图是蝉每分钟的鸣叫声和温度方面的数据关系：

毫无疑问，这是一个线性关系：

如何确定模型的优劣？

简单来说，训练模型表示通过有标签样本来学习（确定）所有权重和偏差的理想值。在监督式学习中，机器学习算法通过以下方式构建模型：检查多个样本并尝试找出可最大限度地减少损失的模型；这一过程称为经验风险最小化。

均方误差 (MSE) 指的是每个样本的平均平方损失。

要计算 MSE，请求出各个样本的所有平方损失之和，然后除以样本数量。

虽然 MSE 常用于机器学习，但它既不是唯一实用的损失函数，也不是适用于所有情形的最佳损失函数。

3.1 降低损失：迭代方法

为了训练模型，我们需要一种可降低模型损失的好方法。迭代方法是一种广泛用于降低损失的方法，而且使用起来简单有效。

迭代策略在机器学习中的应用非常普遍，这主要是因为它们可以很好地扩展到大型数据集。
“模型”部分将一个或多个特征作为输入，然后返回一个预测值作为输出。
应该设置哪些初始值？对于线性回归问题，事实证明初始值并不重要，可以随机选择值。

最后，我们来看图的“计算参数更新”部分。机器学习系统就是在此部分检查损失函数的值，并生成新的特征权重值。现在，假设这个神秘的绿色框会产生新值，然后机器学习系统将根据所有标签重新评估所有特征，为损失函数生成一个新值，而该值又产生新的参数值。这种学习过程会持续迭代，直到该算法发现损失可能最低的模型参数。通常，您可以不断迭代，直到总体损失不再变化或至少变化极其缓慢为止。这时候，我们可以说该模型已收敛。

假设我们有时间和计算资源来计算权重的所有可能值的损失。对于我们一直在研究的回归问题，所产生的损失与权重的图形始终是凸形。换言之，图形始终是碗状图，如下所示：

凸形问题只有一个最低点；即只存在一个斜率正好为 0 的位置。这个最小值就是损失函数收敛之处。

3.2 梯度下降法

通过计算整个数据集中  每个可能值的损失函数来找到收敛点这种方法效率太低。我们来研究一种更好的机制，这种机制在机器学习领域非常热门，称为梯度下降法。

请注意，梯度是一个矢量，因此具有以下两个特征：方向和大小。

梯度始终指向损失函数中增长最为迅猛的方向。梯度下降法算法会沿着负梯度的方向走一步，以便尽快降低损失。

3.3 降低损失：学习速率

梯度下降法算法用梯度乘以一个称为学习速率（有时也称为步长）的标量，以确定下一个点的位置。

超参数是编程人员在机器学习算法中用于调整的旋钮。大多数机器学习编程人员会花费相当多的时间来调整学习速率。如果您选择的学习速率过小，就会花费太长的学习时间：

如何确定“金发姑娘”学习速率呢？

在实践中，成功的模型训练并不意味着要找到“完美”（或接近完美）的学习速率。我们的目标是找到一个足够高的学习速率，该速率要能够使梯度下降过程高效收敛，但又不会高到使该过程永远无法收敛。

3.4 降低损失：随机梯度下降法

在梯度下降法中，批量指的是用于在单次迭代中计算梯度的样本总数。到目前为止，我们一直假定批量是指整个数据集。就 Google 的规模而言，数据集通常包含数十亿甚至数千亿个样本。此外，Google 数据集通常包含海量特征。因此，一个批量可能相当巨大。如果是超大批量，则单次迭代就可能要花费很长时间进行计算。

包含随机抽样样本的大型数据集可能包含冗余数据。实际上，批量大小越大，出现冗余的可能性就越高。一些冗余可能有助于消除杂乱的梯度，但超大批量所具备的预测价值往往并不比大型批量高。

如果我们可以通过更少的计算量得出正确的平均梯度，会怎么样？通过从我们的数据集中随机选择样本，我们可以通过小得多的数据集估算（尽管过程非常杂乱）出较大的平均值。 随机梯度下降法 (SGD) 将这种想法运用到极致，它每次迭代只使用一个样本（批量大小为 1）。如果进行足够的迭代，SGD 也可以发挥作用，但过程会非常杂乱。“随机”这一术语表示构成各个批量的一个样本都是随机选择的。

每次只随机选出一个样本来计算梯度？只要迭代次数够多，也可以快速收敛。

小批量随机梯度下降法（小批量 SGD）是介于全批量迭代与 SGD 之间的折衷方案。小批量通常包含 10-1000 个随机选择的样本。小批量 SGD 可以减少 SGD 中的杂乱样本数量，但仍然比全批量更高效。

为了简化说明，我们只针对单个特征重点介绍了梯度下降法。请放心，梯度下降法也适用于包含多个特征的特征集。

ML_001：Google Machine Learning 在线速成课程学习笔记之一

在线课程地址：https://developers.google.com/machine-learning

1. Machine Learning 简介
为什么要学习 Machine Learning?
（1）ML 是一个可以缩短编程时间的工具
例如：编写一个纠正拼写错误的程序
方式一：根据经验法则编写纠正逻辑。
方式二：使用 ML，只需提供足够的样本数据，就可以编写一个不错的程序。
（2）利用 ML 自定义产品，使其适合特定的用户群
例如：英文拼写纠正的程序很成功，如何提供其他语言拼写纠正程序？
方式一：根据经验法则，需要重新编写其他语言纠正逻辑。
方式二：使用 ML，只需提供其他语言的样本数据即可。
（3）让程序做以前需要人工才能做的事情
例如：人脸识别。我不需要告诉机器如何识别人脸，只需提供数据训练。

学习 ML，还有一个哲学上的意义，ML 可以改变我们的思考问题的方式。
以前的软件工程师使用“数学+逻辑”来解决问题，而 ML 让我们从数学科学转到自然科学，使用统计信息而非逻辑分析来解决问题。

2. 框架处理
引子：如何判断邮件是否是垃圾邮件？
术语列表：
（1）监督式机器学习：机器学习系统通过学习如何组合输入信息来对从未见过的数据做出有用的预测。
（2）标签：标签是我们要预测的事物，即简单线性回归中的 y 变量。标签可以是小麦未来的价格、图片中显示的动物品种、音频剪辑的含义或任何事物。
（3）特征：特征是输入变量，即简单线性回归中的 x 变量。简单的机器学习项目可能会使用单个特征，而比较复杂的机器学习项目可能会使用数百万个特征。
在垃圾邮件检测器示例中，特征可能包括：

•   电子邮件文本中的字词
•   发件人的地址
•   发送电子邮件的时段
•   电子邮件中包含“一种奇怪的把戏”这样的短语。

（4）样本：样本是指数据的特定实例。
样本分为以下两类：有标签样本和无标签样本。我们使用有标签样本来训练模型。
在垃圾邮件检测器示例中，有标签样本是用户明确标记为“垃圾邮件”或“非垃圾邮件”的各个电子邮件。
（5）模型
模型定义了特征与标签之间的关系。
例如，垃圾邮件检测模型可能会将某些特征与“垃圾邮件”紧密联系起来。
模型生命周期的两个阶段：

• 训练表示创建或学习模型。
  也就是说，您向模型展示有标签样本，让模型逐渐学习特征与标签之间的关系。
• 推断表示将训练后的模型应用于无标签样本。
  也就是说，您使用训练后的模型来做出有用的预测。

（6）回归与分类

• 回归模型可预测连续值。
  例如，回归模型做出的预测可回答如下问题：
  加利福尼亚州一栋房产的价值是多少？
  用户点击此广告的概率是多少？
• 分类模型可预测离散值。
  例如，分类模型做出的预测可回答如下问题：
  某个指定电子邮件是垃圾邮件还是非垃圾邮件？
  这是一张狗、猫还是仓鼠图片？

MAC_049：安装 Shadowsock

参考文献：
1. https://shadowsocks.org/en/download/clients.html

MAC_048：安装 Python

环境：MAC OS X 10.14.1 (18B75)

1. 安装 Python2
MAC 本身自带 Python 2
（1）检查 Python 版本

$ python --version
 Python 2.7.10
（2）安装 pip
pip 是 python 包管理工具。

$ sudo easy_install pip
（3）查看 pip 版本

$ pip --version
pip 18.1 from /Library/Python/2.7/site-packages/pip-18.1-py2.7.egg/pip (python 2.7)
（4）卸载 pip

$ sudo pip uninstall pip

2. 安装 Python3
macOS（Mac OS X）可用 Homebrew 安装 Python 3，再用通过 get-pip.py 安装 pip
（1）安装 Homebrew
$ /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)"
（2）安装 Python3
$ brew install python3
（3）查看 Python3 版本
$ python3 --version
Python 3.7.1 (default, Nov  6 2018, 18:46:03)
[Clang 10.0.0 (clang-1000.11.45.5)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
（4）安装 pip3
$ curl https://bootstrap.pypa.io/get-pip.py | python3
（5）查看 pip3 版本
$ pip3 --version
pip 18.1 from /usr/local/lib/python3.7/site-packages/pip (python 3.7)

参考文献
1. https://brew.sh/index_zh-cn.html

Human_020：《人类简史》读书笔记之二十：智人末日

第二十章 智人末日

在40亿年的时间里，地球上每一种生物的演化都是依循着自然选择的法则，智人也不例外。

虽然在自然选择方面，智人远远超出了其他生物，取得了很大成就，但还是没有打破生物因素的限制。

直到21世纪，自然选择的法则开始被打破，科学家们开始改造各种生物。

举例：荧光绿的兔子。

这可能会成为地球出现以来最重要的生物学革命，因为它将彻底改变生命的游戏规则。

有三种方式让智慧设计取代自然选择：生物工程、仿生工程、无机生命工程。

生物工程：指人类刻意在生物层次进行的干预行为，目的在于改变生物体的外形、能力、需求或欲望。

举例：背上长一只耳朵的老鼠。耐寒的马铃薯。奶牛的乳腺炎问题。

基因工程引发了一系列伦理、政治和意识形态的问题。

复活长毛象 -> 复活尼安德特人 -> 创造更完美的智人 -> 超人类

仿生工程：结合有机和无机组织，创造出“生化人”。

从某种意义上，现代人几乎多多少少都是生化人，用其他设备来辅助我们的感官和能力。

举例：仿生苍蝇或蟑螂。仿生鲨鱼。生化耳，生化视网膜，生化手臂。

最革命性的仿生就是“脑机接口”，几个大脑彼此互联，形成“脑际网络”。

— 侯宝林的相声说的，你也做，我也做，大伙都能做，不能一块做。有了“脑际网络”，大家就可以一块做梦啦。

无机生命工程：能够独立演化的计算机程序和病毒。

基因遗传演化程序，程序一旦发动之后，就会开始自由演化，谁都不能掌握它的发展方向。

假设把你的大脑整个备份到硬盘上，再用笔记本来读取运作。这样一来，笔记本是不是就能像智人一样思考和感受呢？

如果是的话，那算是你吗？还是算别人呢？
如果建立起一个个数字心灵，完全由计算机程序组成，拥有我的知觉、意识和记忆，这又算是什么？

如果删除了这个程序，算是谋杀吗？

我们现在这个时代，是有史以来第一次认为所有人类应该享有基本上的平等。

然而，我们可能正准备要打造一个最不平等的社会，因为根据DNA为人量身定做的个人话医学时代已经到来。

未来科技的真正潜力并不在于改变什么车辆和武器，而是改变智人本身，包括我们的情感和欲望。

未来世界的主人和我们之间的差异，大于智人和尼安德特人的差异，未来的主人翁可能接近神的概念。

这种超人类看我们，就好像我们看尼安德特人一样，带着轻蔑和不屑。

人类很难接受的一个事实就是，科学不仅能够改造身体，也能改造心灵。

人类希望自己永远是万物之灵，再也不会有比人类更优秀的物种。

如果智人的历史终将谢幕，我们将是第一代超人类的设计者，他们与我们有着完全不同的意识层次。

作为最后一代智人，我们应该问自己最后一个问题：我们究竟想要变成什么？

Human_019：《人类简史》读书笔记之十九：从此过着幸福快乐的日子

第十九章 从此过着幸福快乐的日子

过去的500年间，我们见证了一连串令人惊叹的革命。但是，我们真的更快乐了吗？

把脚印留在月球上的阿姆斯特朗和3万年前把手印留在雪维洞穴的无名氏，二者谁更快乐？

如果后来的人并没有比以前的人快乐，我们又为什么要发展农业、城市、文字、钱币、帝国、科学和工业呢？

历史学家很少问这样的问题，他们记录的都是伟大的思想家、英勇的战士、慈悲的圣人、充满创造力和想象力的艺术家。

但对于一切究竟究竟怎么给个人带来快乐和痛苦，却只字未提。

— 说的真好，快乐才是最重要的历史问题啊。

历史一再证实，人类有了权力或者能力就可能滥用，所以要说能力越高就越幸福，看来实在有些天真。

相反，认为人类的种种新发明，只是让我们与伊甸园离的更远了，这种说法也流于武断。

虽然智人取得了空前的成就，但代价就是赔上了几乎所有其他动物的命运。

过去两个世纪间，有数百亿动物遭到现代工业制度的剥削，其冷酷程度在整个地球史上前所未有。

所以要评估全球幸福程度的时候，只看人类是否幸福是有失公允的。

快乐如何计算和测量？

一般来说，快乐是“主观感到幸福”。

如果快乐是主观的，这是不是自由主义的一个观点而已。

因为我们不断被各种媒体洗脑：“忠于自我”、“倾听你自己”、“顺从你的渴望”。

依照这个观点，快乐是种个人内在的感受。如果快乐是内在感受，那怎样由外部测量呢？

社会学家通过发调查问卷，再将结果与财富和政治自由等社会经济因素结合。

通过调查，目前的结论是：

（1）金钱的确会带来快乐，但有一定限度，超过限度之后的效果就不明显。

（2）疾病会短期降低人的幸福感，但除非病情不断恶化，否则疾病并不会造成长期的不快。

（3）家庭和社群要比金钱和健康更能影响快乐。

举例: 双胞胎的不同遭遇，一个车祸，终身残疾；一个中了乐透大奖。

有这种可能性，虽然过去两个世纪人类在物质条件上有了很大改善，但因为家庭崩溃、社会失调，所以两者的作用相互抵消了。

自由也不一定让我们快乐，虽然我们可以自由选择对方，但对方也可以选择离开我们。

— 哈，别说，还真的是这样啊。

快乐并不在于任何像是财富、健康、甚至社群之类的客观条，而在于客观条件和主观期望之间是否相符。

但这一切不就是老生常谈吗？千年之前的先知早就说过，重要的是知足。

如果快乐由期望而定，铺天盖地的广告正在不知不觉地让全球越来越不开心。

有没有可能，第三世界国家之所以会对生活不满，不只是因为贫穷、疾病、腐败和政治压迫，也是因为他们看到了第一世界国家的生活标准？

举例：埃及总统穆巴拉克被推翻。

快乐的化学成分

生物学家认为，人类的心理和情感世界是数百万年演化的结果。所有的心理状态，是由神经和各种化学物质构成的复杂系统决定的。

所以升官发财中乐透，找到真正的爱情，并不是真正让我们快乐的原因。我们快乐的唯一原因，是身体内发出快感的感官感受。

人类演化的结果，就是不会太快乐，也不会太痛苦。

比如，如果性交没有高潮，男性就不会那么热衷。但如果高潮永续不退，男性会一直开心下去，就没有做其他事的动力。

— 这个举例真是辩证啊，居然由此可以反推出来人类不会太快乐，也不会太痛苦。

人类的快乐生化机制就像是个恒温空调系统，但每个人的恒温设定值是不一样的。

当我们的期望得到满足时，虽然有短暂的刺激，但很快就会回到原点。

想想你周围的朋友，是不是有些人，不论发生多糟的事，还能保持愉快？

是不是也有人，不管得到了多大的恩赐，还是一直郁郁寡欢？

已婚的人比单身的人更快乐，但这不一定是因为婚姻带来了快乐，也有可能是快乐带来了婚姻。

如果快乐由生化机制决定，历史这个学科的重要性就要大减。

如果快乐由生化机制决定，又何必又这么多的混乱、恐惧、流血和战争？

如果快乐由生化机制决定，我们只需全力研究如何操纵人类的生化机制。

但是生理上的快感不等于生命有意义的快乐。

那生命的意义又是什么呢？

从老子到苏格拉底，先哲们不断告诫人们：“认识你自己！”

2500年多年来，只有佛教有系统地研究了快乐的本质和成因。

佛教认为，快乐既不是主观感受到愉悦，也不是主观觉得生命有意义，反而是在于放下追求主观感受这件事。

— 放下追求主观感受？从未有过的观点，真了不起！

人类太看重自己的感受，希望快乐，避免难过。事实是，人类的主观感受没有任何实质或意义。

主观感受只是一种电光石火的波动，不论你是否感到快乐或难过，觉得生命是否有意义，这都只是一瞬间的波动而已。

—“一切有为法，如梦幻泡影，如露亦如电，应作如是观。”

苦的根源既不在于感到悲伤或疼痛，也不在于感觉一切没有意义。“苦”真正的根源在于“追求”主观感受这件事。

—“应无所住，而生其心。”

人如果明白自己的所有主观感受都只是一瞬间的波动，不再追求某种感受。

如此一来，虽然感受痛苦，但不再感到悲惨；虽然愉悦，但依旧保持平静，不受干扰。于是，心灵变得澄明自在。

佛教比其他观点深刻的地方在于，快乐不在于我们的主观感受。如果我们越强调主观感受，反而就越感到苦。

如果真是如此，我们过去对于快乐这件事的历史认知就是错的。欲望是否得到满足，是否感受到快乐都不是重点，真正重要的问题在于人是否了解自己。

我们有什么证据，证明今天的人比起远古的采集者或中世纪的农民更快乐呢？

Human_018：《人类简史》读书笔记之十八：一场永远的革命

第十八章 一场永远的革命

人类总重量 3 亿吨，家禽总重量 7 亿吨，其他野生动物 1 亿吨。

由此可见，人类真的已经称霸全球。

人类能用的资源在不断增加，所以那些关于资源短缺的末日预言不会成真。但生态环境的恶化却是铁证如山，不容否认。

或许，6500万年后，会有一群高智商的老鼠心怀感激地回顾人类造成的这场灾难，就像我们现在感谢那颗杀死恐龙的陨石一般。

工业革命以后，人类越来越受到现代产业和政府的支配。

其中最重要的例子就是将过去传统农业社会的时间节奏替换成工业社会一致而且精确的时间概念。

工业革命不仅为人类带来了时刻表和生产线的概念，更将这些概念推广到几乎所有的人类活动当中。

1880年，英国立法规定全英国的时刻表都必须以格林尼治时间为准。这是史上第一次有国家采取了全国统一的时刻表，要求人民依据人工的时钟来过生活，而不是依据当地的日升日落周期有所调整。

天才的德国物理学家，找出一套方法，只要根据大本钟钟声在广播直播中的微小差异，就能判断伦敦当时的天气。

除了采用工业化的时间，工业革命还对都市化、农民阶级消失、工业无产阶级的兴起、对普罗大众的赋能、民主化、青少年文化，以及父权社会的解体。

然后这一切，都比不上有史以来人类最大的社会革命：家庭和地方社群崩溃，改由国家和市场取代。

国家、市场与个人之间的交易并不容易。国家和市场对于权利义务的划分意见不同，个人抱怨这两者要的太多，给的太少。

很多时候，个人遭到市场的剥削，而国家不但不保护个人，反而动用军队、警察和官僚施加迫害。

经过数百万年的演化，人类的生活和思考方式都预设自己属于社群。但仅仅过了两个世纪，我们就成了互相疏远的个人。这可以说是文化力量的最佳证明。

在现代晚期，虽然暴力和恐惧达到前所未有的高峰，但和平与安宁也同时来到历史新高。“这是最好的年代，这是最坏的年代”。

自1945年以来，多数帝国都选择了和平的退位方式，帝国解体崩溃的过程迅速、平和且有序。

今天世上任何地方都已经不可能在发生像是古罗马人、蒙古人和土耳其人那些逐鹿天下的事。

然而，在 1945年以前，国际政治的铁律是说，“任何两个相邻的政体，都有某种可能，在一年之内向对方宣战”。

为何现在是四方和平、战争难以爆发呢?

首先是战争成本的大幅上升，最高诺贝尔和平奖应该颁给奥本海默。

其次是战争的利润下降，今天的财富形式是人力资本、科技知识、复杂的社会经济结构，这个无法靠掠夺和占领。

同时，和平成为了一笔越来越划算的生意。

最后，全球的政治文化也有了结构性的大变动，爱好和平的精英分子领导了这个时代。

大多数国家之所以不再发动全面战争的原因很简单，就是因为他们已经不再能够完全独立行事。

任何经济或外交政策都不可能自外于他国，全面性的战争也不可能独自发动。

我们正在面临全球帝国的形成，全球帝国的疆域就是全世界，所以世界和平也就能够得到有效的维持。

Human_017：《人类简史》读书笔记之十七：工业的巨轮

第十七章 工业的巨轮

工业革命的核心，其实就是能源转换的革命。

我们能够使用的能源其实无穷无尽，唯一的限制只在于我们的无知。

工业革命最要要的一点，是第二次农业革命。

机械化不只是机器的事，连植物和动物也同样遭到机械化。

各种农场上的动物不再被视为活生生的、能够感受到痛苦的生物，而是被视为机器一般对待。

举例：蛋鸡、猪、奶牛的悲惨一生。

但讽刺的是，正式那些知道了挤奶器和集蛋器的科学，指出这些哺乳动物也有复杂的感觉和情绪。

它们不仅能够感受生理上的痛苦，也同样能够感受到心理上的痛苦。

举例：哈利的猴子实验，太让人难受了。

大西洋奴隶贸易并非出于对非洲人的仇恨，现代畜牧业也不是出于对动物的仇恨。一切还是因为利益。

随着农业工业化，只需要越来越少的农民，就足以养活越来越多的人口。

正因为农业释放了数十亿的人力，人类才开始创造出了各种产品。

人类有史以来第一次，生产超出了需求。那么问题来了: 谁要来买这些产品？

资本主义和消费主义和一枚硬币的正反两面。

Human_016：《人类简史》读书笔记之十六：资本主义教条

第十六章 资本主义教条

现代经济的成长源于信用，信用就是“今天的蛋糕”和“明天的蛋糕”之间的差价。

资本主义：生产的利润，必须再投资于提高产量。

资本主义认为经济可以无穷无尽地发展下去，这和我们的日常认识背道而驰。

人类的经济在整个现代时期之所以能够不可思议地持续呈指数增长，唯一的原因，就是科学家总是能每隔几年就取得另一项发现。

清朝由征服者建立政权，主要靠税收和掠夺（两者的差异其实很细微）取得资金，很少需要用到信贷，更不用提是否关心投资者的利益。

欧洲则是开始由商人和银行家成为统治精英，资金来源从税收改为信贷，一切的目标就是要让投资者取得最高的报酬。

毕竟，没人喜欢交税，但人人都乐于投资。

西方政府几乎就像是资本家的工会。

举例：中英第一次鸦片战争

大西洋奴隶贸易兴起的原因，并不是欧洲人对非洲人有什么种族仇恨。而是因为那 6%的贩奴利益。

经济大饼真的能够无限制变大吗？每块饼都需要原材料和能源。所有资源迟早会被耗尽，这将在什么时候？

Human_015：《人类简史》读书笔记之十五：科学与帝国的联姻

第十五章 科学与帝国的联姻

从1500年到1850年，为什么是欧洲开始征服了世界？

中国其实并不缺乏制作蒸汽机的科技（照抄或购买），他们缺少的是西方的价值观、故事、司法系统和社会政治结构。

这些在西方花了数个世纪才形成及成熟，就算想要照抄，也无法在一夕之间内化。

欧洲帝国是“现代科学+资本主义”的结合，区别于其他帝国，欧洲帝国之所以要前往遥远的彼岸，除了为了新领土，也是为了新知识。

每一趟从欧洲出发的军事远征队都必定有科学家同行，目的不是为了打仗，而是科学研究。

欧洲帝国的统治精英和知识精英，总结、收集和整理了无数科学发现，并从中创建了各个科学学科。

美洲的名字来自一个名不见经传的意大利人，而他唯一做的事只是有勇气说出“我们不知道”。

郑和下西洋证明当时欧洲并未占有科技上的优势。

真正让欧洲人胜出的，是他们无与伦比而又贪得无厌、不断探索和政府的野心。

为何欧洲人有这样的野心？

西班牙人征服美洲大陆的方法，如同来自外太空的侵略者。

整整300年间，无论在美洲、大洋洲、大西洋、太平洋，都是由欧洲人完全宰制。

欧洲人积累大量财富和资源，终于让他们也有能力入侵亚洲、击败各大帝国。

--这也就不难理解中国被英国前后两次鸦片战争为何一战即溃。

但20世纪，阿尔及利亚抵抗法国、越南击败美国的原因何在？

要不是商人想赚钱，哥伦布就不会抵达美洲，库克船长就不会抵达澳大利亚，阿姆斯特朗也没有办法在月球上跨出他那重要的一小步。

Human_014：《人类简史》读书笔记之十四：发现自己的无知

第四部分 科学革命

第十四章 发现自己的无知

公元1000年的人睡500年醒来，和公元1500年的人睡500年醒来的感受是完全不同的。

过去500年最具代表性的一刻：1945年7月16日 新墨西哥州引爆的第一颗原子弹。

从此人类不仅有了改变历史进程的能力，更有了结束历史进程的能力。

科学革命的回馈循环：资源->研究->能力->资源…

科学革命并不是“知识的革命”，而是“无知的革命”。真正让科学革命起步的伟大发现，就是发现“人类对于最重要的问题其实毫无所知”。

举例：统计学的诞生——苏格兰遗孀基金

1620 年 培根提出 知识就是力量。知识的真正考验就是实用性，能让我们做出新东西来的，就是知识。

在科学革命之前，多数人类文化都不相信人类还会再进步，直到科学解决了一个又一个难题。

举例：1. 闪电 2. 贫穷（社会性贫穷，生物性贫穷）3. 死亡（吉尔伽美什计划）

现代科学之所以能够在过去500年间取得奇迹般的成果，有很大程度要归功于政府、企业、基金会和私人捐助者为此投入的大量经费。

但科学研究之所以能得到经费，是因为这些研究有助于达到某种政治、经济或宗教的目的。

举例：两位生物学家的课题谁更容易获得研究经费。

Human_013：《人类简史》读书笔记之十三：成功的秘密

第十三章 成功的秘密

历史的铁则：事后看来无可避免的事，在当时看来总是毫不明显。

举例：古罗马为何选择了基督教作为国教？

历史的发展是偶然还是必然？

如果承认历史并非必然，等于就承认了现在的民族主义、资本主义和人权都只是巧合的产物。

一级混沌：不会因为预测而改变，比如天气。

二级混沌：会受预测的影响而改变，比如油价、政治：1989年苏联解体，2011年阿拉伯之春。

革命无法预测，因为革命能够预测，革命就永远不会成功。

举例：假如能够预测阿拉伯之春革命，穆巴拉克会怎样反应？

假如未来不可预知，我们为什么要学历史？

我们之所以研究历史，不是为了预测未来，而是要拓展视野，要了解现在的种种绝非偶然，也并非无可避免。

文化是心理寄生虫，从一个宿主传播到另一个宿主。

—有意思的说法。

历史的选择绝不是为了人类的利益，没有任何证据表明，对人类有益的文化会成功扩张。

Human_012：《人类简史》读书笔记之十二：宗教的法则

第十二章 宗教的法则

我们今天常认为宗教是造成歧视、争端、分裂的罪魁之一。

但事实是，在金钱和帝国之外，宗教是第三种让人类统一的力量。

宗教是一种具有约束力的人类规范和价值观的系统，建立在超人类的秩序之上，具备“普世特质”和“推广特质”。

农业革命最初的宗教意义，就是让动植物从与人类平等的生物，变成了人类的所有物。

很多古代神话其实就是一种契约，人类将牺牲献祭给某些神灵，换取人类对其他动植物的控制权，保佑五谷丰登，六畜兴旺。

“为什么世界上会有邪恶？”

公元前1000年之前，所有的宗教有一个共同的特征：相信的都是神灵或是其他超自然现象。

但是，世界宗教史并不只是神的历史。佛教的核心人物是人而不是神。

佛教徒遵从的是自然法则：痛苦来自欲望；要从痛苦中解脱，就要放下欲望；而要放下欲望，就必须训练心智，体验事物的本质。

在事物带来快乐或痛苦的时候，重点是要看清事物的本质，而不是着重在它带来的感受，就能不再为其所困。

虽然感受悲伤，但不要希望摆脱悲伤，于是虽然有悲伤，也能不为所困，而化为丰富的体验。

虽然感受快乐，但不要希望快乐继续，于是虽然有快乐，也能不失去心中平静。

纳粹顺着达尔文演化论的逻辑宣扬种族主义，希望保护和培养高贵的种族。

现在虽然没有人说要淘汰劣等种族，但许多人正在思考用先进的的生物学知识来创造完美的人类。

宗教相信每个个人体内都有一个自由而不朽的灵魂。但科学家并未在人体内找到灵魂的存在。

Human_011：《人类简史》读书笔记之十一：帝国的愿景

第十一章 帝国的愿景

努曼西亚围城成为了西班牙独立和勇气的象征。

现在努曼西亚除了遗址，什么也没有留下，这则故事本身也是靠胜利者一方古罗马的历史学家的记述才得以流传下来。

帝国是什么？

帝国的两个重要的特征是文化的多元性和疆界的灵活性，至于起源、政府形式、领土范围或人口规模则并非重点。

帝国是邪恶的吗？

事实上，帝国在过去2500年间一直就是全球最常见的政治形式。

事实上，帝国政体其实非常稳定，帝国的颠覆通常是因为有外部入侵或是内部统治精英的斗争。

事实上，相对于奋起反击追求自由，被征服者多半都会臣服于帝国长达数百年之久，直到自己的文化消失殆尽。

事实上，帝国崩溃之后，并不代表属民就能独立，而一般是由新的帝国替代。

—作者对各个帝国征服邻邦的口号描写真是精彩！P192

被征服着接受征服者的文化是一个痛苦的过程，要到数十年、数百年之后，帝国的精英才能把“他们”看成“我们”。

举例: 甘地接受英国文化和教育，成为一名律师后想坐头等舱却被赶下来的故事。

几乎所有的帝国都是建立在鲜血之上，并且通过压制和战争来维持权力。

然而，现今的文化多是帝国的遗续。如果帝国从娘胎里就是是个坏东西，那我们是什么？

举例：1. 现在独立的印度与之前英属印度之间的爱恨情仇。2. 孟买英国建造的哥特式火车站。3. 泰姬玛哈陵。

全球性帝国，统一全球这件事，很可能离我们不远。

未来的全球帝国，很可能是环保当道，不受任何特定的国家或族群管辖，由多民族的精英共同统治。

Human_010：《人类简史》读书笔记之十：金钱的味道

第十章 金钱的味道

以物易物的系统不能让人人“各尽所能，各取所需”，其结果往往是“各尽所能的最小值，各抢所需的最大值”。

于是，大多数社会发明了“钱”。

这里所说的钱指的是概念，而不只是硬币或钞票。

全球的金钱总和为60兆美元，但所有的硬币和钞票的金额加起来还不到6兆美元。

换句话说，超过50兆美元的钱都只是显示在计算机上的数字而已。

不管是贝壳还是美元，它们的价值都只存在于我们的共同想象之中。

金钱是有史以来最普遍也最有效的互信系统。

正因为“信任”如此关键，我们就可以知道为什么金融体系会与政治、社会和意识体系如此的紧密相连，为什么金融危机往往是由政治因素引发，以及为什么股票交易商的感觉会影响股市涨跌。

公元前640年，土耳其国王造出了史上第一批硬币。

金银锭为什么要有印记？

不同地区、不同文化的人们在很多事情上意见相左，但为什么大家都同样相信黄金有价？

这个问题经济学家已经给出了答案。

千百年来，比起语言、法律、文化、宗教和社会习俗，钱是人类最能接受的东西。

宗教信仰的重点是“自己相信”，金钱信仰的重点是“别人相信”。

金钱制度的两大原则：1. 万物可换 2. 万众相信。

金钱黑暗的一面是它可以打破人类社会和家庭的维系的根基：荣誉、忠诚、道德和爱。

我们并不信任陌生人，而只是信任他们手上的钱。没钱，就没有信任。

等到金钱渗透和冲垮了社会、宗教和国家所筑成的大坝，世界就成了巨大而无情的市场。

—所以货币战争还是存在的，成为了大国新的战争手段。

Human_009：《人类简史》读书笔记之九：历史的方向

第三部分 人类的融合统一

第九章 历史的方向

“自由”和“平等”都是基本的价值观，然而这两者从根本上就互相抵触！

—作者举例美国共和党和民主党的竞选主张分歧，确实各有各的道理。

历史有大方向吗？必须升到卫星的高度，才能看清历史的大方向。

历史确实是朝着全球融合统一的方向迈进，货币、帝国和宗教如何传播，如何建立起全球一家的基础。

— 哈哈，“全球的工蜂联合起来！”

Human_008：《人类简史》读书笔记之八：历史从无正义

第八章 历史从无正义

所有的阶级区别不过全都是人类的想象的产品罢了。

但不幸的是，复杂的人类社会似乎就是需要这些由想象建构出来的阶级制度和歧视。

就目前而言，还没有任何一个大型人类社会能够真正免除歧视。

阶级制度是如何产生的？

多半只是因为历史上的偶发意外，但部分群体取得既得利益后，世世代代不断加以延续改良，才形成现在这个样子。

美国种族歧视至今依然存在

白人会说：“你看，黑人都已经自由这么久了，但几乎所有的教授、律师、医生，甚至银行出纳员都没什么黑人。”

其实这是黑人长期家境贫寒、教育缺失的结果。

歧视女性的历史，多见于中国、印度、古希腊、甚至《圣经》。

历史上极少数的女性占据了高位，只是更证明了男尊女卑的历史。

“异性性行为自然，同性性行为不自然”，这件事也是一种文化偏见，而不是生物上的事实。

因为性行为除了有繁殖功能，还有社交的功能，比如黑猩猩用性行为巩固自己的统治。

—作者用嘴巴和翅膀的发展来说明什么是“自然”，什么是“不自然”，太幽默而浅显易懂了！

“够男人”或“女人味”的标准多来自文化，而不是天生自然，而且标准在不断变化。

几乎所有的文化都是阳刚胜阴柔，我们并不清楚其中的原因。

女人被认为比男人更八面玲珑功，更懂得如何安抚他人，而且能够从不同角度观看事情，拥有更高的社交技巧。

究竟为什么比较没有合作精神的一方（男人）控制着应该比较善于合作的另一方（女人）？

Human_007：《人类简史》读书笔记之七：记忆过载

第七章 记忆过载

蚂蚁和蜜蜂能够组成大型社会，稳定而又灵活，是因为他们的基因组里面就已经存储了合作所需要的大部分信息。

人之所以能踢足球，不是因为人类有踢足球的基因，而是因为 22个人都遵守同一套的足球规则。

但是建构一个人类社会要复杂的多，因为人类社会是由想象建构，不是靠DNA，需要通过各种努力，才能维持种种法律、习俗、程序、礼仪，否则社会秩序很快就会崩溃。

农业革命以后，社会变得格外复杂，一个全新的信息变得格外重要：数字。但是人脑不习惯储存和处理数字。

苏美尔人当中的一些天才解决了这个问题，可以在人脑之外储存和处理信息，而这套系统就是“书写文字”。

历史上第一个被记下名字的人，是一个会计师，而不是什么先知、诗人、国王，他的名字叫库辛。

“29086单位大麦37个月库辛”

12世纪的安第斯文化的结绳语。

将文字记录予以归档、编目、检索，这比发明文字书写还要难。

阿拉伯数字的出现，让存储和处理数字数据的效率一日千里。

大多数人看到相对论的公式一眼就瞠目结舌，就好像鹿在路上被车灯照到一样。

除了极少数人，人类大脑是没有思考相对论或量子力学这些概念的能力。

Human_006：《人类简史》读书笔记之六：盖起金字塔

第六章 盖起金字塔

农业革命可能是史上最具争议的事件，让智人抛下了与自然紧紧相连的共生关系，进入了以“家”为中心的农业社会。

农民与房屋建立了非常强烈的连接，除了影响建筑，更影响了心理。

农业带来的压力影响深远，这正是后代大规模政治和社会制度的基础。

但可悲的是，虽然农民勤劳不懈，希望能够保障自己未来的经济安全，但这几乎从未实现。不管在任何地方，都出现了统治者和精英阶级，靠剥削农民为生，只留给农民勉强可过活的食粮。

正是这些多余的食粮，养活了政治、战争、艺术和哲学，建起了宫殿、堡垒、纪念碑和庙宇。

帝国都只是“由想象所建构的秩序”，虚构的故事怎么支撑整个帝国？怎么让几百万互不相识的人彼此合作？

现在看来，虚构故事的力量强过任何人的想象。

两个例子：公元前1776年《汉谟拉比法典》，公元1776年的美国《独立宣言》。

二者都选宣称自己说的是普遍且永恒的公平正义原则，但事实上，他们都错了。因为这些原则，只存在于他们创造并告诉彼此的虚构故事中。

这些原则，从来就没有客观的正确性。

—作者这一段的思辨和结论真是让人震惊和叹服！

人类为什么没有发现自己生活的种种秩序其实都是想象？

1. 想象建构的秩序深深与真实的世界结合。
2. 想象建构的秩序塑造了我们的欲望。
   一如古埃及法老，现代人一生汲汲营营，也都是想盖起某种金字塔，只不过这些金字塔在不同文化里有不同的名字。
   但是很少有人会去问：我们为什么会想去建这些金字塔？
3. 想象建构的秩序存在于人和人之间思想的连接。

每一次我们以为自己打破了监狱的高墙，其实只是到了另一间更大的监狱，把活动范围稍稍加以扩大。

Human_005：《人类简史》读书笔记之五：史上最大骗局

第二部分 农业革命

第五章 史上最大骗局

约1万年前，人类的生活方式从狩猎采集改变为农业。

人类开始驯化动植物，并一直持续到2000年前，在此之后，人类没有再驯化什么特别值得一提的动植物。

可以说，现代人还有着远古狩猎采集者的心，以及远古农民的胃。

农业革命让人类的食物总量增加，但量的增加不代表吃得更好，过得更悠闲，而只是造成人口爆炸，产生一批精英分子。

人类以为自己驯化了动植物，但其实是动植物驯化了人。

—真是振聋发聩的一句话，小麦把农民绑到了土地上，辛勤为之劳作一生。

小麦虽然提供了更多的食物，养活了更多人，但是人的生活水平却降低了。所以说，农业革命就是一个陷阱。

小麦的出现，才导致了永久村落的诞生，有了村落，为了保住自己的小麦，才有后来的王国。

—作者在这一章的写的真是讽刺而辛辣。

人类一心追求更轻松的生活，结果却更辛苦了。

二次大战的原因并非粮食短缺或人口压力。

—那二次大战的原因是什么？

那人类为什么要进入农业革命？

因为信仰？

哥贝克力石阵：先建立信仰中心，再围绕着它形成村子。

人类如何驯化动物？

—作者开始控诉人类对驯化动物所犯下的罪行。

埃及坟墓壁画：牛在耕田，人也驼着背劳作，和牛没什么两样。

君王和先知会把自己营造成牧者的形象，就像牧羊人照顾羊群一般。

从农业革命中学到的最重要的一课：物种演化的成功，不代表的个体的幸福。

Human_004：《人类简史》读书笔记之四：毁天灭地的人类洪水

第四章 毁天灭地的人类洪水

澳大利亚和马达加斯加的生物群独自演化了几百万年，直到智人踏上了这些土地。

狩猎采集者首次登上澳大利亚绝对算是大事件，重要性不亚于哥伦布抵达美洲或阿波罗登月。

智人登陆澳洲几千年之后，90%的巨型动物惨遭灭顶之灾，有三大证据表明智人是罪魁祸首。

1. 气候巨变导致之说不成立，因为大型动物之前已经度过了至少10次冰河期。
2. 气候巨变导致之说不成立，因为任何证据显示同期海洋生物遭受灭顶之灾。
3. 800年前，智人登陆新西兰后几百年，当地巨型动物都惨遭灭绝。4000年前，智人登陆弗兰格尔到后，长毛象突然灭绝。

三次物种灭绝浪潮都来自人类：采集者的扩张，农民的扩张，工业的扩张。

Human_003：《人类简史》读书笔记之三：亚当和夏娃的一天

第三章 亚当和夏娃的一天

人类在城市里工作的历史大概是200年，之前的1万年，是务农和畜牧。

而几万年前的生活方式都是狩猎和采集，因此我们还保留着狩猎采集者的头脑，那个世界还牢牢记在我们的潜意识里。

—这个就是《人类的未来会怎样》中的边缘大脑吧。

举例：高热量食物对人不好，但为什么戒不掉？

因为我们的贪吃DNA还记得那些在草原上的日子。这就是为什么我们会不知不觉吃下一整桶冰激凌。

“远古公社”理论

现代婚姻的种种问题：不孕，离婚率高居不下，大人和小孩的心理问题，是因为现代社会逼迫所有人采取一夫一妻制，但这个与我们的生物本能背道而驰。

而在母系群居社会，没有私有财产，没有一夫一妻制，甚至没有父亲的概念。由于男人无法确认小孩是不是自己的，对所有的孩子的教养就不会出现偏心问题。

遗憾的是，我们对狩猎采集者祖先的生活没有任何可确定的事实。以上的说法，都是我们的猜想。

要在狩猎和采集时代活下来，每个人都必须有高超的心智能力。

就整理而言，现今人类所知远超过远古人类，但在个人层面上，远古的采集者是有史以来最具备多样知识和技能的人类。

远古采集者之所以能够免受饥饿或营养不良的困扰，秘诀就在于多样化的饮食。

远古采集者也比较少碰到传染病的问题，因为像是天花、麻疹和肺结核这类的疾病，要到农业革命以后才传到人类身上。

亚契人杀害儿童、病人、老人的想法其实和今日许多人赞成堕胎和安乐死也没有什么两样。

亚契社会就像任何一个人类社会一样复杂难解，我们不能断然将其妖魔化或理想化。

我们不如坦然承认，我们对于远古采集者的宗教只有一些模糊不清的概念。一些学者宣称能够了解采集者当时的感受，其实不过是他们的偏见罢了。

举例：拉斯科洞穴的壁画，阿根廷的手洞，到底想向我们传达什么意义。

我们对远古采集者的社会政治世界，也几乎一无所知。但可以肯定，3万年前的智人已经发明了一些社会政治规范，不仅远超出我们的DNA设定，也超越了其他物种。

直接证据就是松希尔的孩童骨骸。

—既然语言文字的诞生这么重要，那么为何不探究一下日本和韩国文字的诞生，这个离我们很近。

—沉默的帷幕一节，作者充满浪漫主义的想象令人钦佩。

Human_002：《人类简史》读书笔记之二：知善恶树

第二章 知善恶树

7万年前，智人开始脱胎换骨，越过海洋，抵达澳大利亚。发明了船、油灯、弓箭，针，创造艺术品，能够想象出并不存在的事物。

人类语言的特别之处：足够灵活、社会性（八卦理论，“说坏话”）、描述不存在的事物。

认知革命之后，智人能够说出“狮子是我们部落的守护神”。

虚构的重点不只在于人类能够拥有想象，更重要的是可以“一起”想象，赋予智人前所未有的能力，团结大批人力进行合作。

标致汽车是一种想象，现代的国家也是一种想象。

黑猩猩族群一般由20~50只黑猩猩组成，超过后，就会秩序动摇，最后造成族群分裂，另组家园。

人类的团体在 150 人左右，只要靠彼此认识，互通有无，就能运作顺畅。

智人是怎么跨过这个门槛，创造出上亿人的帝国？

大批互不相识的人，只要相信某个故事，就能共同合作。

这个宇宙中根本没有神、没有国家、没有钱、没有人权、没有法律、没有正义。

商人和律师就是发力强大的巫师。

标致公司究竟是不是真实的存在？它只是一个我们的集体想象。

有限公司（corporation）是人类一项巧妙无比的发明，“法人”好像真的是一个有血有肉的人一般。

难点不在于讲故事，而在于要让人相信。

开启“文化演化”，而不再停留在“基因演化”，智人的合作能力一日千里，远远超过其他的物种。

认知革命之后，我们解释智人的发展，不再是生物学的范畴，而是历史叙事。

智人发明了许许多多的想象现实，也因此发展处许许多多的行为模式，这就是“文化”。“文化”的发展，就形成了“历史”。

认知革命之后，生物学和历史的关系：

1. 生物学为智人的行为和能力设下了基本限制，像是定出了一个活动范围，所有的历史都在这个范围之内发生。
2. 这个范围非常大，能让智人有各种惊人的发挥空间。因为他们有创造虚构故事的能力，就能创造出更多、更复杂的游戏，代代相传，发展精进。
3. 因此，想了解智人的行为，就必须描述人类行为的历史演化。

Human_001：《人类简史》读书笔记之一：人类：一种也没什么特别的动物

第一部分 认知革命

第一章 人类：一种也没什么特别的动物 

—从未见过用这样简单的语言解释什么是“物理学”、“化学”、“生物学”、“文化”、“历史学”。

人类历史三次重要革命：

1. 认知革命（Cognitive Revolution）70000年前
2. 农业革命（Agricultural Revolution）12000年前
3. 科学革命（Scientific Revolution） 500年前

物种是如何划分的？

所谓同一物种彼此会交配，能够产出下一代。

举例：马、驴、骡。斗牛犬和西班牙猎犬。

同一祖先演化而来的不同物种，属于同一个“属”（genus）。

某一个“属”的不同物种，称为“种”。

近缘的种归合为属，近缘的属归合为科。

人属不光只有“智人”，还有其他人种，比如“尼安德特人”，“直立人”，“梭罗人”，“弗罗里斯人”，“丹尼索瓦人”，“鲁道夫人”，“匠人”

今天我们讲的人类，是人属的所有现存成员。

究竟是什么，驱使人类的大脑在这200万年间不断演化？坦白说，不知道。

—呵呵，作者很诚实。

人类另一项独有的特点：直立行走。

直立行走可以瞭望远方的同时，解放了双手，可以做更多灵巧的事情，代价是腰酸背疼，脖子僵硬。

—哈哈，有意思的比喻。

直立行走让臀部变窄，而婴儿的头很大，于是分娩死亡成了女性一大风险。

于是早点生产，趁着婴儿的头部比较小和柔软，母亲度过难关的可能性就越大。

于是人类的生产，被自然选择的提前了。

与其他动物相比，人类可以说是都是早产儿，许多重要的器官都发育不全，完全离不开大人的照顾。

因为母亲一个人无法抚养孩子，需要社交，养活孩子，需要全部落的努力。

于是，部落演化成了具有强大社会关系的种族。

智人吃骨髓，是因为智人长久以来一直位于食物链的中间位置。

直到 40 万年前，智人才可以猎捕大型动物。

直到 10 万年前，人类一跃而居于食物链的顶端。

人类这种突然跃居食物链的顶端，让整个生态系统猝不及防，人类自己也不知所措。

人类历史上的众多灾难，其实都源于这场过于仓促的地位跳跃。— 为什么这样说？

开始掌握🔥，一个既听话而又有无穷力量的工具。

使用火最大的好处是能够烹饪。

烹调让人类能吃的食物种类更多，减少所需的进食时间，缩小牙齿、减少肠的长度，大脑进一步发育。

如果混种繁衍理论成立，那么种族理论就找到了依据。

智人抵达东亚时，和直立人混血繁衍，因此今天的中国和韩国人应该是智人与直立人的混血。

如果替代理论成立，智人所做的，就是取代了所有先前的人种，而不是和他们混种繁衍。

尼安德特人被智人赶尽杀绝，对智人来说，虽然尼安德特人和自己相似到不足一提，但也相异到无法忍受。

—这个说法很微妙，但是我懂其中的含义。

智人之所以能征服世界，是因为有独特的语言。

雨中游华盛顿大学

雨润的空气

年轻的天空

古老的大地

百年的砖石建筑安静而从容

栗花色的松鼠在碧绿草地上愉悦的追跑打闹

满地的松果让它们随时可以美餐一顿

抱着松果吃，腮帮子一鼓一鼓的

黑色的乌鸦成对的起落，

白色的海鸥独来独往

细雨绵绵挡不住爱跑步的同学，

年轻的身体经过我们的一瞬间，

女生的肩膀微微倾向男生的一边，

我听见细如雨丝般的低语：

I assume they are from China.