Vol.188 | 奇点预言应验了吗？库兹韦尔对人类的警告
08:11 Share

十分钟 帮你 理清 一个 正在 发生 的 商业 逻辑。 如果我们 对 人工智能 越来越 依赖， 早晚 会有 那一天。 人类 不得不 将 决策权 交给 人工智能， 而 这 恐怕 就是 人类 的 末日 了。 各位 听众 大家好， 欢迎 收听 本期 的 易 才 播客。

库 兹 韦尔 是 比尔盖茨 口中 最 擅长 预测 人工智能 未来 的 人。 20年 前 写 了 一本 畅销书 奇点临近， 他 使用 的 奇点 一词 在 互联网 和 人工智能 业者 中， 在 大众 媒体 中都 留 了 下来。 今年 他 又 写 了 一本 奇点 更 近， 再次 将 奇点 推送 到 大众 眼前。 本期 我们 一起来 聊聊 所谓 的 奇点 预言。 你 了解 过 起点 预言 吗？ 欢迎 评论 区 留下 你的 看法。

所谓 奇点， 库 兹 韦尔 在 奇点临近 中说， 这是 他 从 数学 和 物理 中 借用 来 的 词汇。 通常 奇点 在 数学 上 表示 无法 定义 的 点， 比如 在 分母 为 零 的 情况下 就会 出现 奇点， 在 物理 上则 被 用来 指 给 那些 在 理论上 物理 定律 将 会 失效 的 点， 比如 黑洞 中心。 没想到 现在 奇点 一词 火 的 有点 要 成 经典 之 势， 还 进入 了 大众 媒体。 所以 他在 奇点 更 近 开头 又 谈论 了 一番， 他 表示 使用 这个 词 是 将 其 作为 一个 比喻， 他 对 技术 奇点 的 预测 并非 指 变化 速度 真的 趋向 无穷， 因为 指数 增长 并不 意味着 无限， 物理学 中的 起点 也是 如此。 他 这 两句 从 数学 和 物理 中学 学 来 的 理科 黑话， 仍然 让 文科 小白 听 不明白， 从而 达到 唬住 他们的 效果。

其实， 库 兹 韦尔 的 想法 用 大白话 来说 就是 技术进步， 特别是 和 人工智能 相关 的 那些 技术进步， 呈现出 越来越快 的 趋势， 很快 就将 达到 一个 临界点， 也就是 起点。 在 这个 点 上， 人工智能 将 以 极快 的 速度 超越 人类 智慧， 人类 将 面临 一个 全新 的 世界。 这个 技术 奇点 的 概念， 库 兹 韦尔 说是 他 从 一篇 1986年 的 科幻小说 中 借来 的， 所以 他 对 奇点 的 展望 并不是 建立 在 严密 的 数理 论证 基础上， 最多 只是 定性研究 加上 他 个人 的 直觉 所 形成 的 推论。

那么， 怎样 才算 起点 到达， 有没有 较为 具体 的 指标 呢？ 库 兹 韦尔 确实 尝试 给出 了 一些。 他 先 从 历史 回顾 中 归纳 出 六大 纪元， 分别 是 物理 与 化学、 使 物质 世界 诞生、 生物 与 DNA、 大脑 技术、 人类 智能 与 人类 技术 的 结合， 也就是 人机 结合。 最后 是 宇宙 觉醒， 也是 库 兹 韦尔 对 人类文明 扩展 到 全宇宙 的 畅想。 他 认为， 人类 目前 处在 第五 纪元， 这 当然 是在 意料之中 的。

至于 到达 起点 的 具体 指标， 他 也 举出 了 一些， 其中 比较 能 言之成理 又 确切 可以 验证 的 有 这样 三条， 一是 2010年 能够 用 超级计算机 模拟 人类 智能， 2020年 能够 用 个人 计算机 大小 的 设备 模拟 人类 智能。 二是 2025年 之前 详细 了解 大脑 所有 区域 的 活动 过程 及 模式， 2025年 前后 能够 用 有效 的 软件 模拟 人类 智慧 并 对 其 进行 建模。 第三 是 计算机 在 2020年代 末， 我们 姑且 理解 为 2029年 能够 通过 图灵测试。 库 兹 韦尔 的 意思 是， 到 那个 时候， 人工智能 与 人类 智能 将 不再 有 任何 区别。

在 2005年 的 奇点临近 一书 中， 库 兹 韦尔 明确 预言 了 奇点 到达 的 年份 是 公元 2045年。 这个 寓言 看上去 似乎 言之凿凿， 有 确切 的 年份， 不 那么 模棱两可， 但 其实 人工智能 大大超越 人类 这样的 判据 仍然 是 很 有 商量余地 的。 库 兹 韦尔 在 奇点临近 中 对 奇点 的 展望 和 预测， 据 他 自己 在 书中 交代， 完全 是 建立 在 技术 持续 实现 指数 增长 这一 前提 上 的。 而在 数学 上， 指数 增长 必然 导向 发散。 但 在 现实生活 中， 这样的 指数 增长 还 从未有过 真正 的 实力。

2024年 奇点临近 出版 已经 20年 了， 对于 库 兹 韦尔 为期 40年 的 起点 预言 正好 过去了 一半。 经常 承担 研究 项目 的 人都 知道， 当 项目 期限 到 1半时， 上面 或 出钱 资助 项目 的 人 就要 来 搞 中期 检查 了， 承担 项目 的 人 就要 提交 中期 检查报告 了。 库 兹 韦尔 起点 项目 的 中期 检查报告 就是 起点 更 近 这 本书。

我们 检查 下 库 兹 韦尔 前面 预言 的那 三条。 第一条 预言 的 年份 早就 过了， 脑科学 和 计算机 显然 都 还远未 达到 他 预言 的 指标， 库 兹 韦尔 明显 失败。 第二条 还 剩 一年， 几乎 可以 说 已经 没有 指望 了。 第三条 最多 还 剩 五年， 由于 通过 图灵测试 本身 的 指标 也有 模糊性， 到时候 还有 扯皮 的 余地， 只有 这条 还 不能 断言 库 兹 韦尔 失败。 对于 奇点 到来 之后 的 世界， 库 兹 韦尔 当然 也有 许多 大胆 的 展望， 要 不他 怎么能 想象 出 上面 的 第六 纪元 也 写 在 奇点临近 第六章 冗长 的 最后 一节， 这 一节 几乎 就是 他的 读书 报告， 里面 放进 了 星际航行、 德雷克 公式、 平行宇宙、 寻找 外星 文明 等等 一大堆 科普知识。 不过 他 读书 总算 是 比较 认真， 检查 下来 倒 也 并 无 错误。

在 中期 检查报告 起点 更 近中 库 兹 韦尔 当然 未 提 他 预测 的 失败， 而是 表示 对于 人工智能 在 2029年 通过 图灵测试 仍 抱有 信心。 不过 对于 图灵测试， 他 又 给出 了 新的 说法。 他 表示， 值得注意 的 是当 人工智能 系统 真的 通过 图灵测试 时， 他 必须 在 很多 领域 内 故意 表现 的 不 那么 聪明， 否则 人们 将 很 容易 识破。 因此 达到 通过 图灵测试 的 水平 时， A I 在 大多数 领域 的 能力 将 远超 最 优秀 的 人类。 这个 说法 倒是 能够 言之成理。 其实 大家 都 知道 预测 危险， 展望 容易， 库 兹 韦尔 当然 也 深谙此道。 所以 在 起点 更 近中， 展望 远远 多于 预测。 这样 到 2045年 结 项 验收 时， 风险 就 小 多了。

书 中有 几点 比较 值得注意， 一个 是 承认 A I 的 使用 会 导致 失业， 但 仍 持 乐观 态度， 认为 我们 最终 不会 与 A I 竞争。 第二， 相信 人工智能 将 跨越 情绪 记忆、 常识推理 能力、 社交互动 这 三个 里程碑。 第三， 创造 来生， 借助 一个人 生前 在 赛博空间 留下 的 全部 信息， 用 生物技术 和 人工智能 创造出 与 此人 思想 形貌 完全一致 的 复制人。 第四， 2030年代 人类 大脑 将 能 连接 到 云， 这里 主要 指的 是 通过 借助 脑机 接口 来 实现。 最后， 2030年 前后， 一部分人 将 达到 长寿 逃逸速度， 他们 自此 每 过 一年， 剩余 预期 寿命 就会 增加 一年， 这 实际上 就是 永生。

作为 未来学 著作 中 相当 成功 的 畅销 作品， 起点 临近， 起点 更 近。 虽然 都 对 未来 抱着 极为 乐观 的 态度， 但 也都 对 未来 的 某些 危机 前景 表达 了 适度 的 忧虑 和 警告。 例如， 在 奇点临近 中， 库 兹 韦尔 对 人工智能 的 学坏 或 反叛 表达 了 忧虑， 认为 人们 所 想到 的 大部分 方法 都 不足以 对付 强 人工智能 的 病变， 而 他 能 提出 的 策略 也 只是 最大 程度 上 使得 人工智能 反映 我们的家 价值观， 包括 自由、 宽容 以及 对 知识 多样性 的 尊重。 他 知道， 要 解决 这类 问题， 纯粹 的 技术 策略 是 不 可行 的。 但 在 一本 洋洋 数十万 言 的 书中， 这样 几行 有气无力 的 警告， 很 容易 被 绝大多数 读者 忽略 到了。

起点 更 近， 这 本书 在 最后一章 我们 将 会 面临 四个 巨大 危机 中， 库 兹 韦尔 在 以下 问题 上 表达 了 他的 忧虑， 一、 核武器 依赖 人工智能 能 控制 的 危险 前景。 2、 人工智能 驱动 生物技术 前行 的 危险性。 3、 人工智能 驱动 纳米技术 前行 的 危险性。 似 人工智能 本身 学坏 或 反叛 的 危险性。 最后， 这个 问题 仍然 是 最 严重 的。

库 兹 韦尔 带着 预测 问 了 一个 较 有 深度 的 问题， 到 21世纪 30年代 后期， 我们的 思维 本身 将在 很大程度 上 是非 生物学 的， 那么 人类 决策 的 作用 何在？ 具体 年份 当然 无所谓， 危险 的 是， 如果我们 对 人工智能 越来越 依赖， 早晚 会有 那一天， 人类 不得不 将 决策权 交给 人工智能， 而 这 恐怕 就是 人类 的 末日 了。 好了， 本期 节目 到此 就 结束了。 你 如何 看待 人工智能 和 人类未来 的 关系？ 你 希望 它 能够 为你 做什么 事 呢？ 欢迎 在 评论 区 留言 分享， 喜欢 我们的 节目 欢迎 转发 和 分享， 我们 下期 再见。