网站编号：47343

网站URL： https://zhuanzhi.ai

最后点入：2025-05-20 02:37:36 · 加入时间：2025-05-20 02:37:34

网站关键词(121个字符):
Artificial、 Intelligence、 (AI)、 人工智能、 知识服务、 专业可信、 知识链路、 知识荟萃、 主题定制、 主题链路、 搜索发现、 机器学习、 深度学习、 自然语言处理、 计算机视觉、 编程、 算法、 代码、 数据、 课程、 视频、 论文、 模型、 教程、 开源、

网站描述词(108个字符):
专知（www.zhuanzhi.ai），一个新的认知方式！专业可信的人工智能知识分发平台！我们致力于为AI从业者提供一个优质纯粹、专业可信的AI知识分发服务平台，与AI从业者一起学习、交流与成长！专业信用，创享美好！

关于zhuanzhi.ai说明：
zhuanzhi.ai由网友主动性提交被链发发SEO整理收录的，链发发SEO仅提供zhuanzhi.ai的基础信息并免费向大众网友展示，zhuanzhi.ai的是IP地址：- 地址：-，zhuanzhi.ai的百度权重为1、百度手机权重为2、百度收录为966000条、360收录为35200条、搜狗收录为0条、谷歌收录为0条、百度来访流量大约在372~538之间、百度手机端来访流量大约在294~411之间、zhuanzhi.ai的备案号是滇ICP备17005466号-1、备案人叫方全、被百度收录的关键词有108个、手机端关键词有246个、迄今为止已经创建未知。

下载地址: txt下载、docx下载、pdf下载、rar下载、zip下载

本页地址: http://www.lianfafa.com/links/47343.html

SEO信息	百度来访IP：372~538 | 移动端来访IP：294~411 | 出站链接：1 | 站内链接：6
IP网速：	IP地址：- 地址：- | 网速：822毫秒
ALEXA排名	世界排名： | 预估IP： | 预估PV：
备案信息	滇ICP备17005466号-1 | 名称：方全 | 已创建：未知

收录	百度	360	搜狗	谷歌
查询	966000	35200	0	0

电脑关键词	手机关键词	页面友好	首页位置	索引	近期收录
108	246	电脑端优秀	1	0	0

服务器信息 协议类型 HTTP/1.1 200 OK 页面类型 text/html; charset=utf-8 服务器类型 nginx/1.14.0 (Ubuntu) 程序支持 Express 连接标识 "7bfc4-Bk4XJJWR/7eDCgVnL5voRZ88Hgk" 消息发送 2025年4月15日 7时05分52秒 GZIP检测 已启用GZIP压缩 源文件大小 489.86KB 压缩后大小 129.43KB 压缩率 73.58%

专 知 , 为 人 工 智 能 从 业 者 服 务 ! 成 为 V I P 会 员 查 看 完 整 内 容 V I P 会 员 码 认 证 首 页 主 题 发 现 会 员 服 务 注 册 · 登 录 专 业 可 信 的 知 识 分 发 专 知 一 下 高 级 搜 索 推 荐 最 新 最 热 论 文 资 讯 基 金 人 工 智 能 深 度 学 习 大 语 言 模 型 P l a n G e n L L M s ： 大 型 语 言 模 型 规 划 能 力 的 最 新 综 述 专 知 会 员 服 务 1 3 + 阅 读 · 5 月 1 8 日 大 语 言 模 型 在 多 模 态 推 荐 系 统 中 的 应 用 综 述 专 知 会 员 服 务 1 1 + 阅 读 · 5 月 1 7 日 【 E P F L 博 士 论 文 】 用 于 高 效 语 言 建 模 的 增 强 型 架 构 与 优 化 方 法 专 知 会 员 服 务 9 + 阅 读 · 5 月 1 7 日 博 士 论 文 【 E P F L 博 士 论 文 】 决 策 系 统 中 的 机 器 学 习 ： 公 平 性 、 鲁 棒 性 与 数 据 偏 差 专 知 会 员 服 务 0 + 阅 读 · 今 天 1 3 : 1 7 【 剑 桥 博 士 论 文 】 神 经 符 号 事 实 验 证 专 知 会 员 服 务 1 0 + 阅 读 · 5 月 1 8 日 【 E P F L 博 士 论 文 】 用 于 高 效 语 言 建 模 的 增 强 型 架 构 与 优 化 方 法 专 知 会 员 服 务 9 + 阅 读 · 5 月 1 7 日 A I 与 军 事 关 注 1 2 3 2 人 工 智 能 在 军 事 中 可 用 于 多 项 任 务 ， 例 如 目 标 识 别 、 大 数 据 处 理 、 作 战 系 统 、 网 络 安 全 、 后 勤 运 输 、 战 争 医 疗 、 威 胁 和 安 全 监 测 以 及 战 斗 模 拟 和 训 练 。 中 文 版 | 应 对 必 然 威 胁 ： 无 人 机 攻 防 博 弈 研 究 《 泛 域 指 挥 控 制 决 策 中 情 境 感 知 与 情 境 识 别 综 述 》 最 新 5 5 页 综 述 报 告 美 陆 军 发 布 《 军 事 职 业 基 础 指 南 》 新 版 条 令 手 册 《 兵 棋 推 演 的 概 念 化 三 维 建 模 与 仿 真 技 术 研 究 》 最 新 报 告 《 反 潜 战 中 的 效 能 评 估 研 究 ​ 》 最 新 7 7 页 报 告 书 籍 · 推 理 大 语 言 模 型 · 大 语 言 模 型 · 5 月 2 日 S e b a s t i a n R a s c h k a 新 书 《 从 头 开 始 推 理 》 抢 先 看 ， 揭 秘 推 理 模 型 基 础 专 知 会 员 服 务 专 知 ， 提 供 专 业 可 信 的 知 识 分 发 服 务 ， 让 认 知 协 作 更 快 更 好 ！ 选 自 A h e a d o f A I * * 作 者 ： S e b a s t i a n R a s c h k a * * 机 器 之 心 编 译 推 理 模 型 发 展 正 盛 ， 著 名 A I 技 术 博 主 S e b a s t i a n R a s c h k a 也 正 在 写 一 本 关 于 推 理 模 型 工 作 方 式 的 新 书 《 R e a s o n i n g F r o m S c r a t c h 》 。 在 此 之 前 ， 他 已 经 出 版 了 多 本 A I 领 域 的 著 名 书 籍 ， 包 括 《 B u i l d a L a r g e L a n g u a g e M o d e l ( F r o m S c r a t c h ) 》 、 《 M a c h i n e L e a r n i n g Q a n d A I 》 、 《 M a c h i n e L e a r n i n g w i t h P y T o r c h a n d S c i k i t L e a r n 》 。 近 日 ， 他 在 自 己 的 博 客 上 放 出 了 这 本 书 的 第 一 章 ， 为 L L M 领 域 的 推 理 进 行 了 入 门 级 的 介 绍 ， 同 时 还 概 述 了 推 断 时 间 扩 展 和 强 化 学 习 等 技 术 方 法 。 机 器 之 心 编 译 了 这 本 书 的 第 一 章 ， 以 飨 读 者 。 原 文 地 址 ： h t t p s : / / m a g a z i n e . s e b a s t i a n r a s c h k a . c o m / p / f i r s t l o o k a t r e a s o n i n g f r o m s c r a t c h （ 注 ： 为 了 行 文 清 晰 ， 本 文 会 将 i n f e r e n c e 译 为 「 推 断 」 ， 将 r e a s o n i n g 译 为 「 推 理 」 ； 其 中 i n f e r e n c e 指 模 型 根 据 输 入 生 成 输 出 的 计 算 过 程 （ 如 生 成 文 本 ） ， 而 r e a s o n i n g 侧 重 模 型 通 过 思 维 链 等 方 法 进 行 逻 辑 分 析 、 因 果 判 断 或 问 题 解 决 的 能 力 。 ） 。 欢 迎 来 到 大 型 语 言 模 型 （ L L M ） 的 下 一 阶 段 ： 推 理 （ r e a s o n i n g ） 。 L L M 已 经 改 变 了 我 们 处 理 和 生 成 文 本 的 方 式 ， 但 它 们 的 成 功 主 要 得 益 于 统 计 模 式 识 别 。 然 而 ， 推 理 方 法 正 在 取 得 新 进 展 ， 这 些 新 技 术 能 让 L L M 处 理 更 复 杂 的 任 务 ， 例 如 求 解 逻 辑 难 题 或 多 步 骤 算 术 题 。 本 书 的 核 心 便 是 理 解 这 些 方 法 。 本 章 将 介 绍 的 内 容 包 括 ： 在 L L M 中 ， 「 推 理 」 的 具 体 含 义 ； * 推 理 与 模 式 匹 配 的 根 本 区 别 ； * L L M 的 传 统 预 训 练 和 后 训 练 阶 段 ； * 提 升 L L M 推 理 能 力 的 关 键 方 法 ； * 为 什 么 从 头 开 始 构 建 推 理 模 型 可 以 帮 助 我 们 理 解 它 们 的 优 势 、 局 限 性 和 实 践 中 权 衡 。 1 、 在 L L M 中 ， 「 推 理 」 究 竟 是 什 么 ？ 什 么 是 基 于 L L M 的 推 理 （ L L M b a s e d r e a s o n i n g ） ？ 这 个 问 题 的 答 案 和 讨 论 本 身 就 足 以 写 成 一 本 书 。 然 而 ， 本 书 与 之 不 同 ， 目 标 则 是 从 头 开 始 实 现 L L M 推 理 方 法 ， 因 此 会 更 注 重 实 践 和 亲 自 动 手 编 程 ， 而 不 是 概 念 层 面 上 的 推 理 。 尽 管 如 此 ， 我 认 为 简 要 定 义 在 L L M 语 境 中 所 说 的 「 推 理 」 依 然 很 重 要 。 因 此 ， 在 后 续 章 节 转 向 编 程 部 分 之 前 ， 我 想 在 这 本 书 的 第 一 节 定 义 L L M 语 境 中 的 推 理 ， 以 及 它 与 模 式 匹 配 和 逻 辑 推 理 的 关 系 。 这 将 为 进 一 步 讨 论 L L M 目 前 的 构 建 方 式 、 它 们 如 何 处 理 推 理 任 务 以 及 它 们 的 优 点 和 缺 点 奠 定 基 础 。 在 本 书 中 ， L L M 语 境 中 的 「 推 理 」 定 义 如 下 ： 在 L L M 语 境 中 ， 推 理 是 指 模 型 在 提 供 最 终 答 案 之 前 产 生 中 间 步 骤 的 能 力 。 这 个 过 程 通 常 被 描 述 为 思 维 链 （ C o T ） 推 理 。 在 C o T 推 理 中 ， L L M 会 显 式 地 生 成 结 构 化 的 陈 述 或 计 算 序 列 ， 以 说 明 其 得 出 结 论 的 过 程 。 图 1 展 示 了 一 个 简 单 的 L L M 多 步 骤 （ C o T ） 推 理 示 例 。 图 1 ： L L M 处 理 一 个 多 步 骤 推 理 任 务 的 简 版 示 例 。 推 理 模 型 所 做 的 并 不 是 简 单 回 忆 一 个 事 实 ， 而 是 将 多 个 中 间 推 理 步 骤 组 合 起 来 得 出 正 确 的 结 论 。 根 据 实 现 方 式 的 不 同 ， 中 间 推 理 步 骤 可 能 会 展 示 给 用 户 ， 也 可 能 不 会 。 从 图 1 中 可 以 看 到 ， L L M 产 生 的 中 间 推 理 步 骤 看 起 来 非 常 像 一 个 人 大 声 表 达 内 心 的 想 法 。 然 而 ， 这 些 方 法 （ 以 及 由 此 产 生 的 推 理 过 程 ） 与 人 类 推 理 的 相 似 度 究 竟 如 何 仍 是 一 个 尚 待 解 答 的 问 题 ， 本 书 也 不 会 试 图 回 答 这 个 问 题 。 我 们 甚 至 不 清 楚 这 样 的 问 题 是 否 可 以 得 到 明 确 解 答 。 相 反 ， 本 书 侧 重 于 解 释 和 实 现 能 提 升 L L M 的 推 理 能 力 的 技 术 ， 从 而 让 L L M 更 好 地 处 理 复 杂 任 务 。 我 希 望 通 过 上 手 实 践 这 些 方 法 ， 你 能 更 好 地 理 解 和 改 进 那 些 正 在 开 发 中 的 推 理 方 法 ， 甚 至 探 索 它 们 与 人 类 推 理 的 异 同 。 注 ： L L M 中 的 推 理 过 程 可 能 与 人 类 思 维 非 常 相 似 ， 特 别 是 在 中 间 步 骤 的 表 达 方 式 上 。 然 而 ， 目 前 尚 不 清 楚 L L M 推 理 是 否 在 内 部 认 知 过 程 方 面 与 人 类 推 理 相 似 。 人 类 的 推 理 方 式 通 常 是 有 意 识 地 操 控 概 念 、 直 觉 理 解 抽 象 关 系 或 基 于 少 数 示 例 进 行 概 括 。 相 比 之 下 ， 当 前 的 L L M 推 理 主 要 基 于 从 训 练 数 据 中 的 大 量 统 计 相 关 性 中 学 习 到 的 模 式 ， 而 不 是 显 式 的 内 部 认 知 结 构 或 有 意 识 的 反 思 。 因 此 ， 尽 管 推 理 增 强 型 L L M 的 输 出 看 起 来 有 点 像 人 类 ， 但 其 底 层 机 制 （ 很 可 能 ） 存 在 很 大 差 异 ， 并 且 这 也 是 一 个 活 跃 的 探 索 领 域 。 2 、 L L M 训 练 过 程 简 介 本 节 将 简 要 总 结 L L M 的 典 型 训 练 方 式 ， 以 便 我 们 更 好 地 理 解 它 们 的 设 计 并 了 解 它 们 的 局 限 性 。 这 一 背 景 也 将 有 助 于 我 们 讨 论 模 式 匹 配 和 逻 辑 推 理 之 间 的 差 异 。 在 应 用 任 何 的 推 理 方 法 之 前 ， 传 统 的 L L M 训 练 通 常 分 为 两 个 阶 段 ： 预 训 练 和 后 训 练 ， 如 下 图 2 所 示 。 图 2 ： 典 型 L L M 的 训 练 流 程 概 述 。 一 开 始 ， 初 始 模 型 使 用 随 机 权 重 初 始 化 ， 然 后 在 大 规 模 文 本 数 据 集 上 通 过 预 测 下 一 个 t o k e n 进 行 预 训 练 ， 以 学 习 语 言 模 式 。 然 后 ， 通 过 指 令 微 调 和 偏 好 微 调 来 优 化 模 型 ， 使 L L M 能 够 更 好 地 遵 从 人 类 指 令 并 与 人 类 偏 好 对 齐 。 在 预 训 练 阶 段 ， L L M 要 使 用 大 量 （ 可 达 数 T B ） 未 标 记 文 本 进 行 训 练 ， 其 中 包 括 书 籍 、 网 站 、 研 究 论 文 和 许 多 其 他 来 源 。 L L M 的 预 训 练 目 标 是 学 习 预 测 这 些 文 本 中 的 下 一 个 词 （ 或 t o k e n ） 。 当 使 用 T B 级 文 本 进 行 大 规 模 预 训 练 时 ， 当 前 领 先 的 L L M 往 往 会 使 用 数 千 台 G P U 运 行 数 月 时 间 ， 还 会 花 费 数 百 万 美 元 资 金 ， 结 果 得 到 的 L L M 会 非 常 强 大 。 这 意 味 着 它 们 开 始 有 能 力 生 成 与 人 类 书 写 的 非 常 相 似 的 文 本 。 此 外 ， 在 某 种 程 度 上 ， 经 过 预 训 练 的 L L M 将 开 始 表 现 出 所 谓 的 涌 现 属 性 （ e m e r g e n t p r o p e r t y ） ， 这 意 味 着 它 们 能 执 行 未 经 明 确 训 练 的 任 务 ， 包 括 翻 译 、 代 码 生 成 等 。 然 而 ， 这 些 预 训 练 模 型 仅 仅 是 后 训 练 阶 段 的 基 础 模 型 ， 后 训 练 阶 段 会 使 用 两 种 关 键 技 术 ： 监 督 式 微 调 （ S F T ， 也 称 指 令 微 调 ） 和 偏 好 微 调 。 后 训 练 的 目 的 是 让 L L M 学 会 响 应 用 户 查 询 ， 如 下 图 3 所 示 。 图 3 ： 语 言 模 型 在 不 同 训 练 阶 段 的 示 例 响 应 。 图 中 ， 提 示 词 要 求 总 结 睡 眠 与 健 康 之 间 的 关 系 。 预 训 练 L L M 给 出 了 一 个 相 关 但 没 有 重 点 的 答 案 ， 没 有 直 接 遵 从 指 令 。 指 令 微 调 版 L L M 生 成 了 与 提 示 词 一 致 的 简 洁 准 确 的 总 结 。 而 偏 好 微 调 后 的 L L M 更 进 一 步 改 善 了 响 应 — — 使 用 了 友 好 的 语 气 和 更 有 感 召 力 的 语 言 ， 使 答 案 更 具 相 关 性 和 以 用 户 为 中 心 。 如 图 3 所 示 ， 指 令 微 调 能 提 高 L L M 的 个 人 助 理 类 任 务 的 能 力 ， 如 问 答 、 总 结 和 翻 译 文 本 等 等 。 然 后 ， 偏 好 微 调 阶 段 可 完 善 这 些 能 力 。 它 有 助 于 根 据 用 户 偏 好 定 制 响 应 。 此 外 ， 偏 好 微 调 也 常 被 用 于 使 L L M 更 安 全 。 （ 一 些 读 者 可 能 很 熟 悉 基 于 人 类 反 馈 的 强 化 学 习 （ R L H F ） 等 术 语 ， 它 们 是 实 现 偏 好 微 调 的 具 体 技 术 。 ） 简 而 言 之 ， 我 们 可 以 将 预 训 练 视 为 「 原 始 语 言 预 测 」 （ 通 过 下 一 t o k e n 预 测 ） ， 它 能 为 L L M 提 供 一 些 基 本 属 性 和 生 成 连 贯 文 本 的 能 力 。 然 后 ， 后 训 练 阶 段 可 通 过 指 令 微 调 提 高 L L M 的 任 务 理 解 能 力 ， 并 通 过 偏 好 微 调 让 L L M 有 能 力 创 建 具 有 特 定 风 格 的 答 案 。 对 L L M 预 训 练 和 后 训 练 阶 段 细 节 感 兴 趣 的 读 者 可 以 参 阅 《 B u i l d A L a r g e L a n g u a g e M o d e l ( F r o m S c r a t c h ) 》 。 而 当 前 这 本 关 于 推 理 的 书 无 需 有 关 这 些 阶 段 的 知 识 — — 你 一 开 始 就 会 获 得 一 个 已 经 经 过 预 训 练 和 后 训 练 的 模 型 。 3 、 模 式 匹 配 ： L L M 如 何 从 数 据 中 学 习 L L M 在 训 练 时 ， 会 「 阅 读 」 海 量 的 文 本 数 据 ， 并 学 习 如 何 根 据 前 文 预 测 下 一 个 t o k e n 。 它 们 是 靠 发 现 数 据 中 的 统 计 规 律 ， 而 不 是 真 正 「 理 解 」 内 容 。 所 以 ， 即 使 它 们 能 写 出 流 畅 、 通 顺 的 句 子 ， 但 本 质 上 只 是 在 模 仿 表 面 的 关 联 ， 而 不 是 进 行 深 入 的 思 考 。 目 前 大 多 数 L L M （ 比 如 G P T 4 o 、 M e t a 的 L l a m a 3 ， 除 非 专 门 训 练 过 推 理 能 力 ） 都 是 这 样 工 作 的 — — 它 们 不 会 像 人 一 样 一 步 步 逻 辑 推 理 ， 而 是 根 据 输 入 的 问 题 ， 从 训 练 数 据 中 找 到 最 可 能 的 答 案 。 简 单 来 说 ， 它 们 不 是 通 过 真 正 的 逻 辑 推 导 来 回 答 问 题 ， 更 像 是 在 「 匹 配 」 输 入 和 输 出 的 模 式 。 可 以 参 考 以 下 示 例 ： 提 示 词 ： 德 国 的 首 都 是 … … 回 答 ： 柏 林 当 L L M 回 答 「 柏 林 」 时 ， 它 并 不 是 通 过 逻 辑 推 理 得 出 的 结 论 ， 而 只 是 从 训 练 数 据 中 记 住 了 「 德 国 → 柏 林 」 这 个 高 频 搭 配 。 这 种 反 应 就 像 条 件 反 射 ， 我 们 称 为 「 模 式 匹 配 」 — — 模 型 只 是 在 复 现 学 到 的 文 字 规 律 ， 并 没 有 真 正 一 步 步 思 考 。 但 如 果 遇 到 更 复 杂 的 问 题 呢 ？ 比 如 需 要 根 据 已 知 事 实 推 导 答 案 的 任 务 ？ 这 时 候 就 需 要 另 一 种 能 力 ： 逻 辑 推 理 。 真 正 的 逻 辑 推 理 ， 是 指 像 解 数 学 题 一 样 ， 根 据 前 提 一 步 步 推 出 结 论 。 它 需 要 中 间 思 考 步 骤 ， 能 发 现 前 后 矛 盾 ， 也 能 基 于 已 定 的 规 则 判 断 因 果 关 系 。 这 和 单 纯 「 匹 配 文 字 关 系 」 完 全 不 同 。 举 个 例 子 ： 所 有 鸟 都 会 飞 。 企 鹅 是 鸟 。 那 企 鹅 会 飞 吗 ？ 如 果 是 人 类 （ 或 者 真 正 会 推 理 的 系 统 ） ， 马 上 就 能 发 现 不 对 劲 — — 根 据 前 两 句 看 起 来 企 鹅 应 该 会 飞 ， 但 大 家 都 知 道 企 鹅 其 实 不 会 飞 ， 这 就 矛 盾 了 （ 如 下 图 1 . 4 所 示 ） 会 推 理 的 系 统 会 立 刻 抓 住 这 个 矛 盾 ， 并 意 识 到 ： 要 么 第 一 句 话 说 得 太 绝 对 （ 不 是 所 有 鸟 都 会 飞 ） ， 要 么 企 鹅 是 个 例 外 。 图 4 ： 前 提 矛 盾 导 致 的 逻 辑 冲 突 示 意 图 。 根 据 「 所 有 鸟 都 会 飞 」 和 「 企 鹅 是 鸟 」 这 两 句 话 ， 我 们 会 推 出 「 企 鹅 会 飞 」 的 结 论 。 但 这 个 结 论 和 已 知 事 实 「 企 鹅 不 会 飞 」 直 接 冲 突 ， 这 就 产 生 了 矛 盾 。 依 靠 于 统 计 学 习 的 L L M 并 不 会 主 动 识 别 这 种 矛 盾 。 它 只 是 根 据 训 练 数 据 中 的 文 字 规 律 来 预 测 答 案 。 如 果 在 训 练 数 据 中 「 所 有 鸟 都 会 飞 」 这 个 说 法 出 现 得 特 别 多 ， 模 型 就 可 能 会 自 信 地 回 答 ： 「 是 的 ， 企 鹅 会 飞 。 」 在 下 一 节 中 ， 我 们 将 用 一 个 具 体 的 例 子 看 看 L L M 遇 到 这 个 「 所 有 鸟 都 会 飞 . … … 」 的 问 题 时 ， 实 际 上 会 怎 么 回 答 。 4 、 模 拟 逻 辑 推 理 ： L L M 如 何 在 没 有 显 式 规 则 的 情 况 下 模 仿 推 理 逻 辑 上 一 节 我 们 说 到 ， 当 遇 到 自 相 矛 盾 的 前 提 时 （ 比 如 「 所 有 鸟 都 会 飞 ， 但 企 鹅 不 会 飞 」 ） ， 普 通 L L M 其 实 不 会 主 动 发 现 这 些 矛 盾 。 它 们 只 是 根 据 训 练 时 学 到 的 文 字 规 律 来 生 成 回 答 。 现 在 让 我 们 看 个 具 体 例 子 （ 见 图 5 ） ： 像 G P T 4 o 这 样 没 有 专 门 加 强 推 理 能 力 的 模 型 ， 遇 到 这 个 「 所 有 鸟 都 会 飞 . . . 」 的 问 题 时 ， 会 怎 么 回 答 呢 ？ 图 5 ： 语 言 模 型 （ G P T 4 o ） 如 何 处 理 矛 盾 前 提 的 示 例 。 从 图 5 的 例 子 可 以 看 到 ， 虽 然 G P T 4 o 并 不 是 专 门 的 推 理 模 型 （ 不 像 O p e n A I 其 他 专 门 开 发 了 推 理 功 能 的 版 本 ， 比 如 o 1 和 o 3 ） ， 但 它 在 这 个 问 题 上 却 给 出 了 看 似 正 确 的 回 答 。 这 是 怎 么 回 事 ？ 难 道 G P T 4 o 真 的 会 逻 辑 推 理 吗 ？ 其 实 不 然 ， 不 过 至 少 说 明 ， 4 o 在 它 熟 悉 的 场 景 中 ， 能 够 非 常 逼 真 地 「 装 」 出 逻 辑 推 理 的 样 子 。 其 实 G P T 4 o 并 不 会 主 动 检 查 说 法 是 否 自 相 矛 盾 。 它 的 回 答 完 全 基 于 从 海 量 数 据 中 学 到 的 「 文 字 搭 配 概 率 」 。 举 个 例 子 ： 如 果 在 训 练 数 据 中 ， 经 常 出 现 「 企 鹅 不 会 飞 」 这 样 的 正 确 说 法 ， 模 型 就 会 牢 牢 记 住 「 企 鹅 」 和 「 不 会 飞 」 之 间 的 关 联 。 就 像 图 5 展 示 的 ， 虽 然 4 o 没 有 真 正 的 逻 辑 推 理 能 力 ， 但 靠 着 这 种 「 文 字 概 率 记 忆 」 ， 它 也 能 给 出 正 确 答 案 。 简 单 来 说 ： 它 不 是 在 用 逻 辑 规 则 思 考 ， 而 是 靠 「 见 得 多 了 自 然 记 住 」 的 方 式 在 回 答 问 题 。 简 单 来 说 ， 模 型 之 所 以 能 「 察 觉 」 这 个 矛 盾 ， 是 因 为 它 在 训 练 时 反 复 见 过 类 似 的 例 子 。 这 种 能 力 完 全 来 自 于 它 在 海 量 数 据 中 学 习 到 的 文 字 规 律 — — 就 像 我 们 常 说 的 「 熟 能 生 巧 」 ， 见 得 多 了 自 然 就 会 了 。 换 句 话 说 ， 就 算 像 图 5 里 那 样 ， 普 通 L L M 看 似 在 进 行 逻 辑 推 理 ， 其 实 它 并 不 是 按 照 规 则 一 步 步 思 考 ， 而 只 是 在 运 用 从 海 量 训 练 数 据 中 学 到 的 文 字 规 律 。 不 过 ， C h a t G P T 4 o 能 答 对 这 个 问 题 ， 恰 恰 说 明 了 一 个 重 要 现 象 ： 当 模 型 经 过 超 大 规 模 训 练 后 ， 它 的 这 种 「 隐 性 规 律 匹 配 」 能 力 可 以 变 得 非 常 强 大 。 但 这 种 基 于 统 计 规 律 的 模 式 也 存 在 明 显 短 板 ， 比 如 遇 到 以 下 情 况 时 就 容 易 出 错 ： * 遇 到 全 新 题 型 （ 训 练 数 据 里 完 全 没 见 过 的 逻 辑 问 题 ） → 就 像 让 一 个 只 会 刷 题 的 学 生 突 然 碰 到 从 没 见 过 的 考 题 ； * 问 题 太 复 杂 （ 需 要 环 环 相 扣 的 多 步 推 理 ） → 类 似 让 计 算 器 解 一 道 需 要 写 证 明 过 程 的 数 学 大 题 ； * 需 要 严 格 逻 辑 推 导 （ 但 训 练 数 据 中 没 有 类 似 案 例 ） → 好 比 让 背 过 范 文 的 学 生 现 场 创 作 全 新 体 裁 的 文 章 。 既 然 规 则 系 统 这 么 靠 谱 ， 为 什 么 现 在 不 流 行 了 ？ 其 实 在 8 0 、 9 0 年 代 ， 基 于 规 则 的 系 统 确 实 很 火 ， 像 医 疗 诊 断 、 法 律 判 决 、 工 程 设 计 这 些 领 域 都 在 用 。 直 到 今 天 ， 在 一 些 性 命 攸 关 的 领 域 （ 比 如 医 疗 、 法 律 、 航 天 ） ， 我 们 还 是 能 看 到 它 们 的 身 影 — — 毕 竟 这 些 场 合 需 要 清 晰 的 推 理 过 程 和 可 追 溯 的 决 策 依 据 。 但 这 种 系 统 有 个 硬 伤 ： 它 完 全 依 赖 人 工 编 写 规 则 ， 开 发 起 来 特 别 费 劲 。 相 比 之 下 ， 像 L L M 这 样 的 深 度 神 经 网 络 ， 只 要 经 过 海 量 数 据 训 练 ， 就 能 灵 活 处 理 各 种 任 务 ， 适 用 性 广 多 了 。 我 们 可 以 这 样 理 解 ： L L M 是 通 过 学 习 海 量 数 据 中 的 规 律 来 「 装 」 逻 辑 推 理 的 。 虽 然 它 们 内 部 并 不 运 行 任 何 基 于 规 则 的 逻 辑 系 统 ， 但 可 以 通 过 一 些 专 门 的 优 化 方 法 （ 比 如 增 强 推 理 计 算 能 力 和 后 训 练 策 略 ） 来 进 一 步 提 升 这 种 模 拟 能 力 。 值 得 一 提 的 是 ， L L M 的 推 理 能 力 其 实 是 一 个 渐 进 发 展 的 过 程 。 早 在 o 1 和 D e e p S e e k R 1 这 类 专 业 推 理 模 型 出 现 之 前 ， 普 通 L L M 就 已 经 能 展 现 出 类 似 推 理 的 行 为 了 — — 比 如 通 过 生 成 中 间 步 骤 来 得 出 正 确 结 论 。 而 现 在 我 们 所 说 的 「 推 理 模 型 」 ， 本 质 上 就 是 把 这 种 能 力 进 一 步 强 化 和 优 化 的 结 果 ， 主 要 通 过 两 种 方 式 实 现 ： 1 . 采 用 特 殊 的 推 断 计 算 扩 展 技 术 ， 2 . 进 行 针 对 性 的 后 训 练 。 本 书 后 续 内 容 将 重 点 介 绍 这 些 提 升 大 语 言 模 型 解 决 复 杂 问 题 能 力 的 进 阶 方 法 ， 帮 助 你 更 深 入 地 理 解 如 何 增 强 大 语 言 模 型 这 种 「 隐 性 」 的 推 理 能 力 。 5 、 提 升 L L M 的 推 理 能 力 大 语 言 模 型 的 「 推 理 能 力 」 真 正 进 入 大 众 视 野 ， 是 在 2 0 2 4 年 9 月 1 2 日 O p e n A I 发 布 o 1 的 时 候 。 在 那 篇 官 宣 文 章 里 ， O p e n A I 特 别 提 到 这 些 新 版 A I 不 像 以 前 那 样 秒 回 ， 而 是 会 像 人 类 一 样 先 琢 磨 几 秒 ， 确 保 答 案 更 靠 谱 。 O p e n A I 还 特 别 说 明 ： 这 种 强 化 过 的 思 考 能 力 ， 对 解 决 科 学 、 编 程 、 数 学 等 领 域 的 复 杂 问 题 特 别 有 帮 助 — — 毕 竟 这 些 领 域 的 问 题 ， 往 往 需 要 多 转 几 个 弯 才 能 想 明 白 。 虽 然 o 1 的 具 体 技 术 细 节 没 有 公 开 ， 但 普 遍 认 为 它 是 在 G P T 4 等 前 代 模 型 基 础 上 ， 通 过 「 增 强 推 断 计 算 能 力 」 来 实 现 更 强 的 思 考 能 力 的 。 几 个 月 后 的 2 0 2 5 年 1 月 ， 深 度 求 索 公 司 发 布 了 D e e p S e e k R 1 模 型 和 技 术 报 告 ， 详 细 介 绍 了 训 练 推 理 模 型 的 方 法 ， 引 起 了 巨 大 轰 动 。 因 为 ： * 他 们 不 仅 免 费 开 源 了 一 个 性 能 媲 美 甚 至 超 越 o 1 的 模 型 ； * 还 公 开 了 如 何 开 发 这 类 模 型 的 完 整 方 案 。 本 书 将 通 过 从 零 实 现 这 些 方 法 ， 带 你 看 懂 这 些 提 升 A I 推 理 能 力 的 技 术 原 理 。 如 图 6 所 示 ， 目 前 增 强 大 语 言 模 型 推 理 能 力 的 方 法 主 要 可 以 分 为 三 大 类 ： 图 6 ： 提 升 大 语 言 模 型 推 理 能 力 的 三 大 方 法 。 这 三 大 方 法 （ 推 断 计 算 增 强 、 强 化 学 习 和 知 识 蒸 馏 ） 通 常 是 在 模 型 完 成 常 规 训 练 后 使 用 的 。 所 谓 常 规 训 练 包 括 ： 基 础 模 型 训 练 、 预 训 练 、 指 令 微 调 和 偏 好 微 调 。 如 图 6 所 示 ， 这 些 增 强 方 法 都 是 用 在 已 经 完 成 上 述 常 规 训 练 阶 段 的 模 型 上 的 。 推 断 时 间 计 算 增 强 推 断 时 间 计 算 扩 展 （ 也 叫 推 断 计 算 增 强 、 测 试 时 增 强 等 ） 包 含 一 系 列 在 推 理 阶 段 （ 即 用 户 输 入 提 示 词 时 ） 提 升 模 型 推 理 能 力 的 方 法 ， 这 些 方 法 无 需 对 底 层 模 型 权 重 进 行 训 练 或 修 改 。 其 核 心 思 想 是 通 过 增 加 计 算 资 源 来 换 取 性 能 提 升 ， 借 助 思 维 链 推 理 （ c h a i n o f t h o u g h t r e a s o n i n g ） 及 多 种 采 样 程 序 等 技 术 ， 使 固 定 参 数 的 模 型 展 现 出 更 强 的 推 理 能 力 。 强 化 学 习 （ R L ） 强 化 学 习 是 一 类 通 过 最 大 化 奖 励 信 号 来 提 升 模 型 推 理 能 力 的 训 练 方 法 。 其 奖 励 机 制 可 分 为 两 类 ： * 广 义 奖 励 ： 如 任 务 完 成 度 或 启 发 式 评 分 * 精 准 可 验 证 奖 励 ： 如 数 学 问 题 正 确 答 案 或 编 程 任 务 通 过 率 与 推 断 时 间 计 算 增 强 （ i n f e r e n c e t i m e c o m p u t e s c a l i n g ） 不 同 ， R L 通 过 动 态 调 整 模 型 参 数 （ w e i g h t s u p d a t i n g ） 实 现 能 力 提 升 。 该 机 制 使 模 型 能 够 基 于 环 境 反 馈 ， 通 过 试 错 学 习 不 断 优 化 其 推 理 策 略 。 注 ： 在 开 发 推 理 模 型 时 ， 需 明 确 区 分 此 处 的 纯 强 化 学 习 （ R L ） 方 法 与 常 规 大 语 言 模 型 开 发 中 用 于 偏 好 微 调 的 基 于 人 类 反 馈 的 强 化 学 习 （ R L H F ） （ 如 图 2 所 示 ） 。 二 者 的 核 心 差 异 在 于 奖 励 信 号 的 来 源 ： R L H F 通 过 人 类 对 模 型 输 出 的 显 式 评 分 或 排 序 生 成 奖 励 信 号 ， 直 接 引 导 模 型 符 合 人 类 偏 好 行 为 ； 纯 R L 则 依 赖 自 动 化 或 环 境 驱 动 的 奖 励 信 号 （ 如 数 学 证 明 的 正 确 性 ） ， 其 优 势 在 于 客 观 性 ， 但 可 能 降 低 与 人 类 主 观 偏 好 的 对 齐 度 。 典 型 场 景 对 比 ： 纯 R L 训 练 ： 以 数 学 证 明 任 务 为 例 ， 系 统 仅 根 据 证 明 步 骤 的 正 确 性 提 供 奖 励 ； R L H F 训 练 ： 需 人 类 评 估 员 对 不 同 输 出 进 行 偏 好 排 序 ， 以 优 化 符 合 人 类 标 准 （ 如 表 述 清 晰 度 、 逻 辑 流 畅 性 ） 的 响 应 。 监 督 微 调 与 模 型 蒸 馏 模 型 蒸 馏 是 指 将 高 性 能 大 模 型 习 得 的 复 杂 推 理 模 式 迁 移 至 更 轻 量 化 模 型 的 技 术 。 在 L L M 领 域 ， 该 技 术 通 常 表 现 为 ： 使 用 高 性 能 大 模 型 生 成 的 高 质 量 标 注 指 令 数 据 集 进 行 监 督 微 调 （ S u p e r v i s e d F i n e T u n i n g , S F T ） 。 这 种 技 术 在 L L M 文 献 中 常 统 称 为 知 识 蒸 馏 （ K n o w l e d g e D i s t i l l a t i o n ） 或 蒸 馏 （ D i s t i l l a t i o n ） 。 与 传 统 深 度 学 习 的 区 别 ： 经 典 知 识 蒸 馏 中 ， 「 学 生 模 型 」 需 同 时 学 习 「 教 师 模 型 」 的 输 出 结 果 和 l o g i t s ， 而 L L M 的 蒸 馏 通 常 仅 基 于 输 出 结 果 进 行 迁 移 学 习 。 注 ： 本 场 景 采 用 的 监 督 微 调 （ S F T ） 技 术 与 常 规 大 语 言 模 型 开 发 中 的 S F T 类 似 ， 其 核 心 差 异 体 现 在 训 练 样 本 由 专 为 推 理 任 务 开 发 的 模 型 生 成 （ 而 非 通 用 L L M ） 。 也 因 此 ， 其 训 练 样 本 更 集 中 于 推 理 任 务 ， 通 常 包 括 中 间 推 理 步 骤 。 6 、 从 头 构 建 推 理 模 型 的 重 要 性 自 2 0 2 5 年 1 月 D e e p S e e k R 1 发 布 以 来 ， 提 高 L L M 的 推 理 能 力 已 成 为 A I 领 域 最 热 门 的 话 题 之 一 。 原 因 也 不 难 理 解 。 更 强 的 推 理 能 力 使 L L M 能 够 解 决 更 复 杂 的 问 题 ， 使 其 更 有 能 力 解 决 用 户 关 心 的 各 种 任 务 。 O p e n A I C E O 在 2 0 2 5 年 2 月 1 2 日 的 一 份 声 明 也 反 映 了 这 种 转 变 ： 我 们 接 下 来 将 发 布 G P T 4 . 5 ， 即 我 们 在 内 部 称 之 为 O r i o n 的 模 型 ， 这 是 我 们 最 后 一 个 非 思 维 链 模 型 。 在 此 之 后 ， 我 们 的 首 要 目 标 是 统 一 o 系 列 模 型 和 G P T 系 列 模 型 ， 方 法 是 打 造 可 以 使 用 我 们 所 有 工 具 、 知 道 何 时 需 要 或 不 需 要 长 时 间 思 考 并 且 可 以 广 泛 用 于 各 种 任 务 的 系 统 。 以 上 引 文 凸 显 了 领 先 的 L L M 提 供 商 向 推 理 模 型 的 转 变 。 这 里 ， 思 维 链 是 指 一 种 提 示 技 术 ， 其 能 引 导 语 言 模 型 逐 步 推 理 以 提 高 其 推 理 能 力 。 另 一 点 也 值 得 一 提 ， 「 知 道 何 时 需 要 或 不 需 要 长 时 间 思 考 」 也 暗 示 了 一 个 重 要 的 设 计 考 量 ： 推 理 并 不 总 是 必 要 或 可 取 的 。 举 个 例 子 ， 推 理 模 型 在 设 计 上 就 是 为 了 解 决 复 杂 任 务 设 计 的 ， 如 解 决 难 题 、 高 级 数 学 问 题 和 高 难 度 编 程 任 务 。 然 而 ， 对 于 总 结 、 翻 译 或 基 于 知 识 的 问 答 等 简 单 任 务 来 说 ， 推 理 并 不 是 必 需 的 。 事 实 上 ， 如 果 将 推 理 模 型 用 于 一 切 任 务 ， 则 可 能 效 率 低 下 且 成 本 高 昂 。 例 如 ， 推 理 模 型 通 常 使 用 起 来 成 本 更 高 、 更 冗 长 ， 有 时 由 于 「 过 度 思 考 」 更 容 易 出 错 。 此 外 ， 这 里 也 适 用 一 条 简 单 的 规 则 ： 针 对 具 体 任 务 使 用 正 确 的 工 具 （ 或 L L M 类 型 ） 。 为 什 么 推 理 模 型 比 非 推 理 模 型 成 本 更 高 ？ 主 要 是 因 为 它 们 往 往 会 产 生 更 长 的 输 出 ， 这 是 由 于 中 间 推 理 步 骤 解 释 了 得 出 答 案 的 方 式 。 如 图 7 所 示 ， L L M 一 次 生 成 一 个 t o k e n 的 文 本 。 每 个 新 t o k e n 都 需 要 通 过 模 型 进 行 完 整 的 前 向 传 递 。 因 此 ， 如 果 推 理 模 型 产 生 的 答 案 是 非 推 理 模 型 的 两 倍 长 ， 则 需 要 两 倍 的 生 成 步 骤 ， 从 而 导 致 计 算 成 本 增 加 一 倍 。 这 也 会 直 接 影 响 A P I 使 用 成 本 — — 计 费 通 常 基 于 处 理 和 生 成 的 t o k e n 数 量 。 图 7 ： L L M 中 的 逐 个 t o k e n 生 成 。 在 每 一 步 ， L L M 都 会 获 取 迄 今 为 止 生 成 的 完 整 序 列 并 预 测 下 一 个 t o k e n — — 可 能 代 表 词 、 子 词 或 标 点 符 号 ， 具 体 取 决 于 t o k e n 化 器 。 新 生 成 的 t o k e n 会 被 附 加 到 序 列 中 ， 并 用 作 下 一 步 的 输 入 。 这 种 迭 代 解 码 过 程 既 用 于 标 准 语 言 模 型 ， 也 用 于 以 推 理 为 中 心 的 模 型 。 这 直 接 凸 显 了 从 头 开 始 实 现 L L M 和 推 理 方 法 的 重 要 性 。 这 是 了 解 它 们 的 工 作 方 式 的 最 佳 方 式 之 一 。 如 果 我 们 了 解 L L M 和 这 些 推 理 模 型 的 工 作 原 理 ， 我 们 就 能 更 好 地 理 解 这 些 权 衡 。 7 、 总 结 * L L M 中 的 推 理 涉 及 使 用 中 间 步 骤 （ 思 维 链 ） 来 系 统 地 解 决 多 步 骤 任 务 。 * 传 统 的 L L M 训 练 分 为 几 个 阶 段 ： 预 训 练 ， 模 型 从 大 量 文 本 中 学 习 语 言 模 式 ； 指 令 微 调 ， 可 改 善 模 型 对 用 户 提 示 词 的 响 应 ； 偏 好 微 调 ， 使 模 型 输 出 与 人 类 偏 好 对 齐 。 * L L M 中 的 模 式 匹 配 完 全 依 赖 于 从 数 据 中 学 习 到 的 统 计 关 联 ， 这 可 使 得 文 本 生 成 流 畅 ， 但 缺 乏 明 确 的 逻 辑 推 理 。 * 可 以 通 过 这 些 方 式 来 提 高 L L M 中 的 推 理 能 力 ： 推 断 时 间 计 算 扩 展 ， 无 需 重 新 训 练 即 可 增 强 推 理 能 力 （ 例 如 ， 思 维 链 提 示 ） ； 强 化 学 习 ， 使 用 奖 励 信 号 显 式 地 训 练 模 型 ； 监 督 微 调 和 蒸 馏 ， 使 用 来 自 更 强 大 推 理 模 型 的 示 例 。 * 从 头 开 始 构 建 推 理 模 型 可 以 提 供 有 关 L L M 能 力 、 局 限 性 和 计 算 权 衡 的 实 用 见 解 。 以 上 就 是 S e b a s t i a n R a s c h k a 新 书 《 R e a s o n i n g F r o m S c r a t c h 》 第 一 章 的 主 要 内 容 ， 可 以 说 通 过 一 些 基 础 介 绍 为 这 本 书 奠 定 了 一 个 很 好 的 基 调 。 你 对 推 理 模 型 有 什 么 看 法 ， 对 这 本 书 有 什 么 期 待 吗 ？ 成 为 V I P 会 员 查 看 完 整 内 容 h t t p s : / / m a g a z i n e . s e b a s t i a n r a s c h k a . c o m / p / f i r s t l o o k a t r e a s o n i n g f r o m s c r a t c h 点 赞 并 收 藏 1 6 暂 时 没 有 读 者 2 9 权 益 说 明 本 文 档 仅 做 收 录 索 引 使 用 ， 若 发 现 您 的 权 益 受 到 侵 害 ， 请 立 即 联 系 客 服 ( 微 信 : z h u a n z h i 0 2 ， 邮 箱 ： b d @ z h u a n z h i . a i ） ， 我 们 会 尽 快 为 您 处 理 深 度 学 习 · 推 荐 系 统 · 书 籍 · 5 月 9 日 【 新 书 】 深 度 学 习 推 荐 系 统 专 知 会 员 服 务 专 知 ， 提 供 专 业 可 信 的 知 识 分 发 服 务 ， 让 认 知 协 作 更 快 更 好 ！ 推 荐 系 统 在 现 代 生 活 中 无 处 不 在 ， 是 互 联 网 科 技 巨 头 的 主 要 变 现 渠 道 之 一 。 本 书 旨 在 帮 助 研 究 生 、 研 究 人 员 及 工 程 实 践 者 深 入 掌 握 这 一 前 沿 领 域 ， 建 立 扎 实 的 理 论 理 解 与 实 战 技 能 。 书 中 不 仅 介 绍 了 深 度 学 习 与 生 成 式 人 工 智 能 在 推 荐 模 型 中 的 应 用 ， 还 重 点 探 讨 了 推 荐 系 统 在 工 业 界 的 整 体 架 构 。 作 者 详 细 剖 析 了 Y o u T u b e 、 阿 里 巴 巴 、 A i r b n b 和 N e t f l i x 等 企 业 在 推 荐 系 统 中 的 实 际 部 署 方 案 ， 涵 盖 模 型 训 练 、 模 型 服 务 、 特 征 存 储 与 数 据 流 处 理 等 机 器 学 习 系 统 架 构 与 工 程 细 节 。 本 书 内 容 融 合 理 论 与 实 践 ， 为 读 者 提 供 全 面 的 技 术 视 角 与 实 操 指 导 。 评 论 “ 推 荐 系 统 具 有 巨 大 的 商 业 价 值 ， 深 度 学 习 正 在 将 其 推 向 新 的 高 度 。 本 书 聚 焦 于 实 际 应 用 ， 为 工 程 师 构 建 更 智 能 、 更 高 效 的 推 荐 系 统 提 供 了 强 有 力 的 工 具 支 持 。 其 清 晰 而 实 用 的 讲 解 方 式 ， 使 本 书 成 为 掌 握 该 领 域 最 新 进 展 的 必 备 指 南 。 ” — Y u e Z h u g e ， N G P C a p i t a l “ 阅 读 本 书 ， 你 将 深 入 了 解 推 荐 系 统 背 后 丰 富 的 资 源 与 工 程 实 践 。 作 者 分 享 了 将 学 术 研 究 与 产 业 应 用 相 结 合 的 独 特 见 解 ， 为 技 术 从 业 者 与 学 生 提 供 了 宝 贵 的 技 术 参 考 。 本 书 强 调 创 新 思 维 ， 激 发 读 者 在 推 荐 系 统 技 术 中 探 索 新 方 案 。 ” — Z i Y a n g ， G o o g l e D e e p M i n d 精 选 推 荐 语 探 索 深 度 学 习 在 推 荐 系 统 中 的 前 沿 应 用 ， 这 是 互 联 网 主 要 变 现 方 式 之 一 。 成 为 V I P 会 员 查 看 完 整 内 容 D e e p L e a r n i n g R e c o m m e n d e r S y s t e m s 点 赞 并 收 藏 1 4 暂 时 没 有 读 者 1 8 权 益 说 明 本 文 档 仅 做 收 录 索 引 使 用 ， 若 发 现 您 的 权 益 受 到 侵 害 ， 请 立 即 联 系 客 服 ( 微 信 : z h u a n z h i 0 2 ， 邮 箱 ： b d @ z h u a n z h i . a i ） ， 我 们 会 尽 快 为 您 处 理 登 陆 后 查 看 更 多 精 品 内 容 热 门 V I P 内 容 开 通 专 知 V I P 会 员 享 更 多 权 益 服 务 《 泛 域 指 挥 控 制 决 策 中 情 境 感 知 与 情 境 识 别 综 述 》 最 新 5 5 页 综 述 报 告 《 兵 棋 推 演 的 概 念 化 三 维 建 模 与 仿 真 技 术 研 究 》 最 新 报 告 中 文 版 | 应 对 必 然 威 胁 ： 无 人 机 攻 防 博 弈 研 究 美 陆 军 发 布 《 军 事 职 业 基 础 指 南 》 新 版 条 令 手 册 V I P 会 员 自 助 开 通 ( 推 荐 ) 客 服 开 通 详 情 本 周 荟 萃 主 题 区 块 链 区 块 链 （ B l o c k c h a i n ） 是 由 节 点 参 与 的 分 布 式 数 据 库 系 统 ， 它 的 特 点 是 不 可 更 改 ， 不 可 伪 造 ， 也 可 以 将 其 理 解 为 账 簿 系 统 ( l e d g e r ) 。 它 是 比 特 币 的 一 个 重 要 概 念 ， 完 整 比 特 币 区 块 链 的 副 本 ， 记 录 了 其 代 币 （ t o k e n ） 的 每 一 笔 交 易 。 通 过 这 些 信 息 ， 我 们 可 以 找 到 每 一 个 地 址 ， 在 历 史 上 任 何 一 点 所 拥 有 的 价 值 。 深 度 学 习 机 器 学 习 的 一 个 分 支 ， 它 基 于 试 图 使 用 包 含 复 杂 结 构 或 由 多 重 非 线 性 变 换 构 成 的 多 个 处 理 层 对 数 据 进 行 高 层 抽 象 的 一 系 列 算 法 。 机 器 学 习 “ 机 器 学 习 是 近 2 0 多 年 兴 起 的 一 门 多 领 域 交 叉 学 科 ， 涉 及 概 率 论 、 统 计 学 、 逼 近 论 、 凸 分 析 、 算 法 复 杂 度 理 论 等 多 门 学 科 。 机 器 学 习 理 论 主 要 是 设 计 和 分 析 一 些 让 可 以 自 动 “ 学 习 ” 的 算 法 。 机 器 学 习 算 法 是 一 类 从 数 据 中 自 动 分 析 获 得 规 律 ， 并 利 用 规 律 对 未 知 数 据 进 行 预 测 的 算 法 。 因 为 学 习 算 法 中 涉 及 了 大 量 的 统 计 学 理 论 ， 机 器 学 习 与 统 计 推 断 学 联 系 尤 为 密 切 ， 也 被 称 为 统 计 学 习 理 论 。 算 法 设 计 方 面 ， 机 器 学 习 理 论 关 注 可 以 实 现 的 ， 行 之 有 效 的 学 习 算 法 。 很 多 推 论 问 题 属 于 无 程 序 可 循 难 度 ， 所 以 部 分 的 机 器 学 习 研 究 是 开 发 容 易 处 理 的 近 似 算 法 。 ” — — 中 文 维 基 百 科 强 化 学 习 强 化 学 习 （ R L ） 是 机 器 学 习 的 一 个 领 域 ， 与 软 件 代 理 应 如 何 在 环 境 中 采 取 行 动 以 最 大 化 累 积 奖 励 的 概 念 有 关 。 除 了 监 督 学 习 和 非 监 督 学 习 外 ， 强 化 学 习 是 三 种 基 本 的 机 器 学 习 范 式 之 一 。 强 化 学 习 与 监 督 学 习 的 不 同 之 处 在 于 ， 不 需 要 呈 现 带 标 签 的 输 入 / 输 出 对 ， 也 不 需 要 显 式 纠 正 次 优 动 作 。 相 反 ， 重 点 是 在 探 索 （ 未 知 领 域 ） 和 利 用 （ 当 前 知 识 ） 之 间 找 到 平 衡 。 该 环 境 通 常 以 马 尔 可 夫 决 策 过 程 （ M D P ） 的 形 式 陈 述 ， 因 为 针 对 这 种 情 况 的 许 多 强 化 学 习 算 法 都 使 用 动 态 编 程 技 术 。 经 典 动 态 规 划 方 法 和 强 化 学 习 算 法 之 间 的 主 要 区 别 在 于 ， 后 者 不 假 设 M D P 的 确 切 数 学 模 型 ， 并 且 针 对 无 法 采 用 精 确 方 法 的 大 型 M D P 。 推 荐 系 统 推 荐 系 统 ， 是 指 根 据 用 户 的 习 惯 、 偏 好 或 兴 趣 ， 从 不 断 到 来 的 大 规 模 信 息 中 识 别 满 足 用 户 兴 趣 的 信 息 的 过 程 。 推 荐 推 荐 任 务 中 的 信 息 往 往 称 为 物 品 ( I t e m ) 。 根 据 具 体 应 用 背 景 的 不 同 ， 这 些 物 品 可 以 是 新 闻 、 电 影 、 音 乐 、 广 告 、 商 品 等 各 种 对 象 。 推 荐 系 统 利 用 电 子 商 务 网 站 向 客 户 提 供 商 品 信 息 和 建 议 ， 帮 助 用 户 决 定 应 该 购 买 什 么 产 品 ， 模 拟 销 售 人 员 帮 助 客 户 完 成 购 买 过 程 。 个 性 化 推 荐 是 根 据 用 户 的 兴 趣 特 点 和 购 买 行 为 ， 向 用 户 推 荐 用 户 感 兴 趣 的 信 息 和 商 品 。 随 着 电 子 商 务 规 模 的 不 断 扩 大 ， 商 品 个 数 和 种 类 快 速 增 长 ， 顾 客 需 要 花 费 大 量 的 时 间 才 能 找 到 自 己 想 买 的 商 品 。 这 种 浏 览 大 量 无 关 的 信 息 和 产 品 过 程 无 疑 会 使 淹 没 在 信 息 过 载 问 题 中 的 消 费 者 不 断 流 失 。 为 了 解 决 这 些 问 题 ， 个 性 化 推 荐 系 统 应 运 而 生 。 个 性 化 推 荐 系 统 是 建 立 在 海 量 数 据 挖 掘 基 础 上 的 一 种 高 级 商 务 智 能 平 台 ， 以 帮 助 电 子 商 务 网 站 为 其 顾 客 购 物 提 供 完 全 个 性 化 的 决 策 支 持 和 信 息 服 务 。 卷 积 神 经 网 络 在 深 度 学 习 中 ， 卷 积 神 经 网 络 （ C N N 或 C o n v N e t ） 是 一 类 深 度 神 经 网 络 ， 最 常 用 于 分 析 视 觉 图 像 。 基 于 它 们 的 共 享 权 重 架 构 和 平 移 不 变 性 特 征 ， 它 们 也 被 称 为 位 移 不 变 或 空 间 不 变 的 人 工 神 经 网 络 （ S I A N N ） 。 它 们 在 图 像 和 视 频 识 别 ， 推 荐 系 统 ， 图 像 分 类 ， 医 学 图 像 分 析 ， 自 然 语 言 处 理 ， 和 财 务 时 间 序 列 中 都 有 应 用 。 计 算 机 网 络 计 算 机 网 络 ( C o m p u t e r N e t w o r k s ) 指 将 地 理 位 置 不 同 的 多 台 计 算 机 及 其 外 部 设 备 ， 通 过 通 信 线 路 连 接 起 来 ， 在 网 络 操 作 系 统 及 网 络 通 信 协 议 的 管 理 和 协 调 下 ， 实 现 资 源 共 享 和 信 息 传 递 的 计 算 机 系 统 。 命 名 实 体 识 别 命 名 实 体 识 别 （ N E R ） （ 也 称 为 实 体 标 识 ， 实 体 组 块 和 实 体 提 取 ） 是 信 息 抽 取 的 子 任 务 ， 旨 在 将 非 结 构 化 文 本 中 提 到 的 命 名 实 体 定 位 和 分 类 为 预 定 义 类 别 ， 例 如 人 员 姓 名 、 地 名 、 机 构 名 、 专 有 名 词 等 。 机 器 翻 译 机 器 翻 译 ， 又 称 为 自 动 翻 译 ， 是 利 用 计 算 机 将 一 种 自 然 语 言 ( 源 语 言 ) 转 换 为 另 一 种 自 然 语 言 ( 目 标 语 言 ) 的 过 程 。 它 是 计 算 语 言 学 的 一 个 分 支 ， 是 人 工 智 能 的 终 极 目 标 之 一 ， 具 有 重 要 的 科 学 研 究 价 值 。 计 算 机 视 觉 计 算 机 视 觉 是 一 门 研 究 如 何 使 机 器 “ 看 ” 的 科 学 ， 更 进 一 步 的 说 ， 就 是 是 指 用 摄 影 机 和 电 脑 代 替 人 眼 对 目 标 进 行 识 别 、 跟 踪 和 测 量 等 机 器 视 觉 ， 并 进 一 步 做 图 形 处 理 ， 使 电 脑 处 理 成 为 更 适 合 人 眼 观 察 或 传 送 给 仪 器 检 测 的 图 像 。 作 为 一 个 科 学 学 科 ， 计 算 机 视 觉 研 究 相 关 的 理 论 和 技 术 ， 试 图 建 立 能 够 从 图 像 或 者 多 维 数 据 中 获 取 ‘ 信 息 ’ 的 人 工 智 能 系 统 。 关 注 我 们 专 知 指 南 · 建 议 反 馈 · 关 于 我 们 · 加 入 专 知 专 知 协 议 · 联 系 我 们 · © 2 0 1 9 专 知 滇 I C P 备 1 7 0 0 5 4 6 6 号 版 权 所 有 © 2 0 1 7 2 0 1 9 公 司 官 网 ： h t t p s : / / w w w . z h u a n z h i . a i     联 系 邮 箱 ： b d @ z h u a n z h i . a i 提 示 成 为 V I P 微 信 扫 码 咨 询 专 知 V I P 会 员 与 技 术 项 目 合 作 （ 加 微 信 请 备 注 : 专 知 ） 微 信 扫 码 咨 询 专 知 V I P 会 员 T o p w i n d o w . _ _ N U X T _ _ = ( f u n c t i o n ( a , b , c , d , e , f , g , h , i , j , k , l , m , n , o , p , q , r , s , t , u , v , w , x , y , z , A , B , C , D , E , F , G , H , I , J , K , L , M , N , O , P , Q , R , S , T , U , V , W , X , Y , Z , _ , $ , a a , a b , a c , a d , a e , a f , a g , a h , a i , a j , a k , a l , a m , a n , a o , a p , a q , a r , a s , a t , a u , a v , a w , a x , a y , a z , a A , a B , a C , a D , a E , a F , a G , a H , a I , a J , a K , a L , a M , a N , a O , a P , a Q , a R , a S , a T , a U , a V , a W , a X , a Y , a Z , a _ , a $ , b a , b b , b c , b d , b e , b f , b g , b h , b i , b j , b k , b l , b m , b n , b o , b p , b q , b r , b s , b t , b u , b v , b w , b x , b y , b z , b A , b B , b C , b D , b E , b F , b G , b H , b I , b J , b K , b L , b M , b N , b O , b P , b Q , b R , b S , b T , b U , b V , b W , b X , b Y , b Z , b _ , b $ , c a , c b , c c , c d , c e , c f , c g , c h , c i , c j , c k , c l , c m , c n , c o , c p , c q , c r , c s , c t , c u , c v , c w , c x , c y , c z , c A , c B , c C , c D , c E , c F , c G , c H , c I , c J , c K , c L , c M , c N , c O , c P , c Q , c R , c S , c T , c U , c V , c W , c X , c Y , c Z , c _ , c $ , d a , d b , d c , d d , d e , d f , d g , d h , d i , d j , d k , d l , d m , d n , d o 0 , d p , d q , d r , d s , d t , d u , d v , d w , d x , d y , d z , d A , d B , d C , d D , d E , d F , d G , d H , d I , d J , d K , d L , d M , d N , d O , d P , d Q , d R , d S , d T , d U , d V , d W , d X , d Y , d Z , d _ , d $ , e a , e b , e c , e d , e e , e f , e g , e h , e i , e j , e k , e l , e m , e n , e o , e p , e q , e r , e s , e t , e u , e v , e w , e x , e y , e z , e A , e B , e C , e D , e E , e F , e G , e H , e I , e J , e K , e L , e M , e N , e O , e P , e Q , e R , e S , e T , e U , e V , e W , e X , e Y , e Z , e _ , e $ , f a , f b , f c , f d , f e , f f , f g , f h , f i , f j , f k , f l , f m , f n , f o , f p , f q , f r , f s , f t , f u , f v , f w , f x , f y , f z , f A , f B , f C , f D , f E , f F , f G , f H , f I , f J , f K , f L , f M , f N , f O , f P , f Q , f R , f S , f T , f U , f V , f W , f X , f Y , f Z , f _ , f $ , g a , g b , g c , g d , g e , g f , g g , g h , g i , g j , g k , g l , g m , g n , g o , g p , g q , g r , g s , g t , g u , g v , g w , g x , g y , g z , g A , g B , g C , g D , g E , g F , g G , g H , g I , g J , g K , g L , g M , g N , g O , g P , g Q , g R , g S , g T , g U , g V , g W , g X , g Y , g Z , g _ , g $ , h a , h b , h c , h d , h e , h f , h g , h h , h i , h j , h k , h l , h m , h n , h o , h p , h q , h r , h s , h t , h u , h v , h w , h x , h y , h z , h A , h B , h C , h D , h E , h F , h G , h H , h I , h J , h K , h L , h M , h N , h O , h P , h Q , h R , h S , h T , h U , h V , h W , h X , h Y , h Z , h _ , h $ , i a , i b , i c , i d , i e , i f 0 , i g , i h , i i , i j , i k , i l , i m , i n 0 , i o , i p , i q , i r , i s , i t , i u , i v , i w , i x , i y , i z , i A , i B , i C , i D , i E , i F , i G , i H , i I , i J , i K , i L , i M , i N , i O , i P , i Q , i R , i S , i T , i U , i V , i W , i X , i Y , i Z , i _ , i $ , j a , j b , j c , j d , j e , j f , j g , j h , j i , j j , j k , j l , j m , j n , j o , j p , j q , j r , j s , j t , j u , j v , j w , j x , j y , j z , j A , j B , j C , j D , j E , j F , j G , j H , j I , j J , j K , j L , j M , j N , j O , j P , j Q , j R , j S , j T , j U , j V , j W , j X , j Y , j Z , j _ , j $ , k a , k b , k c , k d , k e , k f , k g , k h , k i , k j , k k , k l , k m , k n , k o , k p , k q , k r , k s , k t , k u , k v , k w , k x , k y , k z , k A , k B , k C , k D , k E , k F , k G , k H , k I , k J , k K , k L , k M , k N , k O , k P , k Q , k R , k S , k T , k U , k V , k W , k X , k Y , k Z , k _ , k $ , l a , l b , l c , l d , l e , l f , l g , l h , l i , l j , l k , l l , l m , l n , l o , l p , l q , l r , l s , l t , l u , l v , l w , l x , l y , l z , l A , l B , l C , l D , l E , l F , l G , l H , l I , l J , l K , l L , l M , l N , l O , l P , l Q , l R , l S , l T , l U , l V , l W , l X , l Y , l Z , l _ , l $ , m a , m b , m c , m d , m e , m f , m g , m h , m i , m j , m k , m l , m m , m n , m o , m p , m q , m r , m s , m t , m u , m v , m w , m x , m y , m z , m A , m B , m C , m D , m E , m F , m G , m H , m I , m J , m K , m L , m M , m N , m O , m P , m Q , m R , m S , m T , m U , m V , m W , m X , m Y , m Z , m _ , m $ , n a , n b , n c , n d , n e , n f , n g , n h , n i , n j , n k , n l , n m , n n , n o , n p , n q , n r , n s , n t , n u , n v , n w , n x , n y , n z , n A , n B , n C , n D , n E , n F , n G , n H , n I , n J , n K , n L , n M , n N , n O , n P , n Q , n R , n S , n T , n U , n V , n W , n X , n Y , n Z , n _ , n $ , o a , o b , o c , o d , o e , o f , o g , o h , o i , o j , o k , o l , o m , o n , o o , o p , o q , o r , o s , o t , o u , o v , o w , o x , o y , o z , o A , o B , o C , o D , o E , o F , o G , o H , o I , o J , o K , o L , o M , o N , o O , o P , o Q , o R , o S , o T , o U , o V , o W , o X , o Y , o Z , o _ , o $ , p a , p b , p c , p d , p e , p f , p g , p h , p i , p j , p k , p l , p m , p n , p o , p p , p q , p r , p s , p t , p u , p v , p w , p x , p y , p z , p A , p B , p C , p D , p E , p F , p G , p H , p I , p J , p K , p L , p M , p N , p O , p P , p Q , p R , p S , p T , p U , p V , p W , p X , p Y , p Z , p _ , p $ , q a , q b , q c , q d , q e , q f , q g , q h , q i , q j , q k , q l , q m , q n , q o , q p , q q , q r , q s , q t , q u , q v , q w , q x , q y , q z , q A , q B , q C , q D , q E , q F , q G , q H , q I , q J , q K , q L , q M , q N , q O , q P , q Q , q R , q S , q T , q U , q V , q W , q X , q Y , q Z , q _ , q $ , r a , r b , r c , r d , r e , r f , r g , r h , r i , r j , r k , r l , r m , r n , r o , r p , r q , r r ) ] , f e t c h : , s h o w R e c o m m e n d a t i o n : a , t a b I n d e x : X , t y p e : a i , s o r t T y p e : a i , d o c T y p e : d e , h o t L i s t : d f , l o a d i n g : a } } , e r r o r : b , s t a t e : , u s e r : b , o t h e r U s e r : b , o t h e r : b , t o k e n : i , c a p t c h a : b , l o g g i n g : , s i m D o c I n f o : , r e c D o c u m e n t s : [ ] , c a r o u s e l D o c u m e n t s : [ , , d e s c : b , l i n k : b , p o s t T i m e s t a m p : 1 7 4 7 6 6 5 5 3 8 6 9 2 , t y p e : s , p i c : h t t p s : \ \ u 0 0 2 F \ \ u 0 0 2 F c d n . z h u a n z h i . a i \ \ u 0 0 2 F v f i l e s \ \ u 0 0 2 F 8 9 d 8 3 3 8 b a a e f 5 2 4 9 1 5 9 9 3 5 2 0 2 3 c c c c 7 2 , p i c s : b , h o t E v e n t s : b , o b j : b , c n T i t l e : b , c n D e s c : b , u r l : b , u p V o t e d T i m e : d , r e a d T i m e : u , c o m m e n t T i m e : d , t o p i c : b , e v a l u a t e I n f o : b } , , d e s c : b , l i n k : b , p o s t T i m e s t a m p : 1 7 4 7 6 6 4 9 9 3 6 8 4 , t y p e : s , p i c : h t t p s : \ \ u 0 0 2 F \ \ u 0 0 2 F c d n . z h u a n z h i . a i \ \ u 0 0 2 F v f i l e s \ \ u 0 0 2 F 0 c 0 4 6 d 5 4 e e 4 0 b 1 9 d d 5 d e 1 2 3 8 8 c 7 0 d 4 c f , p i c s : b , h o t E v e n t s : b , o b j : b , c n T i t l e : b , c n D e s c : b , u r l : b , u p V o t e d T i m e : d , r e a d T i m e : w , c o m m e n t T i m e : d , t o p i c : b , e v a l u a t e I n f o : b } , , d e s c : b , l i n k : b , p o s t T i m e s t a m p : 1 7 4 7 6 6 7 3 8 4 5 6 7 , t y p e : s , p i c : h t t p s : \ \ u 0 0 2 F \ \ u 0 0 2 F c d n . z h u a n z h i . a i \ \ u 0 0 2 F v f i l e s \ \ u 0 0 2 F d 7 0 0 2 e 6 d 0 c d a e f f 0 4 e 3 8 f 4 4 f 4 2 f 0 5 6 2 3 , p i c s : b , h o t E v e n t s : b , o b j : b , c n T i t l e : b , c n D e s c : b , u r l : b , u p V o t e d T i m e : d , r e a d T i m e : o , c o m m e n t T i m e : d , t o p i c : b , e v a l u a t e I n f o : b } , , d e s c : b , l i n k : b , p o s t T i m e s t a m p : 1 7 4 7 6 6 5 1 5 0 0 9 5 , t y p e : s , p i c : h t t p s : \ \ u 0 0 2 F \ \ u 0 0 2 F c d n . z h u a n z h i . a i \ \ u 0 0 2 F v f i l e s \ \ u 0 0 2 F 1 3 0 d b 1 7 3 f 9 d 9 5 5 7 7 7 2 6 e 8 4 7 0 7 7 1 d f 8 f 1 , p i c s : b , h o t E v e n t s : b , o b j : b , c n T i t l e : b , c n D e s c : b , u r l : b , u p V o t e d T i m e : d , r e a d T i m e : u , c o m m e n t T i m e : d , t o p i c : b , e v a l u a t e I n f o : b } ] , u s e r H o t D o c u m e n t s : [ ] , v i s i b l e : , l o g i n F o r m A c t i v e N a m e : n o P a s s L o g i n , v i p R e d i r e c t S e c o n d s : d , s c r o l l : , r e f r e s h : , m e s s a g e : } , s e l e c t i o n : , , , , ] , r e l a t e d T o p i c s : [ ] } , , , , , , ] } , , , , ] , r e l a t e d T o p i c s : [ ] } , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ] , r e l a t e d T o p i c s : [ ] } , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , { i d : a d , k e y : b , c r e a t e D a t e : 1 6 4 8 0 1 2 7 9 9 7 0 5 , u p d a t e D a t e : 1 6 4 8 0 2 2 0 3 1 1 1 5 , n a m e : A I 与 交 通 , d e s c : h Z , m e t a D e s c : h Z , i m g : h t t p s : \ \ u 0 0 2 F \ \ u 0 0 2 F c d n . z h u a n z h i . a i \ \ u 0 0 2 F i m a g e s \ \ u 0 0 2 F t o p i c \ \ u 0 0 2 F b 3 1 f 6 1 0 6 e c d 0 d 1 6 d d c b f b e 5 0 5 b 7 e 1 a 3 a , f a t h e r I d : b , s o u r c e : b , u p d a t e T i m e : 1 7 3 2 4 9 4 7 4 0 0 0 0 , i s T e c h : c , i s Z h u a n : c , i s L i n k e d : a , i s A w e s o m e

做上本站友情链接,在您站上点击一次,即可自动秒收录并自动排在本站第一位！
<a href="http://www.lianfafa.com/" target="_blank">链发发SEO</a>