物理与人工智能 - 2026-09-28第7-9节 - 马滟青

2:59:09 8 वक्ता 45 अध्याय 2243 खण्ड

अध्याय

  1. 4:39

    好 朋友 可以 上 课 现在 咱 们 上 课 同 学 的 数 量 才 是 一个 合 适 的 数 量 咱 们 做 的 也 比 较 宽 松 一点 现在 这个 课 同 学 们 反 正 都 不 爱 听 课 包括 其 他的 课 应 该 以 我的 了 解 其 他 课 也是 这样 子 人 数 就是 一个 指 数 的 往 下 衰 减 的 速 度 当然 到 最 后 下面 会 逐 渐 平 坦 因为 有一 些 同 学 还是 比 较 爱 听 课 的 但是 我们 现在 这个 AI 时 代 确 实 获 …

  2. 9:42

    自 个 也 在 研 究 这 我 自 个 本 身 也 在 研 究 这个 问题 当然 我 不是 在 去 说 我 用 E U 的 方 法 怎么 去 算 出 9 圈 的 一个 结 果 我 其实 是 在 让 AI 呢 去 说 OK 我 只 给 你就 8 圈 一 类 的 一些 算 的 结 果 你 只 看 这 些 结 果 你 也 不知道 这个 结 果 是 来 自 哪 里 你就 把它 当 成 数 据 但是 基 于 这 数 据 你 能 不能 去 理 解 这 背 后 究 竟 是 个 什么 样 的…

  3. 12:09

    问题 啊 咱 们 就 回 到 咱 们 这个 课 的 一个 这个 证 文 了 我们 现在 开始 来 去 先 来 去 学 习 再 去 从 这个 什么 叫 这个 机 器 学 习 呢 从 头 开始 来 再 去 看一下 首先 这个 学 习 啊 学 习 大家都 在 现在 大家 在 上 课 也 都 在 学 习 啊 究 竟 什么 叫 学 习 啊 所以 学 习 呢 有 这个 S imon 的 这个 一个 定 义 呢 就是 说 它 是 通 过 一些 learning in any process…

  4. 14:20

    f 好 但是 在 这里 边 我们 是 在 去 说 机 器 学 习 机 器 学 习 我们 核 心 只 想 获 得 智 能 我们 核 心 其实 不是 想 要 的 学 习 因为 要 获 得 智 能 那么 学 习 机 器 学 习 我们 说 机 器 学 习 不要 做 一个 ex plic it program 但是 智 能 你是 可以 有一 些 应 变 完 的 但 有一 些 有 些 算 法 非常 确 定 的 非常 优 秀 的 算 法 的时候 你 没有 必 要 让 机 器 再 去 学 一…

  5. 16:46

    应 许 进 来 在 这 好 那 我们 还 用 了 很多 的 像 那个 翻 译 然后 每 个 同 学 可能 都 在 用 翻 译 然后 你 给 他 一个 一个 内 容 然后 翻 译 成 英 文 或者 给 英 文 翻 译 成 中 文 或者 其 他 语 言 然后 我们 还有 这 些 交 通 预 测 然后 可以 告诉 你 哪 地方 晕 走 然后 你 出 行 的时候 你可以 知道 你 怎么 去 绕 开 这 些 晕 走 的 路 段 然后 还有 些 数 字 助 理 然后 你可以 去 跟 他 …

  6. 21:47

    少 量 的 一些 障 碍 物 的时候 那 时候 他 不 太 了 解 所以 其 他 地方 呢 他 其实 完全 都 可以 说 非常 好 这 就是 在 他 也是 在 不同 的 他 这个 AI 呢 不 在 不 断 的 学 习 学 会 了 如何 在 这个 道 路 上 在 那 我们 前 面 介 绍 这个 蛋 白 质 结 构 的 预 测 你 给 给 定 这个 蛋 白 质 蛋 白 质 它的 这个 序 列 然后 呢 你 去 预 测 它的 结 构 这是 一个 学 习 的 过 程 看 了 这个 机…

  7. 26:25

    我们 还有 一个 叫 强 化 学 习 强 化 学 习 强 化 学 习 就是 现在 其实 用 的 也 非常的 多 现在 这个 大 模 型 到 最 后 那 些 后 修 炼 之 后 后 面 现在 经 常 都 用 一些 强 化 学 习 这 种 方 式 他 这 种 方 式 他 其实 就是 直接 去 跟 环 境 去 相 论 一个 非常 典 型 的 强 化 学 习 是 他们 原 先 去 做 过 一个 无 人 机 的 强 化 学 习 无 人 机 它 开始 它 这个 不会 飞 无 人 机 它 …

  8. 31:25
    अध्याय 8: 类 呢 你可以 说 OK 我也 可以 用 回 归 的 问题 来 解 决 那 类 似 的 所有 的 回 归 问题 其实 也可以 用 分 类 来 解 决 因为 你 所 要 的 你 所 谓 的 连 续 你 永 远 不 需要 那么 高 的 分 辨 率 我 总 是 可以 把 你的 你的 连 续 你 感 兴 趣 的 联 系 的 比如 你的 房 价 因为 房 价 说 一 平 米 什么 三 万 你说 三 万 这个 太 粗 糙 了 我 说 三 万 几 千 你说 还 粗 糙 我 三 万 几 千 几 百 几 十 几 还 粗 糙 吗 你 非 要 把 这个 房 价 每 平 米 几 分 到 几 分 所以 所 谓 的 回 归 其实 你 也是 可以 把它 变 成 一个 离 散 的 问题 但是 我们 依 然 会 去 说 这个 回 归 和 分 类 把 这 两 年 之前 分 开 去 做 因为 有 时候 有 些 问题 天 然 适 合 回 归 有 些 问题 天 然 适 合 分 类 但是 有 时候 你可以 用 一 种 方 式 去 替 代 这 种 方 式 不要 把它 想 的 过 于 绝 对 好 那么 这 就是 这 就是 一个 回 归 的 问题 比如 说 回 归 假 设 这是 一个 房 价 你可以 先 用 一个 现 行 回 归 但 现 行 回 归 可能 效 果 比 较 差 你 用 个 二 次 回 归 可能 效 果 它 就 会 变 好了 这个 狗 的 评 价 也可以 这么 去 做 比如 说 我们 来 去 看 比如 说 我们 手 写 数 字 识 别 比如 说 0 13 4 这个 事 我们 其实 就是 回 归 问题 我们 预 测 说 他 这个 数 字 是 等 于 几 所以 是 个 回 归 的 问题 垃 圾 邮 件 识 别 那么 去 看 当然 是 个 垃 圾 还是 非 垃 圾 也是 个 回 归 问题 预 测 某 天 的 一个 股 价 这是 个 连 续 的 问题 不 我 说 错 了 先 讲 的 叫 做 分 类 的 问题 这 下面 叫 回 归 的 问题 这个 股 价 是 个 连 续 的 所以 是 个 回 归 的 问题 比如 预 测 电 影 的 评 分 评 分 我们 有 时候 会 看到 一个 连 续 的 一个 评 分 有 些 你 会 发 现 我们 上 次 打 0 到 5 分 也 不 让 你 去 打 什么 0. 303s · Speaker 1

    类 呢 你可以 说 OK 我也 可以 用 回 归 的 问题 来 解 决 那 类 似 的 所有 的 回 归 问题 其实 也可以 用 分 类 来 解 决 因为 你 所 要 的 你 所 谓 的 连 续 你 永 远 不 需要 那么 高 的 分 辨 率 我 总 是 可以 把 你的 你的 连 续 你 感 兴 趣 的 联 系 的 比如 你的 房 价 因为 房 价 说 一 平 米 什么 三 万 你说 三 万 这个 太 粗 糙 了 我 说 三 万 几 千 你说 还 粗 糙 我 三 万 几 千 …

  9. 36:29

    征 定 义 了 这样 一个 人 这个 事 这个 物 体 所以 我们 就 需要 去 提 取 这个 特 征 提 取 特 征 然后 把 这 些 特 征 提 取 出来 然后 我们 把 这个 特 征 把 这个 邮 件 变 成 特 征 向 量 X I 就是 特 征 然后 某 个 X I 然后 呢 这个 标 签 呢 就是 Y 这样 就 把 这个 tra ining 的 数 据 呢 我们 看 了 本 来 是 一 大 堆 的 一些 文 字 就 变 成 了 一个 特 征 某 一个 特 征 的 一…

  10. 38:54

    我们 要 去 拟 合 的 函 数 叫 做 f 使 得 我们 去 学 一个 F 使 得 我们 学 会 一个 F 使 得 对 于 任 意 这个 I 层 一 到 100 这个 F X I 都 跟 Y I 差不多 很 接 近 当然 很 接 近 因为 现在 就是 复 一 或 正 义 要 么 相 当 不 相 当 对 不对 那么 对 于 这个 问题 对 于 这 种 复 内 问题 其实 就是 说 我 尽 可能 的 去 得 到 更 多 的 就 尽 可能 得 到 更 多 的 正 确 预 测 减 …

  11. 43:58

    试 呢 用 10 % 的 数 据 而 这个 风 呢 是 用 一个 比 较 用 一个 随 机 的 一个 方 式 当然 你 还 有一 些 数 据 比如 有 些 数 据 是 真 正 的 时间 演 化 的 数 据 就是 说 股 票 的 行 为 你说 那 我 过 去 一 年的 股 票 数 据 我 来 去 预 测 下 来 数 据 这 时候 你 尽 量 把 前 旧 的 数 据 作 为 训 练 机 最 新 的 数 据 作 为 一个 测 试 机 这 才 能 更 加 能 够 去 表 征 这样 的…

  12. 47:28

    mod el 好 那 我们 来 去 看 一个 再 来 去 看 一个 简 单 一个 简 单 的 一个 机 器 学 习 的 方 法 叫 这个 开 进 的 那个 算 法 我们 现在 呢 就 说 把 这个 这个 数 据 呢 就是 每 个 数 据 呢 就是 放 在 一个 放 在 一个 空 间 上面 比如 这个 这个 放 在 2 个 空 间 每 个 点 呢 每 个 数 据 呢 就 放 在 这个 2 个 空 间 上面 去 然后 呢 你 然后 呢 就是 每 个 放 在 2 个 空 间 或者 …

  13. 52:29

    这个 体 积 我们 说 了 我们 总 共 有 n 个 样 本 我们 现在 要 取 10 个 样 本 那么 10 个 样 本 在 n 个 样 本 是 k 或者 k 个 样 本 就是 k over n 我们 这个 我们 画 一个 小 正 方 形 如果 这 些 数 据 是 均 匀 分 布 的 但是 小 正 方 形 的 体 积 除 于 总 的 正 方 形 体 积 是不是 应 该 是 差不多 是 k over n 这么 大 对 不对 所以 我们 要 期 待 说 L 的 第 四 方 应 …

  14. 55:24

    我可以放到 谢谢 观 看 这是 你 本 身 的 我以爱的决策了一下 你可以 在 这 写 个 A 顶 的 A 顶 的 D M D 对 就是 写 上 你的 习 惯 就是 你 你 用 不同 的 我 你 用 不同 的 模 型 比如 你 用 什么 制 服 你 用 什么 奥 通 网 的 你 用 Cloud 他们 的 行 为 可能 不 一 样 有 会 写 的话 有 会 写 的 所以 他们 这 边 有 点 我 我 经 常 的 习 惯 就是 把 所有 人 家 放 到 我 刚 前 的 工作 环 …

  15. 1:03:29

    你不觉得所要换哪个系统

  16. 1:04:39

    所以 我们 刚 刚 才 看到 一个 介 绍 了 一个 最 简 单 的 一个 算 法 开 净 零 但是 呢 我们 发 现 开 净 零 算 法 呢 在 一个 如果 这个 特 征 特 征 在 一个 高 位 空 间 的时候 呢 这个 事 儿 呢 是 根 本 用 不 成 的 但是 对 于 我们 一个 一个 复 杂 的 问题 哈 当 这个 问题 比 较 比 较 复 杂 的时候 呢 它 要 选 择 的 特 征 肯 定 会 比 较 多 因为 它 一定 不是 个 很 低 位 的 一个 问题 这…

  17. 1:09:40

    你的 特 征 和 标 签 Y 之 间 的 印 象 关 系 然后 就 你 和 你的 W B 就是 原 先 大家 学 过 的 线 线 回 归 所以 线 线 回 归 正 是 我们 机 器 学 系 里 边 一个 非常 重要 有 最 简 单 的 一个 模 型 所以 从 这个 意 义 上 大家 很 早 就 在 开始 学 习 这样 的 一个 机 器 学 习 人 工 智 能 的 内 容 了 比如 我们 现 行 回 归 当然 大家都 很 熟 悉 比如 我们 去 预 测 一个 房 价 房 价 会…

  18. 1:13:17

    最 小 二 乘 法 然后 我们 可以 在 这个 训 练 级 上面 训 练 级 就是 刚 刚 这个 耸 致 函 数 呢 去 萨 摩 外 边 所有 可能 的 训 练 级 当然 你 再 去 准 备 平 均 然后 呢 你要 去 取 这个 W 和 B 使 得 这样 的 值 最 小 化 于 是 我们 就 得 到了 最 终 我们 就 得 到 我们 的 最 好的 W B 对 于 这样 的 一个 问题 我们 刚 才 说 的 这个 平 方 平 方 的 一个 损 失 函 数 但 通 常 来 说 呢…

  19. 1:18:19

    就是 个 现 金 函 数 这个 F 是 限 界 函 数 限 界 函 数 如果你 去 算 它 做 到 最 下 二 乘 法 的话 那么 这是 一个 平 方 函 数 对 吧 平 方 函 数 的 导 数 就是 限 界 函 数 平 方 函 数 九 导 它 就 有 变 限 界 函 数 了 所以 限 界 函 数 限 界 函 数 你 直接 就可以 解 除 它的 T 度 下 降 的 公 式 了 非常 直接 就 直接 解 决 因为 这个 线 演 出 是 非常 直接 的 就是 解 析 的 能 够 …

  20. 1:23:21
    अध्याय 20: 一个 二 分 类 的 问题 那 在 这里 边 呢 我们 依 然 会 采 用 一个 线 性 的 一个 模 型 但是 呢 我们 的 损 失 函 数 不 再 是 一个 平 方 损 失 函 数 了 我们 要 去 定 一个 叫 做 所有 的 一个 交 叉 商 损 失 函 数 我们 会 去 介 绍 为什么 是 一个 交 叉 商 损 失 函 数 在 这个 问题 里 边 呢 才 是 合 理 的 一个 损 失 函 数 所以 模 型 我们 是 需要 去 选 定 的 损 失 函 数 也是 需要 去 非常 认 真 斟 酌 什么 样 的 损 失 函 数 才 是 我们 想 要 的 损 失 函 数 好 那 我们 先 看 来 这个 二 分 类 二 分 类 我们 刚 才 已经 介 绍 了 我们 是 有 两 个 标 签 一个 负 一 的 标 签 一个 正 一 的 标 签 好 然后 呢 我们 通 常 我们 这个 分 裂 问题 我们 通 常 不会 直接 去 让 这个 fr 直接 就 把它 写 成 一个 我们 不会 直接 让 这个 fr 就是 那个 函 数 直接 输 出 结 果 就是 负 义 正 义 所以 输 出 这样 的 输 出 它 可能 不是 一个 不是 一个 好的 一个 函 数 如果 真 正 这样 的话 你可以 采 用 一个 叫 做 一个 这个 符 号 的 一个 s ign 函 数 这个符号函数就是说大于0就是正1 协于0就是负1 这个函数 但这个函数呢 ok 等一下 就是说我们就是一般的函数 我们一般的函数 它输出结果不会是正1负1 虽然你要想把它变成正1负1的话 你就只能用这个sine的函数 以后我们发现了 它也有它的不好的地方 他的问题就是 我们 我 没 法 去 做 这 些 这 些 这个 梯 度 下 降 因为 这个 散 函 数 它 它 不是 不是 一个 可 导 的 它 在 S 跟 0 点 不是 一个 可 导 的 一个 函 数 所以 这 就 使 得 我们 没 没 法 就 因为 这个 函 数 导 致 我们 就是 我们 去 定 义 我们 的 损 失 函 数 的时候 你 也可以 去 尝 试 去 定 义 你的 总 式 函 数 比如 它 等 于 0 正 确 的时候 是 给 一个 0 错 误 的 给 一个 1 错 误 的 给 一个 0 反 正 正 确 的 给 一个 0 然后 错 误 的 给 一个 1 然后 通 过 方 式 当然 它 不是 一个 联 系 函 数 所以 这 种 不是 联 系 函 数 使 得 我们 没 法 用 梯 度 下 降 的 这 种 方 式 去 不 断 地 调 整 我们 的 参 数 那么 对 于 对 于 这 种 问题 我们 究 竟 如何 去 如何 去 我们 我们 给 定 一个 F 函 数 一个 连 续 的 F 函 数 之 后 呢 我们 究 竟 去 怎么 去 更 好 去 定 义 我们 的 损 失 函 数 我们 的 我们 要 想 去 做 的 方 式 我们 的 基本 的 理 论 定 我们 损 失 函 数 的 基本 的 理 论 呢 是 我们 的 最 大 自 然 框 架 最 大 私 人 观 念 大家 学 概 率 的时候 应 该 都 大概 学 过 一些 然后 我们 就 简 单 的 把它 给 重 复 一 遍 我们 利 用 最 大 私 人 估 计 的 原 则 就是 我们 在 观 察 数 据 进 行 建 模 的时候 我们 对 我们 假 设 这 些 数 据 是 某 一 种 分 布 是 某 一 种 分 布 然后 我们 去 建 模 的 就是 我们 去 建 一个 判 决 式 的 一个 模 型 就是 θ 是 我们 的 参 数 然后 x 我们 输 出 y 的时候 它的 概 率 是 多少 我们 说 有 一个 x 的时候 它 输 出 y 它的 概 率 是 多少 当然 θ 是 我们 要 去 学 的 一个 参 数 最 大 四 软 的 框 架 的 逻 辑 非常的 简 单 我就 看 我 假 设 给 定 参 数 了 之 后 然后 我 把 我的 这 些 概 率 去 正 确 的 概 率 让 它 变 得 每 个 数 据 它 出 现 什么 效 果 我就 认 为 这 就是 它的 概 率 最 大的 一个 值 把 这 些 概 率 全部 把它 给 盛 起 来 我 认 为 它 既 然 出 现 这个 效 果 那 肯 定 这 种 效 果 的 概 率 比 较 大 我 把 所有 的 数 据 和 它的 预 测 就是 它的 对 对 它的 那个 标 签 然后 对 那个 参 数 它的 概 率 呈 到 一起 我 希望 这样 的 一个 数 呈 到 一起 的 数 是 最 大 化 的 这 本 来 是 这个 事情 就是 发 生 的 这个 事情 我 期 待 发 生 的 这 件事情 它 就 应 该 是 最 大 化 的 通 过 这 方 式 我 去 调 整 我的 S ATA 当然 这样 的 把 概 率 每 个 概 率 乘 到 一起 当 你的 概 率 数 据 非常 多 的时候 这样 的 概 率 乘 到 一起 是 一个 非常 小 的 数 字 比如 说 每 个 概 率 是 0. 300s · Speaker 1

    一个 二 分 类 的 问题 那 在 这里 边 呢 我们 依 然 会 采 用 一个 线 性 的 一个 模 型 但是 呢 我们 的 损 失 函 数 不 再 是 一个 平 方 损 失 函 数 了 我们 要 去 定 一个 叫 做 所有 的 一个 交 叉 商 损 失 函 数 我们 会 去 介 绍 为什么 是 一个 交 叉 商 损 失 函 数 在 这个 问题 里 边 呢 才 是 合 理 的 一个 损 失 函 数 所以 模 型 我们 是 需要 去 选 定 的 损 失 函 数 也是 需要 去…

  21. 1:28:22

    它的 成 绩 是 一个 最 大 化 的 那么 我 把它 求 个 倒 数 它 依 然 是 个 最 大 化 对 吧 所以 我就 可以 先 把它 求 个 导 数 求 个 导 数 之 后 对 这个 成 绩 的 求 导 数 就 变 成 一些 导 数 的 核 了 所以 这个 等 价 的 一个 最 大 自 然 就 告诉 我们 我们 把 每 一个 数 据 它的 标 签 给 定 θ 的时候 它 数 据 标 签 的 概 率 求 log 然后 再 去 求 核 这是 我的 一个 总 的 一个 函 数…

  22. 1:33:23

    辑 回 归 的时候 呢 就是 二 分 类 的时候 呢 我们 就 把 这个 S igma 作 用 在 这个 F 上 我们 先 用 个 F 函 数 然后 呢 S igma 再 作 用 在 F 函 数 上面 然后 呢 就 把 这个 F 函 数 呢 就 映 射 到 0 和 1 之 间 了 好 0 和 1 之 间 呢 我们 就 说 OK 它 是 是 比如 0 到 1 之 间 我们 就 表 证 它 是 等 于 一个 等 于 比如 是 是 个 拉 击 邮 件 的 概 念 在 这 儿 呢 就…

  23. 1:38:27

    型 往 哪 走 的 方 向 所以 把 模 型 往 哪 走 这 件事情 就 不能 去 随 便 拍 脑 袋 去 决 定 一定要 有 一定 的 依 据 的 至 少 要 有 一定 的 逻 辑 性 虽 然 我们 通 过 最 大 私 人 这样 的 估 计 方 式 推 导 出 了 我们 是 交 叉 商 损 失 函 数 才 是 我们 现在 的 逻 辑 回 归 所 需要 的 一个 正 确 的 损 失 函 数 当然 我 说 正 确 这 句 话 也 不 正 确 最 大 私 人 这个 世界 上 也是…

  24. 1:40:43

    掐 的 不对 的 好 那么 有 了 这个 损 失 函 数 的 定 义 我们 就可以 开始 来 去 训 练 它 所以 训 练 呢 我们 就 要 去 利 用 这个 剃 度 下 降 来 要 去 求 这个 核 的 一个 最 小 棒 好 那 么 做 法 呢 就是 说 我们 先 定 义 这 种 让 这个 目 标 函 数 J J 呢 就是 他们 的 一个 求 核 当然 我们 要 去 对 这个 J 呢 求 J 的 一个 最 小 值 对 W B 就是 求 W B 的 值 使 得 J 最 小 棒…

  25. 1:45:47

    虑 问题 说 如果 不是 两 分 类 我们 是 个 多 分 类 比如 说 我们 这 些 点 我们 要 去 区 分 红 的 蓝 的 和 绿 的 这 种 情况 我们 怎么 去 办 我们 当然 有 一个 办 法 就是 按 照 刚 才 我们 的 逻 辑 回 归 就是 二 分 类 我们 可以 去 做 多 次 二 分 类 去 比如 说 我们 第一 次 我们 做 个 二 分 类 我们 把 蓝 的 和 其 他的 分 开 这是 刚 才 的 二 分 类 对 吧 然后 在 下 一次 我 再 去 做…

  26. 1:47:18
    अध्याय 26: 另外 一个 问题 就是 这 些 二 分 类 器 每 个 二 分 类 器 他们 是 完全 独 立 的 训 练 他们 三 个 是 完全 独 立 的 他们 并 不能 没有 一个 对 这 些 所有 数 据 一起 的 一个 全 面 的 投 降 比如 说 这个 二 分 类 器 他 只 看 出 了 蓝 的 跟 其 他 之 间 的 差 异 他 并 没有 去 把 红 的 和 绿 的 之 间 差 异 没有 一个 全 面 的 把 握 所以 这是 他的 另外 一个 问题 所以 我们 就 为 了 更 好 去 处 理 这 些 多 分 类 的 问题 我们 就 有 一个 叫 做 So ft max 回 归 当然 这 也是 一个 分 类 问题 假 设 我们 要 去 分 这个 K 类 把 这个 东 西 分 成 K 类 我们 就是 要 去 训 练 一个 函 数 我们 可以 去 训 练 我们 可以 去 共 同 训 练 开 个 模 型 F K 让 这个 F K 是 F K 呢 是 最 后 呢 当然 输 出 也是 个 是 个 十 周 哈 然后 最 终 呢 我们 把 每 个 F K 呢 转 变 成 是 一个 D K 类 的 一个 概 率 好 那 我们 现在 呢 有 这是 我们 的 目 标 哈 就是 我们 去 训 练 K 个 函 数 K 个 函 数 呢 K 个 函 数 呢 跟 刚 才 呢 K 个 函 数 不 一 样 这 K 个 函 数 呢 是 一起 去 训 练 的 不是 单 独 这个 训 练 完了 训 练 这 K 个 函 数 我们 一起 去 训 练 训 练 完了 之 后 每 个 F K 呢 会 变 成 D K 类 的 一个 概 率 那 现在 一个 问题 就是 说 我们 如何 去 定 义 它的 概 率 前 面 我们 用 了 S IG MO ID 的 函 数 把它 输 出 转 变 它的 概 率 但 现在 我们 不能 简 单 的 去 适 用 S IG MO ID 因为 S IG MO ID 刚 才 我们 看到 它 因为 我们 需要 满 足 的 一个 东 西 就是 它的 概 率 的 核 需要 是 等 于 1 的 刚 才 S IG MO ID 就是 S IG MA X 加 上 S IG MA X 是 等 于 1 它 正 好 满 足 于 这样 的 一个 概 率 等 于 1 的 一个 关 系 但 现在 我们 不是 我们 是 Y 不 再 是 等 于 正 负 1 了 我们 Y 是 等 于 很多 值 12 3 45 67 8 这 些 东 西 我们 要 求 概 率 一定 是 要 要 求 他们 所有 的 概 率 加 到 一起 等 于 1 就是 说 我 给 定 S 它 属 于 1 的 概 率 属 于 2 的 概 率 属 于 K 的 概 率 加 起 来 必 须 要 等 于 1 这是 我们 必 须 要 满 足 的 一个 条 件 所以 这个 P 一定 不会 是 一个 s igma 的 函 数 了 好 那 我们 解 决 方 案 就是 把 这个 把这个贸易函数呢稍微推广一下 定 义 叫 so ft max so ft max 含 数 so ft max 含 数 呢 就 定 义 这个 p 呢 这么 一个 定 义 就是 我 把 这个 so 的 f j 呢 全 求 和 放 在 分 母 中 分 子 呢 是 f k 的时候 呢 就是 f k 这 时 呢 这 就是 它的 概 念 这 时 呢 你 把 so 的 k 就是 so 的 y 的 等 于 1 到 大 k 的 求 和 完了 之 后 呢 它的 概 念 就 等 于 1 了 就是 就 实 现 了 一个 能 够 去 规 一 化 所有 的 所有 的 这个 概 率 好 那 我们 看 着 这 边 我们 为什么 用 意 志 数 啊 意 志 数 呢 跟 前 面 我们 有 个 s igma 其实 是 一个 逻 辑 的 我们 为什么 要 用 意 志 数 意 志 数 有一 种 非常 强 的 放 大 效 应 就 当 某 一个 f k 远 大 于 f j 的时候 如果 他们 任 一个 f k 元 大 于 f g 这 时候 呢 因为 父 母 中 是 求 和 一个 f g 1 的 f g 次 方 另外 一个 1 的 f k 次 方 本 来 他 已经 是 元 大 于 了 f 指 数 上面 元 大 于 那么 在 1 指 数 的话 那么 他们 的 差 异 呢 就是 非常 非常 大 当 你 所有 的 f g 都 比 f k 小 的时候 呢 父 母 中 就 只 剩 下 f k 了 其 他 东 西 全 都 可以 忽 略 不 计 了 于 是 呢 这个 P 呢 就是 近 次 等 于 1 然后 可以 非常 快 速 的 只 要 某 一个 F K 比 其 他 的 其 他 的 F 呢 都 大 不 少 的时候 呢 就 很 很 迅 速 的 全部 就 概 率 呢 就是 归 到 它 了 这是 一个 一 指 数 的 一个 So ft max 和 这个 S igma 的 一 种 一 指 数 的 一个 原因 好 那 我们 可以 去 看 一 看 一些 具 体 的 一些 例 子 哈 当 这个 这个 当 这个 k 呢 比如 说 12 34 然后 呢 假 设 我们 f k 呢 这个 f k 呢 是 等 于 2 这 等 于 1 这个 等 于 1 这个 等 于 0. 301s · Speaker 2

    另外 一个 问题 就是 这 些 二 分 类 器 每 个 二 分 类 器 他们 是 完全 独 立 的 训 练 他们 三 个 是 完全 独 立 的 他们 并 不能 没有 一个 对 这 些 所有 数 据 一起 的 一个 全 面 的 投 降 比如 说 这个 二 分 类 器 他 只 看 出 了 蓝 的 跟 其 他 之 间 的 差 异 他 并 没有 去 把 红 的 和 绿 的 之 间 差 异 没有 一个 全 面 的 把 握 所以 这是 他的 另外 一个 问题 所以 我们 就 为 了 更 …

  27. 1:52:19

    这是 21 1 变 成 3 你 会 看到 它的 概 率 呢 就 达 到了 0. 77 的 样 子 这个 1 这 边 呢 就 只有 0. 1 了 当 我们 继 续 放 大 放 大 当 这个 是 10 下 的 1 的时候 这 好像 指 他们 的 F 的 输 出 值 呢 只 大 了 10 倍 但是 呢 体 现 到 这个 So ft max 的 放 大 效 应 了 之 后 你 会 发 现 这个 取 1 的 概 率 呢 就 到了 0. 999 了 其 他的 概 率 呢 就 只有 万 分…

  28. 1:55:00

    请 不 吝 点 赞 订 阅 转 发 打 赏 支持 明 镜 与 点 点 栏 目 这是 一个 很 好的 特 征 特 征 这 就是 一个 问题 的 问题 但是 你 没 问 到 这个 这 要 对 立 体 办 法 的 问题 任 何 的 问题 就是 不 断 解 决

  29. 1:56:10

    这个是 这个是 后面就有个看的 现在我看到不是人的指定人籍的 是 阿尼人 你这个可以看 所以说 当然有个 但是 这个是 这个是 这个是 这个是 中文字幕志愿者

  30. 1:57:44

    中文字幕志愿者 感 这 两 六 十 五 的 路 面 没有 错 也 不 错 也 不 错 谢谢观看 中 文 字 幕 —— Y K

  31. 2:00:17

    任何自己好咖喽 这就是我 这 话 要 聊 天, 聊 天 随 便 找, 聊 天 随 便 找。 聊 天 随 便 找。 聊 天 随 便 找。

  32. 2:04:39

    请我们继续刚才的内容 所以 我们 最 后 发 现 这个 So ft Max 回 归 我们 就可以 去 做 这个 开 封 的 问题 做 一个 概 率 的 一个 概 率 函 数 就 这样 做 然后 最 大 资 料 可以 告诉 我们 最 后 的 一个 损 失 函 数 就是 一个 最 少 交 叉 商 的 一个 选 择 函 兽 我们 现在 开始 来 进 入 下 一个 话 题 就 叫 过 女 和 过 女 和 过 女 和 它的 意思 就是 说 我们 训 练 的 样 本 里 边 你 会 看到…

  33. 2:09:43

    F 函 数 呢 它的 这个 R F 呢 就 会 非常 大 这个 函 数 这个 参 数 空 间 呢 其实 会 给我 强 行 的 排 除 掉 会 有 一定 程 度 而 有 这样 的 效 应 所以 他 就 能 够 去 一定 程 度 能 够 去 发 这个 函 数 F 的 函 数 带 被 缩 小 到 一定 的 范 围 你可以 称 为 这个 是 简 单 的 范 围 这样 的话 就 能 够 防 止 你的 鞋 过 你 河 那 我们 因为 我们 经 常 那 些 货 拟 合 的 现 象 经 常 …

  34. 2:14:43
    अध्याय 35: 很 小 的 一个 量 好 我们 就 刚 才 我们 讲 的 一个 回 归 我们 现在 去 加 上 一个 正 则 化 就是 单 纯 的 那 些 回 归 刚 才 讲 的 那 些 回 归 这个 并 不是 大家 真的 今天 运 的时候 呢 还 会 再 加 上 一些 这 些 镇 子 化 对 这个 线 线 回 归 再 加 上 这个 L 2 的 镇 子 化 那 就是 这样 的 东 西 再 加 上 L 2 镇 子 化 这个 呢 我们 称 一下 这个 一个 利 益 回 归 这个 锐 级 的 回 归 当然 它的 因为 是 二 次 型 它的 导 数 也是 可以 很好 求 的 于 是 呢 就可以 求 出 它的 一个 它的 一个 梯 度 依 然 是 非常 直接 的 对 这样 的 一个 对 这样 这个 这个 这个 利 益 回 归 呢 他 最 后 的 效 果 就是 反 正 就是 让 让 这 些 大的 地方 值 呢 就是 尽 可能 不要 不要 有 太 大的 值 然后 呢 就 往 往 里 面 收 缩 收 缩 一个 一个 一个 一个 一个 小 的 地方 哈 那 对 这个 还 有一 种 你是 一个 陷 阱 回 归 呢 再 加 上 一个 L 1 的 一个 证 的话 L 1 的 证 的话 呢 叫 这个 L as so 这个 回 归 哈 他的 回 归 特 别 能 够 取 零 的 地方 就 取 零 特 别 往 某 些 维 数 上 往 零 上 去 跑 另外 如果 说 是 一个 交 叉 商 损 失 逻 辑 回 归 逻 辑 回 归 的时候 我们 也是 需要 去 加 上 这样 的 一个 正 字 化 如果 加 上 一个 正 字 化 如果 是 一个 交 叉 商 损 失 加 上 L 2 的 一个 正 字 化 这个 呢 是 才 是 我们 的 一个 一个 完 整 的 一个 逻 辑 回 归 的 一个 一个 方 式 然后 呢 就 会 到 达 一个 也是 一个 这样 的 一个 梯 动 那 还有 一个 非常 人 们 用 的 非常 广 泛 的 叫 做 这个 支持 相 当 机 支持 相 当 机 的 呢 它 它 用 的 方 式 是 一个 用 一个 就是 刚 才 讲 的 那个 荷 叶 所 是 不是 在 不是 在 用 那个 不是 用 这个 货 帽 一个 这 种 方 式 就是 用 这个 合 影 损 失 函 数 然后 它 再 加 上 L 的 一个 正 格 现在 这 就是 一个 支持 向 量 支持 向 量 它 其实 是 通 过 一个 就是 有一 些 点 来 去 决 定 一个 划 分 的 最 优 的 一个 屏 幕 这 有 各 种 各 样 的 一些 方 案 每 一 种 方 案 可能 对 你 不同 的 问题 是 更 有 效 的 所以 我们 再 来 看 一个 逻 辑 回 归 呢 如果 它 再 加 上 一个 镇 子 化 如果 逻 辑 回 归 呢 如果 比如 一个 逻 辑 回 归 它 不 适 应 这个 L 2 镇 子 化 就 原 式 的 你看 你 可能 会 得 到 一个 这样 的 一个 滑 声 然后 呢 这是 你 这个 这个 test loss 然后 呢 这个 tra ining loss tra ining loss 呢 是 在 这样 的 test 的 l oss 呢 就是 一个 这样 的 所以 你看 那个 test 呢 就 test 呢 比 tra ining 的 这个 误 差 呢 大 了 很多 这个 test 的时候 呢 就是 这个 test 呢 在 基 层 test 呢 是 达 到了 0. 302s · Speaker 2

    很 小 的 一个 量 好 我们 就 刚 才 我们 讲 的 一个 回 归 我们 现在 去 加 上 一个 正 则 化 就是 单 纯 的 那 些 回 归 刚 才 讲 的 那 些 回 归 这个 并 不是 大家 真的 今天 运 的时候 呢 还 会 再 加 上 一些 这 些 镇 子 化 对 这个 线 线 回 归 再 加 上 这个 L 2 的 镇 子 化 那 就是 这样 的 东 西 再 加 上 L 2 镇 子 化 这个 呢 我们 称 一下 这个 一个 利 益 回 归 这个 锐 级 的 回 …

  35. 2:19:45

    这样 这样 这样 的 一个 正 则 画 像 前 面 的 参 数 所以 我们 知道 刚 才 这个 例 子 告诉 我们 一 件事情 就 说 这样 这样 的 一个 正 则 画 其实 是 是 有 用 处 的 正 则 画 它 能 够 去 避 免 你的 过 你 核 让 你 得 到 一个 更 好的 预 测 能 力 但是 在 这个 过 程 中 我们 还 需要 去 选 L AM DA 选 L AM DA 这 又 是 一个 很 大的 学 问 这里 边 大家 一定要 去 意 识 到 一 件事情 你…

  36. 2:24:49

    你 别 认 为 说 我 就是 让 他 去 你看 我也 没有 把 我的 测 试 机 的 数 据 然后 直接 用 训 练 我 这是 把 测 试 机 去 告诉 他 你 这个 模 型 还 不行 你 再 去 训 一 训 吧 但 这 句 话 本 身 就 在 把 你 测 试 机 的 数 据 的 信 息 放 上 去了 所以 测 试 机 的 数 据 一定 是 不能 做 反 馈 的 所以 我们 要 去 做 的 事情 就是 测 试 机 我们 单 独 到 最 后 去 在 最 终 再 去 用 前 面 …

  37. 2:28:00

    同 样 的 量 级 的 一些 数 所以 才 就是 这 件事情 本 身 应 该 是 数 据 是 有 的 要 求 就是 你 最 后 宣 传 出来 的 那个 O m ega 是 同 样 的 同 样 的 量 级 证 明 你的 数 据 本 身 那个 X 应 该 也是 差不多 同 样 的 对 你 说 的 对 这是 你 选 取 的 一个 应 该 在 刚 才 那个 一个 一个 房 价 的 预 测 上面 是 看 的 很 清 晰 房 价 预 测 房 价 那个 比如 说 面 积 我 面 积 是 几…

  38. 2:30:16

    好 我们 就 去 哪 个 超 三 兽 超 三 兽 因为 你有 原 则 上 你可以 去 不 断 去 调 整 对 吧 你可以 调 整 很多 超 三 树 这 超 三 树 只是 跟 其 他 三 树 不 一 样 的 地方 它 不 太 适 合 没有 一个 什么 连 续 的 过 渡 比如 你 究 竟 是 调 查 商 还是 用 一个 核 液 这个 东 西 没 法 做 一个 导 树 导 树 把它 往 下 低 推 的 对 不对 所以 这 有 些 是 要 枚 举 的 比如 像 阿 拉 伯 它 其实…

  39. 2:35:19

    我们 现在 这个 我们 把 这个 A BC 这 三 个 三 个 东 西 我们 现在 去 做 这个 A 来 做 决 策 现在 我们 只有 九 个 人 然后 呢 我们 去 A 做 课 测 A 呢 是 是不是 认 证 工作 有 前 三 个 yes 这是 个 yes 有 四 个 yes 现在 是 no 对 不对 好 yes 的时候 呢 有 12 38 no 的时候 有 45 67 9 好 这是 做 到 一个 第一 次 的 角 色 就是 看看 是不是 个 认 证 工作 就 分 了 分 …

  40. 2:37:53

    可以 换 一个 角 色 数 我们 先 去 选 这个 是 否 喜欢 吃 香 蕉 这是 我们 的 第一 个 选 择 我们 先 看 C 如果 是 否 喜欢 吃 香 蕉 那 我们 看 12 36 8 是 yes 24 57 9 是 no 好 这里 边 有 症 有 妇 就是 它的 是不是 好 科 研 有 症 有 妇 好 我 们 就 需要 去 再 进 一 步 去 划 分 所以 我们 会 发 现 这个 C 这个 划 分 没有 你可以 感 觉 到 你可以 感 觉 到 这个 C 的 划 分 好…

  41. 2:42:54
    अध्याय 42: 就是 属 于 d k 类 的 样 本 的 数 量 属 于 总 的 样 本 数 量 然后 再 乘 上 它的 log 求 和 这 就是 我们 的 信 息 商 那么 信 息 的 这个 首 性 A 对 这个 集 合 对 某 一个 集 合 D 这 就是 集 合 D 这个 信 息 的 增 益 就是 G 来 表示 就是 它 原 先 的 信 息 商 减 去 它 这个 用 这个 A 这个 首 性 划 分 了 之 后 他们 的 信 息 商 再 乘 上 一个 因 子 就 这 次 反 正 就是 这 就 定 了 它的 一个 信 息 增 益 就是 说 原 先 的 信 息 跟 现 代 信 息 的 一个 差 异 就是 表 达 了 它的 一个 这是 这是 一个 新 这是 我 这个 鼠 标 又 没 出来 这是 新 的 就是 划 分 了 之 后 某 一个 就是 A 这个 手 性 划 分 了 之 后 A 手 性 去 某 一个 值 他们 的 信 息 商 对 不对 他们 的 信 息 商 他们 的 信 息 商 也 要 在 在 他们 的 数 量 做 个 加 权 之 后 求 和 是 表示 了 新 的 信 息 商 这是 原 来 的 信 息 商 这个 信 息 商 之 间 的 差 异 呢 就是 他的 信 息 增 益 大家 可以 看到 这样 可以 大概 能 够 去 理 解 哈 那 我们 呃 然后 呢 我们 可以 去 这个 这个 还 可以 定 一个 手 续 的 一个 条 件 商 啊 然后 呢 信 息 增 益 呢 跟 这个 标 签 的 一个 手 信 之 间 还有 一个 互 信 息 之 间 这个 关 系 这 都 在 后 边 都有 详 细 的 介 绍 那么 我们 最 终 的 我们 的 目 标 其实 说 这个 信 息 增 益 就是 一个 手 信 如果 能 够 让 这个 信 息 增 益 的 比 较 多 的话 那么 它 画 出来 的 这个 床 头 也 就 越 高 就是 画 出来 它的 一个 子 集 合 里 边 的 冲 动 也 很 高 所以 这 就 大概 就是 我们 的 大概 的 想 法 详 细 在 信 息 中 里 边 下面 讨 论 的 有 所以 我们 就 要 通 过 某 一个 这个 属 性 尽 快 的 让 它的 信 息 增 益 比 较 高 的 这样 一个 原 则 来 所以 我们 就可以 去 算 我们 的 这个 我们 可以 去 计 算 了 如果 在 根 节 点 的时候 我们 总 共 有 这么 多 数 据 然后 我们 可以 去 计 算 它的 总 共 信 息 数 量 然后 我们 可以 利 用 刚 才 这样 的 信 息 增 益 来 去 检 查 差 异 然后 去 看 A 这个 通 过 A 划 分 它的 信 息 增 益 把 你 去 计 算 算 完了 之 后 呢 得 到 这个 信 息 增 益 是 0. 191s · Speaker 1

    就是 属 于 d k 类 的 样 本 的 数 量 属 于 总 的 样 本 数 量 然后 再 乘 上 它的 log 求 和 这 就是 我们 的 信 息 商 那么 信 息 的 这个 首 性 A 对 这个 集 合 对 某 一个 集 合 D 这 就是 集 合 D 这个 信 息 的 增 益 就是 G 来 表示 就是 它 原 先 的 信 息 商 减 去 它 这个 用 这个 A 这个 首 性 划 分 了 之 后 他们 的 信 息 商 再 乘 上 一个 因 子 就 这 次 反 正 就是 这 …

  42. 2:46:05

    一个 程 度 所以 我们 最 有 选 择 会 先 做 A 现在 我们 应 该 把 A 做 一个 属 性 的 画 风 当然 A 是 做 一个 属 性 的 画 风 A 做 完了 之 后 其实 你要 去 基 于 A 画 风 的 一个 结 果 再 去 决 定 B 和 C 谁 是 下 一个 选 择 不是 说 我 从 最 开始 一 轮 选 下 来 就可以 了 当 一 轮 选 下 来 你 也可以 这么 做 它 不 一定 是 最 好的 你 先 选 上 A 了 之 后 再 去 对 这 些 加 …

  43. 2:51:08

    息 增 益 来 决 定 的 因为 你 给 这个 手 信 的时候 你 每 一 份 比如 说 这个 人 你 去 统 一 你说 这个 人 工作 几 个 小 时 你说 我就 非常 武 断 的 说 工作 大 于 五 个 小 时 就是 努 力 小 于 五 个 小 时 不 努 力 但 这个 东 西 可能 不是 个 好的 选 择 你 给 这个 数 据 给 他 之 后 你 通 过 他 自 动 去 选 取 划 分 看 哪 个 划 分 有 最 大的 信 息 增 益 然后 去 做 一个 更 好的 一…

  44. 2:57:29

    我觉得 这 次 有 点 快 选 所以 我 说 帅 也 对 所以 现在 的 第三 个 对 我 必 须 可以 做 第三 个 多 个 月 这个它是这样的 不是实力 有很多的技术 他们会有这种技术 这个技术可以 谢谢大家