Ksuj on Nostr: 大模型只是在模仿 (https://www.solidot.org/story?sid=79006) 2024-08-18 00:54 ...
大模型只是在模仿 (https://www.solidot.org/story?sid=79006)
2024-08-18 00:54 by 环游黑海历险记
AI 学界将图灵测试视为智能的终结测试，然而图灵本人不是这么认为的，他将这一测试称为模仿游戏，将其作为与智能相关的一种简化的替代问题。然而当模仿游戏以图灵本人的名字命名之后，它被赋予了权威性，成为一代又一代 AI 研究人员追逐的目标。大模型就是这一目标的最新成果。大模型如 ChatGPT 所代表的 AI 在模仿人类上达到新的高度，以至于它的诞生在流行文化中被视为是一大转折点。但在技术层面上，大模型只是对数据的模仿，用 AI 研究员 Emily Bender 等人的话说就是“随机鹦鹉”。鹦鹉能流畅的重复类似人类的内容本身当然令人印象深刻。但它只是通过模仿伪装有智能，它依赖于训练数据，然后利用统计方法选择性的拟合数据，不可避免的会产生偏见和幻觉，这是它的特性而不是 bug。AI 的统计模型将我们的偏见编纂成法典，在计算客观性的伪装下重现它们。但为什么 AI 的模仿游戏备受科技巨头们的青睐？用马克思的话说，资本只关心商品的效用。简单来说，商品的包装比改进商品的使用价值对资本而言更为重要。但要实现真正的通用 AI，我们不能只着眼于模仿。
https://aeon.co/essays/is-ai-our-salvation-our-undoing-or-just-more-of-the-same
2024-08-18 00:54 by 环游黑海历险记
AI 学界将图灵测试视为智能的终结测试，然而图灵本人不是这么认为的，他将这一测试称为模仿游戏，将其作为与智能相关的一种简化的替代问题。然而当模仿游戏以图灵本人的名字命名之后，它被赋予了权威性，成为一代又一代 AI 研究人员追逐的目标。大模型就是这一目标的最新成果。大模型如 ChatGPT 所代表的 AI 在模仿人类上达到新的高度，以至于它的诞生在流行文化中被视为是一大转折点。但在技术层面上，大模型只是对数据的模仿，用 AI 研究员 Emily Bender 等人的话说就是“随机鹦鹉”。鹦鹉能流畅的重复类似人类的内容本身当然令人印象深刻。但它只是通过模仿伪装有智能，它依赖于训练数据，然后利用统计方法选择性的拟合数据，不可避免的会产生偏见和幻觉，这是它的特性而不是 bug。AI 的统计模型将我们的偏见编纂成法典，在计算客观性的伪装下重现它们。但为什么 AI 的模仿游戏备受科技巨头们的青睐？用马克思的话说，资本只关心商品的效用。简单来说，商品的包装比改进商品的使用价值对资本而言更为重要。但要实现真正的通用 AI，我们不能只着眼于模仿。
https://aeon.co/essays/is-ai-our-salvation-our-undoing-or-just-more-of-the-same