向阳乔木 on Nostr: 谷歌前首席执行官，Schmidt Futures ...
谷歌前首席执行官，Schmidt Futures 创始人埃里克·施密特在斯坦福大学 ECON295-CS323 课程上的访谈总结：
施密特认为，人工智能领域发展迅速，每六个月就需要更新对未来趋势的预测。
Schmidt 预计未来一两年内，AI 领域将出现更大上下文窗口、更强大的 AI Agent 以及文本到行动的转换能力：
① 更大规模的上下文窗口： 允许模型处理更长的文本序列，例如整本书籍，从而提高对近期事件的理解和记忆能力。
② 人工智能Agent的兴起： 能够执行复杂任务的AI系统，例如自动进行化学实验并从中学习。
③ 文本到行动 (Text to Action) 的实现： 将自然语言指令直接转换为可执行代码，例如根据用户需求快速生成应用程序。
施密特认为，这三大趋势的结合将对世界产生比社交媒体更深远的影响，因为它们赋予了每个人强大的编程能力，可以快速实现各种想法。
AI 领域的竞争将主要集中在少数拥有雄厚资金、人才和教育资源的国家之间，例如美国和中国。
他以谷歌为例，说明创业公司和大型公司在 AI 领域的竞争态势。
创业公司通常更加努力，而大型公司则可能因为官僚主义和缺乏创新而落后。
人工智能可能会导致“工作两极分化”：
① 人工智能工具可以帮助各领域专业人士提高生产力、自动化任务并产生新的见解。
② 需要较少技能和判断力的工作可能会被取代，例如执行重复性或可预测性任务的工人。
人工智能被用于虚假信息传播是一个日益严重的威胁，缓解建议：
① 提高公众的批判性思维能力。
② 社交媒体平台有责任检测和删除虚假信息。
③ 政府要制定法规，以规范人工智能的使用，防止用于恶意目的。
④ 探索使用人工智能本身来检测和标记虚假信息。
对给有志于从事人工智能工作的学生建议：
培养强技术技能：专注于学习人工智能、机器学习和数据科学等领域。
发展商业头脑：了解如何将人工智能技术转化为成功的产品和服务。
保持好奇心和终身学习的态度：人工智能是一个快速发展的领域，跟上最新进展至关重要。
考虑人工智能的伦理影响：思考人工智能的更广泛的社会和伦理影响至关重要。
挑战和机遇
算力需求： 训练大型语言模型需要巨大的算力，预计未来模型的训练成本将高达数千亿美元，对能源供应和芯片制造提出挑战。
竞争格局：高昂的资金投入和技术门槛，只有少数资金雄厚、人才济济的国家和公司能够参与大型语言模型的研发和竞争，其中中美两国将成为主要的角逐者。
国家安全： 人工智能技术在军事领域的应用日益重要，施密特领导的White Stork项目旨在开发低成本、高效率的无人机系统，以改变战争形态。
知识的本质： 随着人工智能模型变得越来越复杂，认为我们可能需要接受“黑匣子”的存在，并通过对抗性人工智能（利用人工智能系统来发现和修复其他人工智能系统的漏洞）等方法来确保其安全性和可控性。
一些名词解释：
上下文窗口: 指的是大型语言模型能够处理的文本长度。
AI Agent: 能够执行特定任务的 AI 系统，例如搜索信息、预订航班等。
文本到行动: 将自然语言指令转换为可执行代码或操作的能力。
对抗性 AI: 用于测试和攻击其他 AI 系统，以发现其漏洞和弱点。
通用人工智能 (AGI): 能够像人类一样执行任何智力任务的 AI 系统。
莫拉维克悖论: 与人类相比，AI 系统在解决复杂问题方面更容易，而在执行简单的物理任务方面更难。
施密特认为，人工智能领域发展迅速，每六个月就需要更新对未来趋势的预测。
Schmidt 预计未来一两年内，AI 领域将出现更大上下文窗口、更强大的 AI Agent 以及文本到行动的转换能力：
① 更大规模的上下文窗口： 允许模型处理更长的文本序列，例如整本书籍，从而提高对近期事件的理解和记忆能力。
② 人工智能Agent的兴起： 能够执行复杂任务的AI系统，例如自动进行化学实验并从中学习。
③ 文本到行动 (Text to Action) 的实现： 将自然语言指令直接转换为可执行代码，例如根据用户需求快速生成应用程序。
施密特认为，这三大趋势的结合将对世界产生比社交媒体更深远的影响，因为它们赋予了每个人强大的编程能力，可以快速实现各种想法。
AI 领域的竞争将主要集中在少数拥有雄厚资金、人才和教育资源的国家之间，例如美国和中国。
他以谷歌为例，说明创业公司和大型公司在 AI 领域的竞争态势。
创业公司通常更加努力，而大型公司则可能因为官僚主义和缺乏创新而落后。
人工智能可能会导致“工作两极分化”：
① 人工智能工具可以帮助各领域专业人士提高生产力、自动化任务并产生新的见解。
② 需要较少技能和判断力的工作可能会被取代，例如执行重复性或可预测性任务的工人。
人工智能被用于虚假信息传播是一个日益严重的威胁，缓解建议：
① 提高公众的批判性思维能力。
② 社交媒体平台有责任检测和删除虚假信息。
③ 政府要制定法规，以规范人工智能的使用，防止用于恶意目的。
④ 探索使用人工智能本身来检测和标记虚假信息。
对给有志于从事人工智能工作的学生建议：
培养强技术技能：专注于学习人工智能、机器学习和数据科学等领域。
发展商业头脑：了解如何将人工智能技术转化为成功的产品和服务。
保持好奇心和终身学习的态度：人工智能是一个快速发展的领域，跟上最新进展至关重要。
考虑人工智能的伦理影响：思考人工智能的更广泛的社会和伦理影响至关重要。
挑战和机遇
算力需求： 训练大型语言模型需要巨大的算力，预计未来模型的训练成本将高达数千亿美元，对能源供应和芯片制造提出挑战。
竞争格局：高昂的资金投入和技术门槛，只有少数资金雄厚、人才济济的国家和公司能够参与大型语言模型的研发和竞争，其中中美两国将成为主要的角逐者。
国家安全： 人工智能技术在军事领域的应用日益重要，施密特领导的White Stork项目旨在开发低成本、高效率的无人机系统，以改变战争形态。
知识的本质： 随着人工智能模型变得越来越复杂，认为我们可能需要接受“黑匣子”的存在，并通过对抗性人工智能（利用人工智能系统来发现和修复其他人工智能系统的漏洞）等方法来确保其安全性和可控性。
一些名词解释：
上下文窗口: 指的是大型语言模型能够处理的文本长度。
AI Agent: 能够执行特定任务的 AI 系统，例如搜索信息、预订航班等。
文本到行动: 将自然语言指令转换为可执行代码或操作的能力。
对抗性 AI: 用于测试和攻击其他 AI 系统，以发现其漏洞和弱点。
通用人工智能 (AGI): 能够像人类一样执行任何智力任务的 AI 系统。
莫拉维克悖论: 与人类相比，AI 系统在解决复杂问题方面更容易，而在执行简单的物理任务方面更难。