（音乐声）
>>你好，Sam
非常感谢你今天的到来
>>你好，Patrick
很高兴来到这里，不过我还以为
我应该和 John 交流
>>呃，我想 John 可能遇到问题了
>>走开，Patrick
你今天早上有自己的研讨会要参加
抱歉，Sam
Patrick 总喜欢用深度伪造插入我的对话
好吧，也许我们应该从头像框里出来
然后继续我们的谈话
（音乐声）
>>好了，我很高兴能在这里
见到 Sam Altman 本人
目前来讲，Sam 基本上就是
硅谷的传奇之一
你是不是在 19 岁时 就创立了 Loopt？
>>我想是的
>>还是 18 岁来着？
总之，然后你就作为关键合作伙伴之一
登上了 iPhone 发布会的舞台
然后你把 Loopt 卖给了 Green Dot
Sam 经营 Y Combinator 多年
最近还创办了 OpenAI 为类似刚才演示中的应用提供技术支持
就是你们在之前的 主题演讲中看到的 GPT 驱动的
自然语言查询
所以，Sam，谢谢你的到来
>>谢谢你邀请我
>>2014 年你曾发过一条推特
我也是最近才看到相关引用 这远比你创办 OpenAI 更早
这句话就是：人工智能将是 有史以来最好也可能是最糟糕的东西
它是我能想到的变数最大的技术
你觉得现在怎么样了？
（笑声）
>>我认为我们会越来越好
>>怎么说
>>我感觉更有信心了
虽然我不记得发过这样一条推特 但我对管理好人工智能这件事
感觉比当时更有信心
我认为我们目前所处的科技树
与我原本的预想和当时的发展模式截然不同
我的想法是，我们过去是用强化学习代理
来学习如何玩越来越复杂的游戏
这样的人工智能只是为了试图打败人类
而我们现在将逐步放弃这种想法
因为那对我来说似乎不是一个正确的方向
而我认为，我们现在正在做的是
利用经过优化的系统来帮助我们
并且现在的运作方式让我们可以 一步一步地看到人工智能在做什么
虽然我们可能无法确切看清 神经网络内部发生了什么
但我感觉比过去好多了
>>好的，因为你过去一直是 一个人工智能末日论者
而这种思想真的很危险
听起来你现在觉得没那么严重了？
>>是的，但我仍然认为我们必须
非常严肃地对待这件事 这里存在着巨大的生存风险
但我认为，通过 OpenAI
和其他 AGI 实验室人员的辛勤努力
我们正在取得重大进展
当然，要实现大家都很满意的发展路线 还有很长的路要走
>>在座的有许多人非常关注互联网
他们读了很多 LessWrong 上的帖子
听到了很多分析师的说法
猜测人们担心人工智能的
各种原因
我认为其中可能有许多人
他们有真实的生活经历
他们看着人工智能的进步，他们觉得，这很酷
但是人工智能的自动校正仍然不够好
他们担心人工智能的自动校正
会不会很快
消灭人类
如果人们要担心人工智能
他们究竟应该担心什么？
>>有多少人真的在担心人工智能？
>>有一部分人吧
>>那没我想的那么多，太好了
（笑声）
>>从某种程度上来说
我基本同意你的观点
人工智能就像一个软件，对吧？
其他软件也有确定性的部分和非确定性的部分
这也像是一种奇特的自动校正
所以我们可以接受这种信念
但我认为，从另一个角度来看，真的
我们没有耍任何把戏
我们已经从根本上知道了如何创建
可以自我学习的系统
我认为它的重要性一点都没有被夸大
当人工智能从虚幻的自动校正
变成复杂得多的算法
就像是一束更清晰、更明亮的光 这可能是一片很庞大的未知地带
但随着这些系统能够完成越来越复杂的任务
并能够越来越自主地解决
日益复杂的问题，这肯定会
改变世界的运作方式
至少，这个世界的发展将越来越快
就像这些人工智能
现在已经成为了我们社会的一部分
而且，人工智能可能有很多不同的运用方式
这就意味着每个人的能力和世界发展的速度
都将变得非常不同
>>有一个很好的类比
我听到了一个说法
有关最近的银行挤兑所带来的金融动荡
有人说，在推特时代
银行挤兑将与以往截然不同
>>没错
>>现在的信息
会像病毒般扩散
>>没错
>>这可能是一个很好的例子
你想，一大堆推特本身 并不会产生任何内在的危险
但它们确实会产生
连锁反应
>>在上一次金融危机中
我认为每个人可能都发生了改变
就像 iPhone 和 Twitter 还没普及的时代一样
那时 iPhone 刚刚诞生，并非人人都有
也不是每个人都会成天使用各种移动设备
从这个例子可以看出
对于这两个重要的技术转变，人们完全始料未及
但我想说，这两个转变都比 人工智能带来的转变规模要小
也没有那么具有革命性
>>是的，所以现在这两个技术 已经让你们骑虎难下了
也就是 GPT4 或 GPT…
>>是的
>>…系列和 ChatGPT
大家都说 ChatGPT 是有史以来
增长最快的消费产品
那么 ChatGPT 的最终形态会是什么样？
>>我想说，我不知道这些到底会变成什么样
但我可以说，正如 John 刚才提到的
我在经营 Y Combinator 时 人们会向我寻求建议
如果你跟我说，作为一家初创公司
你要发布的产品既没有 病毒式传播，也没有共享特性
没有社交功能、没有网络效应
没有任何理由可以
让你吸引用户注册
甚至，你无需注册就可以使用
那我会说你的选择糟透了
现在想想我过去很长一段时间 给出的建议都很糟糕
（笑声）
>>但是，ChatGPT 正在 经历病毒式传播
只不过不是在产品中传播
>>没错
>>人们都在推特上发布截图
所有人…
>>没错，但我的意思是
就事论事，要做到病毒式传播太难了
我想，这对 Wordle 来说就很有效
>>好吧，我只是想让你知道，不要盲目听从…
>>但不会持续那么久
>>不要盲目听从投资人…
>>是的
>>…有关产品的建议
我觉得我们早就已经知道了
你最喜欢的是什么，我们在主题演讲中说过
我们对自然语言查询有着浓厚兴趣
过去我们一直使用 SQL 作为接口
>>是的
>>人类语言是一种
更好的接口
我们已经在 Stripe 中大量使用
人类语言进行查询优化，效果非常好
你最喜欢的 GPT 用例有哪些？
你一定有一份最佳用例的目录
>>既然你提到了
那在我谈论具体的用例之前
我想说我最自豪的是我们终于 有了一个我认为非常合理的
新的计算机接口
很长一段时间以来
计算机的使用已变得越来越容易、越来越自然
现在大家都拿着 iPhone 在录像
这些比计算机用起来更简单
你们只需要用手就可以操作
而不必用鼠标
这样操作起来更直接一点
但使用语言操作还会更自然、更简单
我们都习惯于通过语言相互传达非常复杂的概念
因此才有了大千世界，就是这样
事实上，我们现在已经拥有了 这种与计算机交互的新方式
以及某种新的软件理念
我认为这还能走得更远，留给我们的一个惊喜是
究竟还有多少领域适合这种方式
>>我想用一种更有趣的方式来重新表述一下
你还记得你在 Y Combinator 的时期吗？
我想你当时应该会经常看到这种情况
我想说的是 在 2016 年或 2017 年
硅谷曾围绕对话机器人出现过一阵狂热期
当时人们认为对话机器人
就是重中之重
比如说，如果你要买花
你不再需要访问 1-800-Flowers.com 网站
你只需要通过自然语言接口
与卖花机器人交互
然后你就可以买到花了
我记得在某个时候还推出了一些演示
但我总觉得这有点不靠谱
因为机器人太笨拙了
>>确实，很傻
>>而现在那个景象又回到了我们面前
因为也许现在这个方向是最合适的
>>现在这种情况确实正在发生
我认为，就像许多其他科技成熟周期一样
从人们的需求来看，方向是正确的
只是这项技术无法实现
>>没错
>>只要技术上可以实现
我仍然认为这是人们想要的软件使用方式
>>没错
>>我们都看到了这一点
你刚刚问了我最喜欢的用例
从颇受人们喜爱的学习方式
和这些新型的人工智能导师或医学顾问
到人们控制计算机的方式 我们都看到了很有趣的用例
我认为用户的期望是正确的
只不过技术还没有达到
>>是的，我们 Stripe 内部 设想的一种方式是
在任何领域，只要有人还在用人工操作
或在完成一系列任务时
需要有一组研究助理
提炼所有相关数据
并将他们需要的一切放在他们手边
就像餐前准备一样
或者完成他们能做的一切准备工作
人工智能就可以带来生产力的巨大提升
>>没错
>>这就是我们期望的人工智能的一种运用方式
接下来我们谈谈 OpenAI 的实际工作原理
你们是如何制作出这样的产品的
能先透露接下来的计划是什么吗？
现在你们已经推出了 GPT4 和 ChatGPT
>>可能会有 GPT5
我是说可能
>>好的，不过根据你们的编号系统判断
也可能是 GPT4.5
还有什么值得我们期待的吗？
不一定是新产品，也可以是新的方向
因为这里有很多观众…
>>好的
>>…对技术发展非常感兴趣
让我们为他们提供一些启发
>>我们非常关注的方面，首先肯定有多模态
所以我们会想要…
>>可以向不熟悉人工智能的观众解释一下吗？
>>好的
我们希望系统不仅可以通过文本交互
还应该可以进行音频、图像和视频交互
可能还有其他我们想不到的交互方式
实际上我认为，很明显
人们最需要的是更好的可靠性
因此，如果你能从每次 GPT4 查询
得出的一万个响应中，找到最好的那一个
可能大部分情况下你都会很满意
这里面就需要很多智能
但并不是每次查询
都能获得最佳响应
如果我们能进行优化
大幅提高系统的可靠性，这将是一个重要进步
最终目的是改善系统
例如，能更好地生成新知识
但这只是一部分
>>可靠性是一个很好的方面
我注意到人工智能领域的人们
都喜欢使用“幻觉”这个词
一般来说，人工智能领域很喜欢创造新词
就好比，要用“推断” 而不是“运行需要多长时间”
要用“幻觉”，而不是“瞎编”
（笑声）
>>是的，这些用词确实很奇怪
>>有时候我也知道，这些听起来很高大上
但无论如何，这也算是一个主要问题
你知道，在我们的用例中
我们必须知道结果是真实的
>>没错
>>历史上还曾经出现过
混合性能的领域
就像是 GPT 性能中的点缀
我们是不是正在解决这个问题？
>>我们正在不断改进
我们每周都在取得进步，但我认为
在人们如何使用 GPT 方面 有一件事是非常真实的
那就是人类本来相当宽容 对其他人犯的错误都比较宽容
但对计算机犯的错误
则几乎没有宽容
解决这个问题的门槛并不在于
让人类同事解决问题需要多少资源
这个门槛还要高得多
这还需要很长一段时间
我认为这将是一个非常高的标准
>>GPT 编造的内容是不是已经
比你的晚宴常客少了很多？
>>当然，但我们还有很长一段路要走
>>你刚刚说一周比一周更好
我很想知道的是 你们在 OpenAI 内部操作上
是如何跟踪模型性能的？
就好比…
>>是的，我们会进行一系列评估
每次进行不同的微调或制作一个新模型时
我们都会不断地观察
然后判断它运行各种任务时的表现
>>但这不就有点像 CPI 篮子
你必须不断地改变用于评估的任务？
>>我们会让任务变得越来越难
>>嗯
>>我们有办法进行
任何类型的稳健性…
>>好的，明白
>>…评估
>>接下来我们谈谈 OpenAI 的工作方式
我相信在座的很多人
同样非常想知道
例如，正如你们所做的
你们的研究与产品是分开的
>>没错
>>在座的各位可能很有兴趣
都想听你谈谈你在经营 OpenAI 时
采用的思维理念
>>好的，我想说的第一件事是
我们的工作方式差不多每年 都会发生变化，甚至频率更高
我们目前仍然处于技术发现曲线中
快速上升的阶段
制定出这些计划的每个人都非常伟大
有句话怎么说的来着？
“每人都有自己的计划，直到脸上挨了一拳”？
>>是拳王泰森说的
>>嗯
>>直到你的脸上挨了一拳
这时候你会意识到必须改变组织结构
或者你认为必须要做些其他的事
或者你原本想做的产品根本不可能实现
或者还有更好的选择，等等
我们想要建立求真的研究文化
这就是我们增加的一个变量
我们想让事情顺利运转
我们不在乎我们的想法
最后是正确还是不正确
我认为真正阻碍这个领域发展的一个因素是
长期以来，这个领域中的许多重量级研究
例如学术届的人工智能研究的整个文化
我认为它更倾向于让某些方法发挥作用
而不是让技术发挥作用
我们不会考虑那么多后果
我们会追随真相，无论真相走向何方
如果我们得出的答案是 我们还需要继续扩大这些已大得离谱的系统
尽管这些系统在智力上远不如
发现新的优秀算法更令人满意
但只要前者有效
我们就会这么做
这确实就是我们从一开始就建立的一种文化
但这也意味着
很多事情会难以预测
>>如果我说，人工智能就是发现新技术
投入一大堆计算，然后回过头来看看结果
然后再发现新技术，再投入一大堆计算
这样的不停循环，这种说法准确吗？
正如你所说，也许你的成功有一部分就源自
毫不吝啬地投入了
一大堆计算？
>>你所说的这种循环的想法有点道理
但实际上直到最近这几年
投入大量计算的整个想法才真正成型
>>真的吗？
>>是的，这个想法出现的时间并不长
>>嗯
>>或者可能在某种抽象意义上是已知的
但除了我们，其他人并不会直接说
比如说，我们也把语言模型做得更大一些吧
我们也去攻克艰苦的工程吧
>>因为这对工程师来说
可能有点粗俗
>>确实如此
>>好像我们只要暴力破解就可以
>>确实如此
>>嗯
>>所以我不喜欢这样，而且
我们下一步要做的事 比如大型计算机，肯定也很重要
但我认为我们现在已经制作出了很多简单的工具
>>是的
>>现在又回到了这个状态，我们要想出一些
非常新颖的想法
>>你就像一个
用撬棍撬锁的专家
>>但我们确实有了这种新工具
我们已经有了 GPT 系统
可以协助我们完成各种任务
>>是的，你们是如何创造一种
求真的研究文化的？
>>我认为主要是以人为本
就像任何一家公司一样，这些都与员工有关
尤其是最开始雇佣的员工
我们设法非常细致地了解
他们的优点有哪些、缺点有哪些
他们中有很多人都颇有声望
我们在成立初期花了很大力气把他们招进来
或者在某些情况下把他们招进来了
但最后发现他们并不符合我们的想法
>>听起来你认为很重要的一点是
这些人不会在技术方面
仅服务于特定的团队
你必须要保持开放心态
>>是的，我们的新老团队之间 有着非常高的内部流动率
他们会开始新工作、停止过去的工作
他们会改为做其他工作
我认为这对我们的工作方式非常重要
也与我认为的很多
其他人的工作方式不同
>>你怎么判断一项研究
是否值得投资？
同样的原因，对于一个产品
你可以看到是否有人在使用
你可以得到很多实时反馈
研究有一个决定性的特点是
也许你投入了五年时间，看起来这是一条死胡同
然后突然见到了曙光
>>是的，我想没有人比你的认识更深刻了
你们必须接受更长的沉寂期
这也是你们取得成功
所需要的另一种文化
你需要的是
不那么依赖外部认可的人
每个人都或多或少需要外部认可
我认为假装不需要并没有好处
但你想要的是 相对来说不那么需要外部认可的人
如果我们要做一件事
我们认为这种方法行之有效 但该领域的许多专家说
这种方法行不通，实际上他们说的可能更刻薄
而你所需要的人还会继续沿着原来的方向前进
当你希望研究一个你本人相信 但外界尚未证实的想法时
来自现实的频繁打击
会让你无法感受到正常的快乐
但我们所需要的正是那些
在荒野之中独自生存多年 依然会保持意志坚定的人
>>嗯，听起来你想要与组织建立很多联系
但结果并不如人意
就好比员工加入了一个团队
然后在这个团队工作了五年
他们还是要经历某种程度上有目的的调换
>>没错
>>如果把 YC 算作一家初创公司
这是你的第三家初创公司了吧？
>>是的
>>你认为 OpenAI 在 管理方式上有何不同
或者说，你如何设法采用
与以往公司不同的方式来经营？
>>管理研究小组与其他很多事情都有很大不同
当然管理一家投资公司
就更不同了
我的感受是，你可以学习一些标准的技能
比如，如何与人打交道
哪种方法转化效果很好
但我认为，人们总是想从以前做过的事中
吸取太多的教训来用到现在的工作中
我认为你真的需要接受
你需要试着用新的眼光
来看待眼前的一切
所以我认为，就像 OpenAI
我们基本上没有遵循 YC 的任何建议
我们花了四年半的时间才推出一款产品
我们将成为硅谷历史上
资本密集度最高的初创公司
我们有点像是正在凭空构建一种技术
而完全不知道我们的客户将会是谁
也不知道他们将把这项技术用于什么目的
>>不开玩笑地说
有没有投资者曾对你指手画脚
告诉你有些方面做错了？
>>有，但我其实并不在乎
你们别投资了就是
你们可以把股票卖给别人
（笑声）
>>这听起来与你以前的初创公司完全不同
在那些公司里，也许你更愿意自我实现
>>是的
>>也许你不必那么在意
>>是的，但我们做到了
>>但听起来你像是经过了深度学习
>>我们确实做出了改变
>>好的，现在说回到 OpenAI
你知道，现在每个人都在谈论 ChatGPT
这些产品的表现令人惊艳
GPT4 正在为人们带来巨大的实际价值
我过去从未有过那种感觉
你有没有什么有意思的血泪史…
>>有的
>>…是什么样的故事？
>>确实有，但我想说
没有人会原原本本地讲述早期的血泪史
因为现在回想起来太尴尬了，但…
（笑声）
>>笑声表示大家都懂
但 OpenAI 在最开始时真的很艰难
很多事情都不太顺利
我们是一群非常邋遢的人
正如我前面所提到的
我们受到了这个领域所有专业人士的嘲笑
其中有一个人非常有名
他经营着另一个人工智能实验室 它的表现已经不如 OpenAI 了
但当他看到一些赞美 OpenAI 的文章时
他会去跟媒体说
我不知道你为什么这么说
这种人不在少数
>>你们是不是和埃隆·马斯克有过争执？
>>我们确实和埃隆·马斯克发生过争执
但主要原因是
我们没有在技术上取得进展
只是一些小的争执
我们确实做出了一些卓有成效的项目
我们甚至做出了 Doda，这个产品很强大
因此我们才得到了微软的投资 让我们做出了 GPT 系列
但当时我们还完全不清楚如何开发 AGI
当时我们被 DeepMind 击败了 这很令人难以置信
很多人都在说
你们为什么要这么做
DeepMind 是遥不可及的
还没有人提出语言模型的概念
当然，更没有人想到要在其中加入 API
或发布 ChatGPT
是的，现在回想起来当时情况非常糟糕
非常艰难
我们就是一步步脚踏实地
但我们总是找不到足够的资金
计算能力或人才 但我们只能继续前进
最终总会有结果
>>刚刚你说到你只能继续前进时
我也回想了一下，我认为每一家公司
只要达到一定规模
都肯定会经历一段黑暗时期
如果要我回想 Stripe 的黑暗时期
我们在上市后的早期确实也经历过
就好像身体突然被掏空
我们有很多早期员工在某一时刻突然离开
这非常令人疲惫，你会失去自信
你会想还有什么能让你继续前行
而此时，如果你有一个能激发你动力的想法
这会对你很有帮助，至少对于我们的情况来说
服务好客户就是我们的动力来源
>>没错
>>我也说不清楚，就是
我们必须继续前进，因为 我们还有很多接入 API 的请求
我们要服务好这些客户
>>没错
>>所以我们别无选择
听起来
你们还在进行更多的基础研究
你没有来自客户的动力来维持你的发展
那你会不会想收拾东西走人？
>>经过了所有这些经历
我认为硅谷过去非常愿意建立研究实验室
但现在的情况并非如此 所以对于一家产品型的初创公司
应该做什么，我们现在 没法提出好的规范建议
情况确实如此
这也是 YC 大力推动研究的原因之一
你有了要服务的客户之后
你会感觉到，客户就让你精疲力尽了
但关于如何运营研究实验室
我们重新发现的一点是
如果你没有客户，或者你不需要接触现实
来知道你所做的事是否正确时
你该如何保持这种内部动力，这真的很难
因此有一批优秀的同事很重要
我们会设法，例如，找出如何为我们自己
建立足够多的外部接触点
例如，对于我来说，为了保持头脑清醒
我会假装有客户反馈
但我们也必须重新发现如何做到这一点
>>你刚才描述了人工智能领域的激烈竞争
在这个领域还有其他一些公司
比如 DeepMind
我刚刚从你的话中观察到的一点是
人工智能领域在精神层面感觉竞争非常激烈
每家公司都想从竞争中脱颖而出
就像在体育比赛或类似的比赛中
有很多的竞争对手在互相博弈
这让我想起了在计算机行业的早期
微软与苹果之间的竞争
我想说，那是一场真正的竞争之战
然而，在人工智能的领域中也有其他竞争对手
它们都很了不起
只是不知怎么的，好像竞争没那么激烈
那么，关于这种快节奏的发展，你怎么看
>>事实上，正如你所说
我认为从某种程度上来说 人工智能领域的竞争非常激烈
但我认为从另一种角度来看 竞争又是最不激烈的
因为我认为在这种前沿领域工作的每个人
都能意识到这种利害关系 我们都真心希望行业顺利发展
所以，尽管大家都希望自己发展先人一步
能形成壁垒
但我也认为，大家都非常深切地理解 合作和做好这件事的必要性
这与我以前见过的任何行业都不同
>>合作的形式是什么？
>>我认为，主要形式是
实验室领导人之间进行交流
>>好的
>>但我认为政府将
越来越多地参与其中
>>政府会怎么做？
现在有很多关于人工智能监管的讨论
我应该怎么…
>>我可以告诉你我想要的是什么
但我不知道政府会怎么做
我认为，我想要的是
随着我们在算法上取得越来越多的发展 如果计算系统达到了一定阈值以上
各种好的方面就可以得到很好的发挥
但坏的方面也暴露无遗
这与我们迄今为止拥有的任何其他人工技术一样
我希望能为人工智能
也设立一个像 IAEA（国际原子能机构）
这样的机构
如果你要创建一个庞大的人工智能训练系统
如果你想训练超过一定能力的模型
此时就应该有一个全球监管机构
这样你在部署之前
就必须通过它们的测试
这就像是一种审查标准
>>好的，不过，我们关闭了欧洲的核电站
启动了新的煤电厂
从气候的角度来看
感觉我们也许正在倒退
所以全球核监管机构真的是我们想要的模式吗？
>>自 1945 年以后，我们再也没有 在战争中使用过核弹
我认为即使是在 1945 年 大多数人当时也会觉得
这种情况发生的可能性很低
这种机制并不完美
它在权力方面肯定有不足之处
但老实说，我不认为这完全是 IAEA 的错
就我所知，美国 NRC（核管理委员会）
自其诞生后的 45 年以来 从未批准建造过一座核电站
这非常可耻
但是，不得不说，我们确实 再也没有发生过核弹攻击
>>这至少在某种程度上要归功…
>>至少有一部分原因
>>…归功于 IAEA
很抱歉，你刚刚说的核能提醒了我 我在 Sam 的介绍中忘记说了
Sam 做出了很多令人印象深刻的成果
而且，就在他做这件事的同时
他在业余时间还做了其他一些事情 例如成为 Helion 的主要资助者
Helion 是领先的研究核聚变的公司
>>是的
>>一家初创公司
我们应该对核聚变的前景…
>>你应该对此充满期待
>>…充满期待吗？
>>我认为核聚变总有一天会成功
不过我认为还不清楚的是…
>>抱歉，核聚变能成功吗？
>>核聚变一定会成功的
>>好吧，这可是你说的
>>但是…
>>不好意思，我已经把你的话发在推特上了
>>我认为现在最重要的是
我们能够以多低的成本从核聚变系统中获得能源
以及我们能够在多短的时间内将其部署到全世界
这些都是巨大的挑战
也许没有解决实际的物理问题那么难
但这些问题就摆在那里
无论我们是否有可能进入一个
完全使用核聚能源的时代
但核聚变的成本确实比太阳能加储能更昂贵
这一点确实令人遗憾
核聚变完全有可能成功，而且价格低廉
但我们承担不起制造出全球所需的
数百万兆瓦发电容量的设备
如果这两个问题都能解决
如果成本下降了 10 倍、100 倍 那么需求绝对会激增
我们真的很难制造出足够的设备
但我认为，我们总会找出解决方案
也许我们会进入一个
不但智能成本大幅下降
能源成本也大幅下降的时代
如果这两种情况都能发生
我认为智能和能源是目前
整个经济中最重要的两项投入
我们会进入一个完全不同的时代
>>没错，我想说的是
这两件事比人们意识到的 关系更密切吗？其中电力…
>>从各种方面来说都是
>>…是一个限制因素
>>是的，从各种方面来说都是
如果你想制造一个最庞大
功能最强大的超级智能系统
你就需要大量的能量
如果你有一个强大的人工智能系统
可以帮助你更快更好地发展材料科学
可能核聚变也可以更快地取得成功
>>如果有这样的文本树
可以追溯发展历史 比如 Helion 这样的公司
可以看到科技成果之间的依赖关系 得到各种有趣问题的答案
如果罗马时代得到了这样一份材料
他们有没有可能发展出自己的工业革命
或者说如果我们拥有了必要的技术
我们有没有可能在 60 年代
就取得了 Helion 现在的成果？
>>不可能
>>好吧
>>我还是想说，这些事情从结果来说都很轻松
但正因为有了整个半导体革命
我们现在才可以为 Helion
制造出我们需要的那种开关
放在 10 年前或 15 年前
这绝对是完全不可能的
无论是材料科学
还是我们在机器的各种部件方面取得的进展
我们用于了解等离子体工作方式的计算机建模
在以前看来
这些都不可能实现
>>所以这些都是几十年
材料科学…
>>从许多不同方面来说
>>…和计算机建模积累的成果？
>>是的，这些是五个不同领域的重大进展
是相辅相成的结果
>>嗯
>>这些成果意味着我们现在可以做的一些事情
对于上一个时代的人们来说
即使再努力研究核聚变也完全不可能实现
>>明白了，不好意思，我刚刚把话题打断了
回到人工智能监管的话题
所以你认为限制计算能力 完全是一种明智、务实的做法
>>我不是要限制
我想说的是，在发展过程中的 某些时期应该有所限制
但从长远来看，肯定不能这样
我想说比阈值增加更重要的是
监管要求也要增加
如果你要制造一个具有非常强大功能的系统
那么有关监管制度
也应该与在笔记本电脑上
训练模型有所区别
>>你认为我们会不会回到 某种悲观的监管环境中？
本质上就像是保护主义
某种程度上类似于人类保护人类的地盘
就像是律师的出现一样
很多事情都需要律师
为什么，因为我们会制定规则
我们自己就是律师
>>我不这么认为
我以前担心过这个问题
我现在还是有些担心
你可以看到人们为了保护一些工作
而犯的各种错误
但我认为这不是一种成功的策略
我认为对话的主旨正在快速转向 AGI
这与我们以前面临的任何情况都不一样
我们需要专注于这个问题
>>我环顾了一下四周
在座大约有 3000 人
来自各种各样的行业
我相信他们中有许多人 都在人工智能初创公司工作
如果你向 AI 初创公司提出要求
随着 OpenAI 通过 API 产品
向大量的公司提供技术支持 可能其中大多数都是 AI 初创公司
你希望看到他们开发什么样的产品？
例如你对初创公司会提哪些要求？
>>我们早些时候曾谈到过这个话题
在我看来，只要是朝着设计交互模型的方向发展
似乎都能取得成效
从聊天机器人交互
到那些原本非常困难的工作
例如为每个不同工作流程配置助理
现在看来这些领域似乎相对容易取得成果
教育领域正在发生一些令人惊叹的转变
人工智能导师的出现让我大吃一惊
我认为这个领域可以发展得更远
这里最有意思的一点是
当全世界都在非常关注某件事时
它的创造力将无可估量
>>是的，我们 Stripe 也在与大量
垂直领域的 SaaS 公司合作
他们会为一些非常特定的垂直领域提供软件
而且非常小众
例如，有一些非常热门的童子军管理软件平台
因为事实上
全国各地都有
很多童子军
>>没错
>>你需要有一个软件平台
来管理这些童子军
我们在各种行业里都看到了这种情况
我想，人工智能带来的多种生产力增益
可以通过软件平台
分配到更广泛的经济中
因为大多数公司都不是科技公司
此时 SaaS 就可能成为你实现
大量生产力增益的一种方式
>>我认为你说的可能是对的
但我想说，我自己的直觉对这方面不太确定
也许大部分增益就像发动机启动一样
好比你只需要说，嘿，AI
请帮我治好所有的癌症，然后它思考一下
就能给你答案，然后人们就得到了治愈方法
>>那样会很有意思
这样会非常令人兴奋
（笑声）
>>事实上，当你谈到教育领域时
我觉得非常令人兴奋 就像 Bloom 提出的 2 Sigma 效应一样
用“掌握学习”的技巧一对一地辅导孩子
然后等到孩子真正理解了知识
再进入下一个阶段
之所以称之为 Bloom 2 Sigma 效应
是因为它产生了优于基线两个标准差的效果
这可能是最令人兴奋的结果
>>我认为这就是人工智能导师的表现 令人惊讶的原因所在
因为它们可以很好地进行…
>>没错
>>…一对一辅导
>>带来两个标准差的改进
这真的是非常大的…
>>确实很大
>>…改进
>>非常大的改进
>>对于在座不是人工智能领域的公司
如果他们希望在业务中采用人工智能
你会对他们提出什么建议？
>>好的，我想是内部生产力
我们看到不同公司的人与人之间存在巨大的差异
例如，有的公司和公司里的个人
会接受人工智能工具 有的则不愿意接受
无论你的业务是否与人工智能有关
你都可以想办法大幅提高你的单位时间生产力
我认为如果不去学习如何做到这一点
将是非常危险的
>>如果让你谈谈 AGI
未来三年或五年的发展
你认为会是什么样的？
>>说实话，这里面的变数实在太多了
我认为在这个时间点
我们必须非常精确地定义谈话内容
这样我才可以给你一些参考
>>你对行之有效的定义是什么？
>>随着我们不断前进
我自己的定义也在不断变化
我想说的是，AGI 系统肯定可以
显著提高科学进步的速度
但我并不认为这一定意味着
这个系统可以带动并发现
科学的全部
事实上，我并不希望发生这种情况
但无论如何，我预计到这个十年末
它会以各种方式与我们合作，融入这个社会
例如，让我们的集体科学进步速度
发生巨大变化
>>是的，如果按照你的标准
我们很快就会见到
>>是的，但我还要再强调一遍
这不是一个完全自主的系统
>>是的
>>有些人根本不会参与其中
>>是的，没错
这个定义也在不断变化
很多人可能还不知道
你和 Paul Graham 都是
Stripe 最早的天使投资人
>>没错
>>你为什么会投资 Stripe？
>>我当时相信，而且我也将继续相信
除了因为这是最大的一个市场之外
如果你能消除经济交易中的阻碍
这正是整个互联网令人感到兴奋的部分原因所在
但这只是其中一部分原因
总之只要消除交易阻碍 就能使经济实现巨大增长
并能更快、更低成本、更好、更便捷地进行交易
所有这些都能实现
而且现在比预期发展得更好
Stripe 现在的表现 肯定超出了所有人的预期
但我从当时到现在
都有着这种强烈的信念
我也觉得你和 Patrick 都很棒
这就是我在一家初创公司中所寻找的特质
我个人想要支持优秀创始人
庞大的市场理念，其中会具有真正的
长期抵御风险的能力
我上次开实体支票已经是很久以前的事了
这可能是我人生中最后一次手写开支票了
但是，说起来…
>>你想到这件事
我就觉得是在讽刺 Stripe
>>好吧，我觉得你说的有道理
（笑声）
>>我想强调的是
这确实是我最后一张支票
>>是的，我们可以把它电子化
>>比如，当有人说
我给这家初创公司开了一张支票
实际上我确实给 Stripe 开了一张支票
>>是的，我们已经有新的 RFA 了
我们现在可以为你把这些都电子化了
>>太好了
>>但很明显，你们现在正在用 Stripe
为 ChatGPT 收费
你对我们有什么产品反馈吗？
>>我们很满意
事实上，我要告诉你一件事
你的团队可能已经听腻了
Stripe 在客户支持、文档化
和整体体验方面都做得非常好
基本上比任何其他初创公司都要好得多
而 OpenAI 在这些方面还需要改进
我要向各位道歉
这些很明显都是最基本的要求
但你们非常鼓励我们，我们对此非常感谢
>>刚刚你说到了文档化，事实上
有一点我很感兴趣
这可能是 GPT4 令人兴奋的功能中 非常微不足道的一点
但我还是很感兴趣，那就是技术文档
Stripe 已经制作了很多技术性很强
非常深度的文档，但每个人的用例各有不同
例如，我们正在荷兰建立一个平台
用新的 S700 读卡器接受销售点付款
这是我们有史以来电池使用时间最长的读卡器
>>嗯
>>我想知道的是
我的实施计划是什么？
>>是的
>>GPT4 非常擅长
这样的任务
>>是的，这就代表了未来
>>没错
>>你只需要访问 GPT4 或类似的系统
向它提出你的任何问题
你就会得到完美的定制化答案
>>我有一个
非常具体的产品问题
你是更愿意访问 Stripe 集成构建器
让集成构建器为你构建出一个程序
还是你不愿意想太多
而是直接访问 GPT4 然后说，嘿，GPT4
我应该如何构建我的 Stripe 集成？
>>我们也还在努力找出
这个问题的答案
人们是想在整个工作流程中
只需要使用一个集中的聊天机器人
还是希望到处都有聊天界面？
所以我们既会尝试
将所有插件都结合在一起的版本
也会尝试在其他地方
嵌入聊天式体验的版本
我认为全世界都还没有弄清楚这一点
>>是的，你们应该推销
你们的 API 产品
因为，同样的，人们所担心的一点是
例如数据的使用，你想要使用数据
但你不一定想
把数据反馈给模型等
但你们已经用 API 产品
解决了这些问题
>>没错
>>只是人们可能还不知道
>>所以我们正在努力
澄清这种误解
我们绝不会将提交给 API 的 任何数据用于训练
所以你可以在业务中放心使用
这些数据绝不会进入我们的训练集
这对我们来说非常重要
因为我们意识到这些数据非常敏感
我们不会长期保留这些数据
我们不会用这些数据进行训练
这些数据归你所有
我们深知这一点
我们还有很多其他方法来改进我们的模型
随着时间的推移，我们将继续大幅降低价格
我们将继续改进模型
我们的愿景是，希望可以让我们的 API
使用起来更加简单、可长期保持稳定
随着我们的模型变得越来越智能
我们就能用更多的智能来提升整个互联网
整个技术行业的水平
我们的愿望一直都是
让人们惊讶于可以用很少的成本获得大量的智能
我认为我们可以继续这样发展很长一段时间
>>刚刚你谈到了数据
我想到可能最能让人惊讶的一点是
把模型做到非常小
不知道你对各种模型能做到多小
有没有很多想法
我们能不能有朝一日在设备上，或者在本地
或者在我的个人设备上看到很多小模型的出现？
>>还需要很长一段时间你才能
在 iPhone 上运行 GPT4 级别的模型
但是，技术一直在进步，总有一天会看到的
>>是的，所以可能是专门的用例
>>是的
>>但可能不是通用的用例
好的，最后一个问题，时间已经快到了
同样的话题，你与许多初创公司交谈过
你为许多初创公司提出过建议
你投资过大大小小的公司
不仅仅是初创公司，也包括在座的一些初创公司
当你展望 2023 年时，我想说
我们刚才已经用很多时间谈论了人工智能
但是，当你审视宏观经济、就业市场
以及恢复线下办公，还有我们在后台
谈论过的各种话题
面对这样的时期，你想为你的初创公司 提供什么样的建议？
你想要纠正人们犯过的哪些错误？
你会给每个人提供什么建议？
>>我想说的是，我认为科技行业
在很长一段时间内 要面临的最糟糕的一点肯定是
每个人都可以一直完全远程办公
初创公司完全不需要面对面在一起办公
而且，这样也不会失去创造力
我想说的是，这方面的实验已经结束了
实际上技术并不够发达 不足以让人们永远完全远程办公
尤其是对于初创公司
我非常强烈地感觉到
初创公司需要大量面对面的时间 一套想法越脆弱、越微妙、越不确定
你就越需要面对面的时间
这些东西我们还没有办法搬到
Slack 和 Zoom 等远程办公软件上
我与许多最近创办的初创公司进行了交谈
他们中有的一直采用远程办公 决定不再回到现场办公
有的则准备开始现场办公
或已经回到现场办公，这两种公司完全不同
远程办公会有着巨大的隔阂
所以我认为这一点很重要
关于宏观经济，我确实不太了解
>>你对宏观经济的预测
一直都很准确
>>我现在只考虑人工智能
我以前确实有过这方面的兴趣
（笑声）
>>我过去有很多想法
而现在我只有一个想法
就是，经济大概会在某个时候复苏吧
（笑声）
>>实际上这个预测
和许多严谨的宏观预测专家所说的一样
只不过你说的
更加简洁
他们会用更多的词
来表达差不多一样的意思
>>是的，没错
（笑声）
>>好的
所以，恢复现场办公后
经济大概就会在某个时候复苏
>>我有一个问题
>>抱歉，我们不接受现场提问
但既然你已经站起来了
我们就只回答一个现场提问，然后就结束
（笑声）
>>这是一种新的办法
>>好的
>>有一篇研究论文认为
涌现能力更多来源于
我们衡量进步的方式
而不是语言模型本身的固有属性
>>所以你的问题是：有一篇论文认为
涌现属性更多地是我们衡量进步的方式
而不是语言模型本身的固有属性
我没有看过那篇论文
我完全不同意
但我认为这取决于
你如何定义涌现属性
许多专家都在试图强调为什么
这只是统计学上的预测
并不是智能，与使用这些模型的人的经验相比
这些完全没有用
而我想说，这些专家在一些重要概念上
犯了明显的错误，你可以放心地忽略
他们在推特上的大放厥词
（笑声）
>>你不是在说某个具体的人吧？
>>我在说很多具体的人
（笑声）
>>但同样，你也可以说
这真的不是涌现行为
这只是测量误差
如果人工智能在做一些新的有意义的事
那就是涌现行为，从某种意义上来说
我认为这里的价值指标就是效用，但更重要的是
我认为现在我们可以在未来一两年内看到
肯定会出现现在绝对不存在的行为
这种出现的方式我称之为涌现
我认为大多数正常人都会称之为涌现
重要的是它最终
能够为我们提供效用
>>好的，Sam，非常感谢你
>>谢谢
（掌声）
>>谢谢你们邀请我
（掌声）