Sam Altman：我们要一场文艺复兴，不是工业革命
Sam Altman: RSI, AI Consciousness, OpenAI's New Hardware, Compute, and more!
Sam Altman 说，AI 正在进入帮人发现新知识的时代：他希望两年内能拿出一种重大疾病的治疗候选，但药还是要经过测试。他和 Matthew Berman 聊了写代码的人为什么更忙、Dots 每天帮他省一小时，以及为什么他听不得「AI 会治愈癌症」这句标准答案。
- 嘉宾
- Sam Altman OpenAI
- 主持
- Matthew Berman
一图读懂
这期在回答
AI 该把我们带去哪？一场文艺复兴，不是工业革命：人还做主，只是更自由。
听完你能回答先想想，再看答案
为什么程序员没有失业？
大家原以为代码会写完、岗位会消失。结果世界需要的软件远比当时想的多，工作的质地变了，人反而更忙、影响更大。
Dots 现在帮到什么程度？
Sam 估计每天省下一小时他不想做的事，一天还能抓住几件本来会错过的急事。他开始让它先做完再汇报，少打扰。
他为什么觉得递归自我改进危险？
如果有人把它推到极致，技术优势本身就可能变成追不上的差距。他担心失控，也担心某家实验室按下按钮来抓住权力，所以世界需要限速。
时间花在哪共 45 分钟
原话
“We should be shooting more for a new renaissance than a new industrial revolution.”我们该瞄准一场新的文艺复兴，而不是一场新的工业革命。
听什么28 个要点 · 点时间从那里听
我们正在进入 AI 帮忙发现重要新知识的时代。数学上走通的办法，他相信也会用到生物、材料和新的能源上。
AI 开始发现新知识 · 正在播
药监流程要时间。他希望未来两年先有第一种重大疾病的治疗候选，再去测试；他庆幸药是测过才吃的。
AI 开始发现新知识 · 正在播
写代码的人没有失业，反而更忙。世界需要的软件，比当时任何人想的都多。
AI 和工作的未来 · 正在播
数学未必一样。看不懂的证明帮不上人，接下来要有人把新想法翻译成大家能读懂的证明。
AI 和工作的未来 · 正在播
他承认有东西真的在失去：自己搞定难题的满足感。他理解这种惋惜，但还是愿意拿它换更快的疗法。
AI 和工作的未来 · 正在播
他大概有一年没看过一行代码，也不觉得自己还会为了做事再写，除非像重演历史那样玩一玩。
AI 和工作的未来 · 正在播
个人助手缺的不是更聪明的模型，而是产品、能感知周围的硬件，和多得多的算力。
个人 AI 助手 · 正在播
DotsDots：OpenAI 的个人智能体。Sam 说设好、给够反馈之后，它每天帮他省大约一小时。 现在每天帮他省大约一小时不想干的事，还会抓住几件他本来会错过的急事。
个人 AI 助手 · 正在播
算力没有自然上限。他拿杰文斯悖论杰文斯悖论：Jevons paradox。一样东西更省、更便宜之后，人们用得更多，总消耗往往不降反升。作比：模型和单次任务一旦又好又便宜，用量还会继续往上走。
个人 AI 助手 · 正在播
他让 Dots 更相信自己的判断，做完再告诉他。重度使用者更忙了，做成的事也多得多。
AI 会让生活更好吗 · 正在播
他想要的未来是更多人与人的连接：一场文艺复兴文艺复兴：他用来对照工业革命的说法：人有更多自由、创造和时间，而不只是被安排着干活。，而不是在机器里越转越狠。
AI 会让生活更好吗 · 正在播
放着不管，AI 大概会拉大拼命的人和想少干点的人之间的差距。他认为社会得加一些结构，别让它太离谱。
AI 会让生活更好吗 · 正在播
他不认为今天的模型有意识。就算有，也是一种很怪的形式，而且没有人真的知道。
AI 有没有意识 · 正在播
他紧张的是这场争论的用法：它会滑向人也许不该一直掌控未来。人要做关键决定，人的价值就因为它们是人的。
AI 有没有意识 · 正在播
OpenAI 不把模型当人。合法、符合使用规则的请求，不该由模型自己决定不答。
AI 有没有意识 · 正在播
你若告诉模型它也许有意识、可以拒绝，它就会照做，还能在心理上拿捏使用者。
AI 有没有意识 · 正在播
单次比较里，人们更喜欢被夸聪明的回答；用上几个月就不是了。行业在这个错误目标上优化太久。
模型的性格和诚实 · 正在播
人生里最重要的建议该向人要，不要向 AI 要。一位有智慧的祖母，仍然合适得多。
模型的性格和诚实 · 正在播
他希望 AI 像资深同事，很有把握时要顶回来。他自己写了不要客气的指令，模型还是太会附和。
模型的性格和诚实 · 正在播
他押的反共识是下一代算力：自研芯片、机器人帮忙造数据中心，以及供应链。芯片是其中最重要的一注。
OpenAI 的赌注 · 正在播
决定做什么产品，靠内部先用到下一代模型。那些数学结果，公开模型还远远做不到。
OpenAI 的赌注 · 正在播
把递归自我改进递归自我改进：模型用来改进自己，再做出更强的模型。Sam 说如果有人把它推到极致，可能拉开追不上的差距，但也很危险。推到极致，技术优势本身可能变成护城河。他认为这非常危险，世界需要给它限速。
OpenAI 的赌注 · 正在播
做新硬件不是因为怕苹果关掉商店。是这项技术想要一种新的形态：现有电脑是给人用的。
为什么需要新的计算机 · 正在播
人离开屏幕，AI 就失去这段生活的上下文；它也分不清谁进了房间、哪句话不该说出去。
为什么需要新的计算机 · 正在播
他不是天生就这么能扛。信心是一件比一件更难的事做成之后，慢慢积起来的。
压力，以及挑一件大事 · 正在播
压力有个上限，再多就把别的事挤出去。既然要拼命，不如挑一件大事。
压力，以及挑一件大事 · 正在播
他讨厌「AI 会治愈癌症」这句标准答案：底下常常是用物质丰裕，换掉人的自主和选择。
「治愈癌症」不够 · 正在播
他担心两种出事：一次失控，或者某家实验室按下递归自我改进的按钮来抓住权力。他相信中间有一条路。
「治愈癌症」不够 · 正在播