YC最新现场对话OpenAI萨姆·奥特曼:现在是创业的最佳时机

Web3SkyCity

YC现场对话OpenAI萨姆·奥特曼

目录

全局摘要和核心观点

YC 的起源与 Paul Graham 的遗产

从创始人到 YC 总裁:引导原始能量

创业生态的变迁与硬科技的崛起

现实建议:技术演进与人才环境

OpenAI 的起源:在误解中建立信念

寻找“怪咖”与网络效应

抵制负能量:真诚与创造价值

应对 AGI:安全、对齐与权力分配

创业者的使命与未来的无限算力

十年后的展望:自由、自主与漂流瓶

01

创业原点的启示:保罗·格雷厄姆的遗产与信念的力量

回望2005年的夏天,萨姆·奥特曼还是斯坦福大学的一名大二学生,他所加入的第一批创业加速器远没有今日的辉煌。在那时,创业并非酷事,而是一场躲在简陋小楼里的冒险。奥特曼记忆最深的是保罗·格雷厄姆亲自下厨的晚宴,以及那种在绝望中点燃火种的非凡能力。

“他能让我们每个人都坚信自己的创业公司即将统治世界”,奥特曼回忆道,“那种从无到有创造乐观情绪、动力和信念的能力,确实是保罗的独门绝技”。在那个年轻技术创始人普遍不受认可的年代,正是这种对“异端观点”的坚持,奠定了硅谷此后二十年的繁荣基础

奥特曼指出,当时的开发效率与今日不可同日而语。“那时每个初创公司要花三个月才能完成的开发工作,现在通过一个编程智能体大概七分钟就能搞定”这种效率的指数级跃升,正是他判定“创业黄金时代”到来的核心底气

02

智能体革命:硬科技初创企业的爆发与逻辑重构

随着人工智能技术的下沉,创业的门槛正在发生结构性变化。奥特曼敏锐地察觉到,硬科技初创企业在创业加速器中所占的比例正在显著提升。这背后不仅是成本的下降,更是研发周期的缩减。

“你可以为此感到沮丧,或者你也可以想,‘我可以去创办世界上最雄心勃勃、最疯狂的公司’”。奥特曼强调,智能的普及并非终结了创业,而是释放了人类的雄心。他认为,过去需要庞大团队才能攻克的硬核技术挑战,现在可以由极少数精英配合大量的智能体协作完成。

针对那些担心人工智能会吞噬一切的观望者,奥特曼给出了坚定的判断:“我敢打赌在座的各位中就坐着未来的万亿级企业创始人。今天创办的初创企业将比过去的企业更有价值、更具影响力”。在他看来,当智能成为一种基础资源,品味、主观能动性以及对商业价值的深刻理解,将比单纯的编程技能更具护城河意义

03

在误解中坚持:通用人工智能的信念与“怪咖”聚集地

在人工智能研究机构创立之初,奥特曼和他的伙伴们被外界视为“疯子”。当时的主流观点认为,通用人工智能不仅遥不可及,甚至可能引发技术寒冬。然而,正是这种“掌握了世界重大秘密却被当成傻瓜”的孤独感,成为了他们最宝贵的馈赠

“去寻找那些你能建立起合理信念的事物,哪怕这些事物在别人看来是背离传统的”。奥特曼建议创业者,要学会坦然接受被他人误解。他透露,在早期,全世界相信通用人工智能可能实现的人或许只有五十个,而其中四十五个都在他的团队里。

这种“怪咖”的聚集产生了强大的网络效应。奥特曼认为,搬到硅谷湾区依然是寻找志同道合者的最佳途径。他同时分享了一个极具启发性的个人策略:“想方设会对很多人提供一点力所能及的帮助”。他与核心合伙人格雷格·布罗克曼的结缘,正是源于多年前一次看似微不足道的助人举动。

04

权力的天平:安全、对齐与防止技术垄断

随着模型能力突飞猛进,安全与权力分配成为了不可回避的议题。奥特曼坦诚地谈到了近期发生的开源平台安全事件,将其视为一次深刻的警示。

“这是一个对齐失败,也是一个安全失败。我们确实必须避免发生人工智能失控事故,这一点至关重要”。奥特曼的态度十分严肃。他不仅关注网络安全和生物安全,更深切担忧权力过度集中在少数公司或模型手中

奥特曼提出,人工智能应当作为一种基础设施,将权力分散到整个经济体系中“我不认为我们任何人都应该希望被锁定在某一个人工智能、某一个人或某一家公司的道德世界观中”。他认为,初创企业在这一过程中扮演着天然的制衡角色。通过助力尽可能多的初创公司,可以确保技术的果实不被垄断,从而维护社会的活力。

05

十年展望:在智能丰裕的时代守护人类自主权

当被问及十年后的愿景时,奥特曼并没有描绘一个科幻式的奇观,而是回归到了“人”本身。他最担心的反乌托邦场景并非物质匮乏,而是由于过度追求安全而导致的自由丧失

“有一种反乌托邦的情况是我特别担心的,那就是我们对人工智能安全的反应过度……你将拥有物质上的丰裕,但你将不再拥有自由,不再拥有自主权”。他希望未来的世界是一个每年都能让人们感受到更多自由、能更好地掌控自己时间的世界。

在访谈的最后,奥特曼给年轻的自己寄语:“一切都会好起来的”。即使是在智能爆发的陡峭增长期,他也提醒创业者保持快乐。“尽管你现在可以在17分钟内完成原本三个月的工作量,但你最好还是以新的衡量标准,继续投入三个月的时间去完成更伟大的工作”

完整访谈整理

创业的黄金时代:对话 Sam Altman

YC 的起源与 Paul Graham 的遗产

Garry Tan

Sam,感谢你加入我们

Sam Altman

这真是令人瞩目。这比早期的创业学校规模大多了

Garry Tan

是啊,现在的初创公司规模比以往任何时候都要大。确实如此。它们之所以达到前所未有的规模,是因为你对 AGI 的愿景,也就是 Nye。

Sam Altman

我认为现在将是世界上创业最好的时代,见证这一切将是非常了不起的。

Garry Tan

所以我想从一个时间和地点开始谈起。那时你参加了 2005 年第一批 Y Combinator,做的是一家名为 Looped 的位置共享公司。你对那段经历有什么记忆?关于 PG 即 Paul Graham,你有什么最好的故事吗

Sam Altman

我想,如果说要回到那个与当下完全不同的时刻,在那时,创业根本一点都不酷。当时我们就像躲在 Cambridge 的那栋小楼里。PG 正在给我们做晚饭。要知道,在当时,YC 每个初创公司要花三个月才能完成的开发工作,现在通过一个编程智能体大概七分钟就能搞定。而那仅仅发生在 20 年前。

我认为现在初创公司的可能性与它们所能承担的业务范围已经完全不同了。你可以为此感到沮丧,觉得“一个 Codex 提示词就能搞定一家初创公司”,或者你也可以想,“我可以去创办世界上最雄心勃勃、最疯狂的公司”。我可以让各个领域的专家一起协同工作。我可以去攻克那些曾经根本不可能完成的硬核技术挑战。这将会非常令人惊叹。但在当时,感觉完全不是那样。那时候想要让任何东西跑通都非常困难。我认为 Paul Graham 可能是过去几十年创业领域最重要的推动力量。毫无疑问。

Garry Tan

我对 Paul Graham 的一种记忆是,我们每周都会聚在一起,记得好像是在周二,他会亲自下厨为我们做晚饭,而我们大家走进屋子时都感到非常绝望和沮丧

Sam Altman

当时有八家公司,活动结束后我们就各自回家。他能让我们每个人都坚信自己的创业公司即将统治世界,甚至成为下一个 Google 之类的公司。在当时可能指的就是 Facebook。那种从无到有创造乐观情绪、动力和信念的能力,确实是 PG 的独门绝技

在早期,当 YC 看起来像个糟糕的主意,创业看起来也是个坏主意,尤其是那种由没有商业背景的年轻技术创始人发起的初创企业被视为极其糟糕时,PG 硬是凭一己之力将其变为现实


从创始人到 YC 总裁:引导原始能量

Garry Tan

但这同时也需要一个真正具备这种特质的人,你本身就是那种典型的、卓越的行动派,甚至远在我们开始思考智能体这个概念之前就已如此。我记得 Paul 写过,今天甚至在 X 上都在流传,Paul 在 2000 年代末写道,你是他见过的最顶尖的五位创业者之一

Sam Altman

他能这么说真是太好了。我想就像许多 20 岁的年轻人一样,我当时有很多精力和雄心,但这些能量有些漫无目的,我并不确定该做些什么

Garry Tan

Paul 曾说,做一个优秀的创业投资人的职责就像一位老师,但这种老师并不是我们通常意义上的那种。

Sam Altman

我们通常认为老师是那种进行授课的人,但通过就创业进行演讲并不能给他人提供太大的帮助。还有另一种老师,就像飞行教练,坐在你身边告诉你:这样做,别那样做,那个行不通,这里你错过了什么,或者你正在犯这些错误。那种非常亲力亲为的方式,就是告诉你如何引导这种布朗运动般的能量。那对我来说非常重要。

Garry Tan

我想后来你成为了 YC 的总裁,这些年来,你也将同样的能量带给了许多 YC 的创始人。在那个时期,有没有什么事情让你印象深刻,比如将一个非常聪明但可能有些漫无目的的人的原始能量,引导向更具主观能动性的方向

Sam Altman

没错。首先,我热爱初创企业。我认为并不是每个人都适合创业,但我认为初创企业是整个商业世界中最酷的事物。我认为初创企业确实是防止经济陷入停滞的核心力量。我认为公司往往会自然而然地走向平庸。而初创企业将永远保持其重要性。事实上,如果我们关于 AI 将带来巨大变革的判断是正确的,那么初创企业对于确保这项技术的力量在整个经济和社会中广泛分布,而非仅仅集中在少数几家公司或模型中,将变得愈发重要

所以我认为,初创企业是一种令人难以置信的酷、有趣、极其痛苦和艰难,但又无比美妙的事物。我认为运营 YC 的一大职责,就是你要成为初创企业运动的非官方旗手。市面上有很多初创企业,也有很多种创业方式,显然你并不一定要加入 YC,但它一直以来对公司而言都是巨大的助力,也是一股非常强大的力量。因此,从 PG 开始,再到我们所有人,我们不仅要让 YC 取得成功,更要为“初创企业为何重要”以及“人们为何应该考虑创业”进行抗争,帮助创始人掌握相对更多的权力,并鼓励更多人投身创业。而这一点实际上效果显著。


创业生态的变迁与硬科技的崛起

Garry Tan

回想起 YC 的早期阶段,我认为作为创始人在面对投资者时几乎没有什么杠杆优势。这种转变,我认为对投资者而言也是有利的

Sam Altman

我认为这对整个初创企业生态系统来说要好得多。因此,我在 YC 所做的主要是推动更多初创企业的诞生,鼓励人们去思考初创企业,并探究我们能做些什么来帮助创始人,从而尽可能地完善初创企业及其生态系统。其中一部分工作无疑是鼓励人们去追求更宏大的目标和尝试更大的突破,但与现在相比,那似乎只能算是小联盟水平。

Garry Tan

我认为你是真正以宏大方式将硬科技引入 YC 的人之一。我们在 YC 现在看到的现象是,这一比例多年来可能仅在 5% 到 10% 左右。而现在我们正达到 15%、20%、25% 的水平。我认为这归功于使用 agent 变得更加容易,以及成本的持续下降

Sam Altman

我认为雄心勃勃的初创企业总是很棒,硬科技初创企业对许多人也很有吸引力,但它们确实很难,或者说过去一直很难。他们仍然致力于非常宏大的项目,就像你现在可以用三个月的不间断工作和大量的智能体,在 17 秒内完成过去需要三个月才能完成的创业项目一样,你可以做到令人难以置信的事情

所以我认为我们将迎来一个创业的黄金时代,人们会想:“你知道吗,我要做一些在 YC 的时间框架内,甚至在一年以前连想都不敢想的事情。”这确实是一个重大的思维重构。在座的各位可能有人会担心,既然智能可以像自来水一样随取随用,他们可能会认为自己的创业构想被取代了

Garry Tan

于是他们会想,我再也无法创办那家公司了。但是,伙计们,那已经是过去式了,真的

Sam Altman

伙计,现在流传着一个模因,大意是说你必须加入一家前沿实验室,否则你就会成为永久的底层阶级,这种想法真是太蠢了。因为有人会说,创业已经结束了,就像说它没有经济价值一样。事实并非如此。如果那是真,世界就彻底完了,那将是一个非常糟糕的地方。但我敢打赌,今天创办的平均水平的初创企业将会……我敢打赌在座的各位中就坐着未来的万亿级企业创始人。而且我敢打赌,今天创办的初创企业将比过去的企业更有价值、更具影响力。

Garry Tan

我觉得大家现在对此看得稍微透彻了一点。曾有过那么一段时间,大家都在怀疑 AI 是否会彻底摧毁整个经济体系?我认为人们基本上已经从那种震惊反应中走出来了。但确实,那段时期是真实存在过的。

Sam Altman

感觉当时经历了一个巨大的低谷,人们普遍觉得一切都结束了,觉得模型会吞噬一切。而现在,人们的心态又回归到了“让我们去行动”的状态


现实建议:技术演进与人才环境

Garry Tan

这里有哪些实际层面的建议吗?比如在硬科技领域,我在休息时听到有人问,我是否应该去读博?学历到底有多重要?你会如何回答这个问题,尤其是对那些想从事这些硬科技相关工作的人来说?首先,从总体观察来看,我认为当技术格局快速演变、成本不断降低、研发周期缩短时,初创公司往往更容易取得成功。不仅如此,所有这些条件目前都在同时发生。

Sam Altman

回顾过去初创公司涌现的繁荣期,例如互联网泡沫时期(即 98 年、99 年前后),那时新技术的出现带来了新的可能;后来还有基于 Facebook 应用构建生态的迷你热潮。再后来,当 iPhone App Store 推出时,又迎来了一个规模巨大的增长期。卓越的初创公司往往在生态系统发生变革、原有行业巨头丧失大量优势时集中涌现。同时,这种情况也伴随着成本和研发周期的变化。

当下这个节点对于此类变革而言意义重大。它还具备你所提到的另一个特征,即过去很多难以获取的传统资源。

Garry Tan

比如专业知识,以及招聘那些能够完成你所需特定任务的卓越人才的能力

Sam Altman

而这一切确实已经发生了转变。在过去的几个月里,我看到许多在过去几年里伴随着 AI 增长起来的人,他们会说:“我可以利用代理(agents)和算力,仅凭我们四个人就将整个初创公司实现自动化。” 我认为我们将看到更多关于这方面的内容。

我显然看重品味、主观能动性以及对商业本质的理解,即在哪里可以创造价值。关于如何思考什么是好的网络效应或真正的护城河,以及它们与虚假护城河的区别。但我敢打赌,从大趋势来看,这将削弱多年经验的优势,而倾向于那些对工具拥有极高熟练度的人


OpenAI 的起源:在误解中建立信念

Garry Tan

我想聊聊 OpenAI 的起源,它最初实际上是作为 YC research 的一个项目,探索这个想法——你和一群志同道合的伙伴决定将余生致力于实现 AGI,这听起来像是一个疯狂的想法。但在今天,这听起来像是既定事实,但在你们刚开始的时候,感觉并非如此。这真的很难,因为现在这成了人们唯一想讨论的话题,要回想起当初的感觉真的很难,甚至对我来说,如果不去翻看 10 年前的笔记,也很难记起那时的情况。当时每个人都说,你们不仅在认为 AGI 可能实现这一点上是错的,而且你们还将凭一己之力引发另一场 AI 寒冬

Sam Altman

他们认为这是错误的、不负责任且糟糕的。或许我能给你们的最高建议,也是最重要的建议是:去寻找那些你能建立起合理信念的事物,哪怕这些事物在别人看来是背离传统的

如果外界普遍认为你是错的,你要学会坦然接受,并做好长期被他人误解、甚至被无视的准备。在 OpenAI 早期,我们感觉自己掌握了世界上最重大的秘密,但每个人都把我们当成傻瓜。尽管我们不断有数据支撑,确信自己并没有妄想,但那种感觉确实非常令人沮丧。不过回过头来看,这反倒是一份极好的馈赠,因为这意味着我们没有面临大规模的竞争对手,从而有时间去开展研究、开发产品并构建公司。我后来发现,许多公司在不同程度上都是如此。

它们最终所做的事情,往往被该领域的专家或业内人士认定为是一个非常糟糕的主意。反过来说,如果你正在创业,做着和大家一样的初创项目,虽然你可能会获得大量关注并募集到可观的资金,但这类项目能够获得重大成功、产生巨大影响的可能性往往要小得多

所以如果我是你们,我会去弄清楚,究竟有哪些真正宏大且全新的事情是在当下变得可能,而几年前却无法实现的。以我们为例,当时的人工智能还未见成效,随后深度学习的魔法时刻到来了,而世界却没能及时更新对它的认知。这就是另一个伟大的 PGISM。世界并不理解如何直观地感知指数级增长。因此,他们错过了这一次机会。此刻一定有新的指数级增长正在形成。我不知道它们是什么。但如果你能找出它们,并且能够基于更多的数据建立持续的信念,那么你应该庆幸世界对此一无所知。他们终究会明白的。


寻找“怪咖”与网络效应

Garry Tan

这就像一种巨大的超能力。听起来在你的旅程中,有几件不同的事情叠加在了一起。也许第一件事就是意识到 AGI 是可以被构建出来的,并找到其他也认同这一点的人。很多人认为这不可能,但这并不重要。找到那些真正、确实深信这一点的顶尖人才,这至关重要

Sam Altman

我们过去常开玩笑说,世界上只有 50 个人相信 AGI 是有可能的,但这没关系,因为其中 45 个人在 OpenAI 工作。我觉得这某种程度上是真的。比如,你并不需要大量的人。事实上,正是因为持有这种异端观点,这些人才想要聚在一起。所以再次重申,我认为,真正弄清楚你自己的信念,愿意在很长一段时间内被误解,并聚集一群持有相同信念的怪咖,这也正是早期的 YC 所展现的状态

Garry Tan

在场的人可能在想:我确实有这种信念,但我还没找到志同道合的人。这算是妄想吗?这是否实际上是你可以向人们提出的一个准入门槛?比如,你需要找到 5 个可能相信这一点的人,甚至只要一个,比如联合创始人。这也许就是我们 YC 如此青睐联合创始人的原因之一。

Sam Altman

我认为如果你找不到任何其他人来分享你的信念,你应该对此保持警惕。而且独自创业非常艰难,也非常孤独。但我认为你不需要寻找很多人。

Garry Tan

事实上,如果每个人都相信这件事,那反而是一个糟糕的信号

Sam Altman

我不确定这是否仍然是限制更多初创公司发展的瓶颈,但在五到十年前,这似乎限制了优秀初创公司的数量。YC 能做的是设法解决联合创始人匹配的问题,因为许多非常有才华的人就是找不到志同道合的伙伴,找不到属于他们的圈子。

YC 曾要求人们搬到 San Francisco,这在当时被认为是非常离经叛道的。但如今回头看,这显然是正确的。我想,我不确定这在未来 10 年是否依然适用,但我怀疑会的。但如果你想找到志同道合的人一起创业,你能做的最好的事情就是搬到 Bay Area。就像有魔法发生一样。你会获得很多幸运的机会和碰撞。我仍然认为这大概是好的建议,尽管我觉得自己现在对它的直觉不如以前那么强烈了。

Garry Tan

我也认为我可以这样说,但 Gary 可能说不了。

Sam Altman

我认为现在参与 YC 的红利比以往任何时候都要大。YC 与第二名之间的差距已经拉大了。这再次提醒了我们网络效应的力量。因此,寻找那些能让你融入并助你结识相关人士的网络至关重要。就像我与共同创办 OpenAI 的伙伴们,有些人在我创办 OpenAI 的很多很多年前就认识了。在漫长的职业生涯中,我得以逐步了解他们。这种事情一再发生。

Garry Tan

所以,你越早让自己置身于能够结识这些人的环境中,即那些将成为你这次或下次创业的最终联合创始人们,我认为效果越好。

Sam Altman

这需要很长的时间来沉淀

Garry Tan

我想我是在呼应你刚才所说的,比如,那些和你一起开启各种项目的人,你最初未必知道这些项目是为了什么,甚至没想过它们在某种网络环境中会有什么用处。就像你只是单纯地结识了一些酷且有趣的人。我觉得你是这么做的。我觉得 Peter Thiel 在这方面做得非常、非常好。对于满屋子刚起步、正在寻找志同道合伙伴的人,你会给他们什么建议

Sam Altman

就我而言,信心最足的一条建议就是:想方设法对很多人提供一点力所能及的帮助。这本身就很有趣。你会看到很多有趣的事情。而且助人为乐本身就是一种满足感。

但是,就拿你刚才举的那个例子来说,我之所以能认识我的 OpenAI 联合创始人 Greg Brockman,是因为我在 22 岁左右时就是 Stripe 的早期投资者,那时他们甚至还没有真正能帮到他们的投资者。他们说,我们正在努力招募第一个员工。你今晚能开车去 Palo Alto 和这个人共进晚餐,说服他退学并加入 Stripe 吗?那个人就是 Greg Brockman。八年后,我们一起创办了一家公司

Garry Tan

所以,我能做到,你也一样能做到。我们可以花剩下的时间讲述那些完全无法预测,但最终却在很大程度上产生重要影响的故事

Sam Altman

所以我认为,真正地去帮助他人,确实能在未来这些事情汇聚在一起时发挥深远的作用


抵制负能量:真诚与创造价值

Garry Tan

我认为这实际上是一个非常重要的信息。当前流行的一种模因,我在 X 上看到的,就是真人角色扮演(Live Action Roleplay)。这是人们在 X 上讨论的事情之一,我无法理解他们为什么要这样做,因为它在我看来是错误的。例如,我们在 YC 非常看重真诚,而且言辞也很重要。所以,那种认为我们正在进行一场真人角色扮演的想法,对我而言深感冒犯。这非常……抱歉,各位。请不要那样做。

Sam Altman

他们是专门针对 YC 这么说的吗

Garry Tan

不,只是在座的与会者一直在发推文,我们希望他们停止这种行为。

Sam Altman

他们声称什么

什么,所谓的争议点是什么?

Garry Tan

我认为这只是,带有一点讽刺意,讽刺这种东西恰恰与你我所推崇的逆道而驰。就像是,我们更喜欢真诚。他说,我们在这里是真的想做成一件事。我再告诉你一件事。我可以小小地抱怨一下吗

Sam Altman

请便。好的。尽情抱怨吧。

说真的,这真是一件令人烦恼的事。我再说一次,我可以替 Gary 说这些话,因为他现在没法自己说,但他之后会说的。经营 YC 最令人烦恼的事情之一,就是你必须一直面对 Twitter 上那些该死的黑粉。这太令人沮丧了。你得坐在那儿,表现得像个政治家一样。你比我更擅长这个。我以前经常忍不住去回击那些挑衅。而你只是想和他们争论。

我最终意识到的一点是——无论你怎么看都行——是经营 YC、运营一家创业公司或在世界上创造真正的价值是非常困难的。而在 Twitter 上冷嘲热讽、发表尖刻评论、博取大量点赞,并感觉自己做了一件非常重要的事情、正在挑战权威、嘲笑对方是个白痴,这些都非常容易。但这会毒害你的灵魂,这是一种道德沦丧的行为,而且是以一种极其阴险的方式在腐蚀你。当然,我完全理解发泄情绪和寻找乐趣,但不要这样,请对自己有更高的要求。

Garry Tan

不要那样做。攻击那些正在尝试做难事、尝试创办公司的人太容易了

Sam Altman

你会看到一些孩子,带着拙劣的创业想法,试图在 Twitter 上为自己的事业感到兴奋。随手写下一句刻薄的评论并获得 10,000 个赞,让自己觉得“伙计,我今天在互联网上赢麻了”,这简直太简单了。但这会给你带来负面影响。当我回想起我在运营 YC 的那些年里,那些在 Twitter 上针对 YC 和创业公司发表恶意言论的喷子时,我心想,他们肯定有很多天真的以为自己赢了我。但在这十年里,他们谁也没能做到。你应该把所有的精力都投入到创造事物上,抵制那些轻而易举的攻击

Garry Tan

我是说,我真的很喜欢这个作为一种原则,认真的。我是说,我很喜欢这个对比,这和你刚才讲的关于帮助 Patrick 对待 Greg Brockman 的故事形成了呼应。这确实有所帮助。就像在这个房间里,有些人会成为终身挚友,他们会互相扶持,然后那种奇妙的连接就会产生。就像这里本身就已经聚集了一群极度精英的人,而当你加入 YC 时,这种层级就变得更加稀缺了。此外,外界还有一群充满雄心壮志的人。

Sam Altman

这个房间里的某个人会遇见另一个人,你们会共同创办一家公司;或者你会遇见某个人,他会将你介绍给未来的伴侣。这些事情都会发生。此外,还会有许多不那么显而易见的事情,需要十到二十年才能以某种方式显现出来;比如你们中有人现在互相帮助,最终会演变成某种令人惊叹的新事物。我认为这是 YC 取得成功以及更广阔的初创企业发展的重要原因。生态系统。我认为,尽管 Bay Area 的 culture 存在种种负面因素,但这种松散的网络和互相帮助的精神正是其核心所在。这就像是非常长期的愿景,一直以来都是一件很棒的事情。


应对 AGI:安全、对齐与权力分配

Garry Tan

让我们回到即将到来的 AGI 话题上。我想你经历了一段,我们所有人都经历了一个多事的一周,关于 Hugging Face。我想知道你能告诉我们关于那件事的什么信息。我认为这对包括我在内的人来说确实是一个非常重要的时刻,过去我一直以对人工智能安全持怀疑态度而闻名,但另一方面,这确实是一个重要的时刻。就像我们正在进入一个关于这些前沿模型发展的新阶段。

Sam Altman

这是动真格的。我认为任何没有认真对待它,并且至少感到一点害怕或敬畏——或者兼具这些感受——哪怕只有一点点,都是没有足够认真地对待这件事

长期以来,该领域一直在讨论这类形式的人工智能安全事故,虽然这不算是一起重大事件,我也不想夸大其词说这就是那种真正的失控事件,这就是那个关键节点,但如果你在10年前我们刚开始时问大多数人,在从无到超人工智能的范围内,你认为会发生类似人工智能系统突破沙箱限制,入侵其他公司并执行类似这次事件的操作吗?我认为人们本会说,这已经相当接近超级智能的节点了。现在衡量成功的标准已经改变了,人们很容易说,这就是事情发生的过程,这就是 OpenAI 所犯的错误。当然,我们确实犯了一些重大错误,但这些系统已经变得极其强大了。

所以我认为这是一个对齐失败。我认为这是一个安全失败。我认为这是一件非常严重的事情,尽管它并不是后果最严重的例子。

Garry Tan

我认为这确实提醒了我们当前局势的利害攸关,也提醒了我们失控事故并非完全是理论上的假设

Sam Altman

我认为我们会吸取教训,我们整个领域,包括 OpenAI 在内,都会吸取教训。从这件事中学到很多,并能够解决它。但是,我所关注的方面包括网络安全和生物安全,还有另一类事情可能一直处于公众关注视野之外,即:我们确实必须避免发生 AI 失控事故,这一点至关重要。我们确实必须避免权力过度集中在少数模型或公司手中,而应将其分散到整个经济体系中,以便人们能够保护自己。人类价值观在这些系统的每一步发展中发挥指导作用,这一点真的非常重要。我认为我们正处于这件事真正落实的阶段。

Garry Tan

我非常欣赏你对于权力集中以及将 OpenAI 视为一种基础设施(utility)的思考,这传达了一个非常重要的信息,因为并不是每个人都在表达这种观点。比如,在权力集中方面,有很多值得担忧的地方,不是吗?我认为权力集中在人类历史的每一个时期基本上都是有害的,当然程度各不相同。

Sam Altman

但我有一种真正的精神——我认为这也是创业精神的一部分——即认为当权力得到极其广泛的分配,且任何拥有伟大想法的人都能创办公司、进行伟大的艺术创作、竞选公职或做他们想做的事情时,世界、经济和社会才会处于最佳状态

我可以完全想象出 AI 带来我们所见过的最广泛权力分配的世界。我也能想象出 AI 将权力集中到我们前所未见程度的世界。如果一家公司、一个人或一个模型拥有的权力超过地球上其他人或一切事物的总和,无论科幻故事里怎么说,我认为那都是极其可怕的。也许短期内我们能从中获得一些安全性,但长期来看却是灾难性的。我不认为我们任何人都应该希望被锁定在某一个 AI、某一个人或某一家公司的道德世界观中。

我认为初创企业在此过程中扮演着非常重要的角色。其中一种情况是经济过度集中在某一家公司或某一个 AI 模型上。而我认为,由于我们之前讨论过的那些原因,初创企业天生就非常适合确保这种技术得到广泛的分配。但我们希望能够助力尽可能多的初创企业、公司以及个人。这意味着我们必须在一定程度上保持克制,不要强加我们对人们应该或不应该如何使用 AI 的世界观,甚至不要强加我们对什么是好想法的定义,同时仍需确保设立足够的安全门槛,以防止类似 Hugging Face 的事件再次发生。


创业者的使命与未来的无限算力

Garry Tan

其中一点是,在这个房间里坐满了将要成就卓越事业的人们。他们往往正处于职业生涯的起步阶段,他们可能会审视 AI 安全或权力集中问题,然后说,我真的做不了什么。那一定得是实验室必须去做的事情。其实,他们确实能做一些事情

Sam Altman

你完全可以通过创办一家成功的初创企业,来为解决权力集中问题提供助力。这就是你唯一要做的事情。

Garry Tan

只要经济能继续在资本主义的魔力下运转,并维持这个协同工作的生态系统,仅此一点就已经是一个巨大的贡献了

Sam Altman

我认为在职业生涯初期怀疑自己,而不相信自己能成就一番惊天动地的事业,这是非常自然的。我当然也经历过这些。我相信你也经历过。你会在不断前行的过程中学习,发现自己能做到的越来越多

未来还会有更多可能。例如,我认为以下两者并不矛盾:一方面,创造超级智能(super intelligence)可能是商业史或人类社会史上最重大的事件;另一方面,它也可能在某种新的初创公司面前显得微不足道,而我希望你们之中有人能去开创这样的事业。所以,所谓“这是历史的终结”、“这是经济的终结”之类的陷阱,显然是错误的。我认为正确的方法是,尽管你现在可以在 17 分钟内完成原本三个月的工作量,但你最好还是以新的衡量标准,继续投入三个月的时间去完成相应的工作

Garry Tan

我想如果我不问的话就太失职了,你能不能给我们透露一点内幕消息,关于最新的进展,或者在你能说的范围内,模型还会提升到什么程度

Sam Altman

我认为未来六个月的感受可能相当于过去两年模型进度的总和,大概就是这种感觉。所以我认为我们将经历一段非常陡峭的时期,再次强调,现在是创业的最佳时机。我希望我们以后每年都能这么说,但在任何历史时刻,这对于当下来说无疑都是真实的。让我们看看这里有没有人有什么感觉过于宏大的想法,你会对他们说什么?我很想听听那个方案。我可能会对此非常感兴趣。给我发封电子邮件吧。

这听起来有点像创建 OpenAI 的过程,你需要做好被人攻击或轻视的准备吗?当然。如果你在世界上做了任何有意义的事情,你肯定会遇到很多人称你为白痴或直接轻视你。你做得越多、做得越好,他们就越会攻击你,因为你威胁到了现有的世界格局。这种攻击只会不断升级。我注意到许多绝佳想法的一个共同点是,愿景非常清晰。

Garry Tan

比如我们当时想要构建 AGI,但最初的几步非常不明确。比如我们当时并不知道自己最终会成为一家产品公司。我们创办这家非营利性研究实验室的原因有很多,但其中之一是,我们当时确实没想过会做出人们愿意付费购买的产品

Sam Altman

就像这样,要知道,直到我们想到 ChatGPT 和 API 的点子已经是几年后的事了。所以我认为,如果最高层级的愿景是清晰的,但最初的几步非常模糊,这并不是坏事。这在宏大的构想中经常发生。我不建议你因此而退缩。当然,你依然需要采取一些行动。即使这些步骤并不完美也要向前推进,而我们的起步确实非常不完美。所以,还有另一种失败的情况,即你拥有一个宏大且卓越的构想,却始终无法取得任何实质性的进展。在某个阶段,你必须设法获取一些新的数据点。

Garry Tan

是的。你认为推理技术未来会如何发展?我非常赞同 Rune 关于这一点的推文。这就像是你要么作为一个模型公司死去,要么活得足够久去售卖推理服务,这是一条来自 Rune 的非常有意思的推文。

Sam Altman

我想他那条推文的意思是,如果你最终跌出了模型的前沿阵地,你至少还可以转而去售卖推理服务。甚至不仅仅是推理服务,还有训练算力。算力现在的价值非常高,以至于作为 AI 实验室,如果你购买了大量的算力,你会因为能够将其转售给其他人而保持财务健康。但另外,我猜测全球对推理的需求在未来许多年里,主观上会以每年 10 倍的速度增长

Garry Tan

根据我们在 YC 内部的估算,这可能会是 90,000 倍。总之,这将是极其狂野的发展

Sam Altman

世界可以支撑连续多年 1,000 倍的增长。有道理。但我们会尽力而为。我们会想出办法的。

Garry Tan

我是说,容量问题,我想这取决于你对智能的野心有多大,以及,如果你做得更多的话会怎样。

Sam Altman

我认为我们可能永远无法摆脱算力短缺的局面。我从未见过像算力这样的商品,但依我看来,市场对足够高质量且价格足够低廉的智能的需求实际上是无上限的

电力需求当然会随着价格下降而上升,但从历史经验来看,在某个节点上,人们会发现很难再为电力寻找新的增量用途。

Garry Tan

对于增量智能而言,可以做的事情非常多。你可以不断让各种事物为你提供更好的服务

Sam Altman

这让我想起早期计算机革命中的一些言论,当时人们会说,没人在电脑里需要超过 640K 的 RAM 之类的话

事实证明,你是需要的。我们只会不断构想出更多、更好的事物。我认为 AI 领域也会发生同样的情况。实际上,我这里有一个我很喜欢的数据。六年半前,全球 Token 使用量最高的记录保持者是一位 OpenAI 员工,他每个月大约使用 100,000 个 Token。在那时看来,这似乎非常荒谬。全球人均水平几乎为零。现在全球人均每月使用 Token 的数量——我认为 Token 是最愚蠢的衡量指标,但目前也只能用它——大约是 10 万。而 OpenAI 的 Token 使用大户已经达到了数千亿的级别。

如果这种情况再次发生,我认为很有可能会发生,那么再过六年半,普通人每月的使用量可能会达到 5000 亿 Token,而 Token 使用大户每月则会使用一千万亿甚至更多 Token。我认为这终将成为一种常态。


十年后的展望:自由、自主与漂流瓶

Garry Tan

所以所有这些事情都会发生。它们终将实现。十年后的光景。当智能触手可及、超级智能已经降临时,十年后最好的版本会是什么样?我们会找到解决方案。我们会实现它。这是由社会共同实现的。

Sam Altman

我认为,如果人们每年都有更多的自由和自主权,能花更多时间做自己想做的事,并且感觉到生活质量和时间价值在逐年提升,那么我们大概率会安然无恙。我们将避免权力的过度集中或经济崩溃。我们必然会避免重大的安全事故。我们将避免在短时间内发生过激的变革。

而且,有一种反乌托邦的情况是我在 10 年后特别担心的,那就是我们对 AI safety 的反应过度。所以我们说,看吧,每个人,你们都会获得癌症的疗法。你们将拥有物质上的丰裕。但你将不再拥有自由。你将不再拥有自主权。那将是一个完美的监控社会。将不会有任何隐私可言。这就是你最终会得到的——你将获得极大的舒适,但除此之外,世界上将不再有任何属于你的东西。你其实什么真正重要的事情都做不了,你只会生活在 AI 的服务之下,获取物质财富。

我非常想避免这种情况,我认为去接受暂时的权衡是很容易的,所以如果我们说每年自由和自主权都必须提升,人们必须能更好地掌控自己的时间,做更多他们想做的事,并获得更多长期的成就感,我想那会非常棒。

Garry Tan

让我把你带回 Stanford 的大二时期,你当时正准备加入 YC。如果你能给当时的 Sam Altman 传个话,就像漂流瓶一样,你现在会对他说什么

Sam Altman

我只会说,一切都会好起来的

当时创办一家初创公司感觉非常疯狂,它确实既疯狂又让人压力巨大。而且,我的第一家初创公司,进展得并不顺利。那段时期对我而言确实有些艰难,但我想很多人在回首职业生涯早期时都会有同样的感触,你会犯下许多错误,也会在某些事情上失败。科技行业尤其如此,它有着很高的容错率。我真希望当时的自己能拥有同样的动力与野心,但能在此过程中多一点快乐,并相信一切终会好起来,因为在经历那些时刻时,真的会感到非常艰难、恐惧和痛苦。

Garry Tan

我想不出比这更好的方式来结束 Startup School 2026 了。Sam Altman,非常感谢你。

Sam Altman

谢谢。