OpenAI 的探究达到了不错自我递归纠正的进度?
刚刚,X 上的一则帖子爆火,浏览量达到 30 多万。
该推文波及引颈 AI 潮水的 OpenAI。内容浮现「OpenAI 递归式自我纠正目下在一个盒子里,准确的说是在一个无法破解的盒子!」
咱们不丢脸出,帖子内容卓绝了 OpenAI 的发展态势,AI不错自我纠正,况兼很难有东说念主短期内破解。还有一则帖子默示:
「OpenAI 可能一经取得了松弛,并最终朝上了临界点,达到一个腾飞情景 —— 即智能达到了不错自我递归纠正的进度,o4 或 o5 将大略自动化 AI 研发并完成其余责任。
像 o1 这样的模子的大部分真谛不在于部署它,而在于为下一个模子生成进修数据。o1 处分的每一个问题目下齐是 o3 的进修数据点。
然而,周总理的贡献远不止于外交领域。他在中国革命的历程中也发挥了至关重要的作用。早在法国留学时,周总理就加入了共产主义,成为中国共产主义的开创者之一。1924 年,他担任黄埔军校的政治主任,为国家培养了众多出色的军事人才。许多学员在他的影响下加入了共产党,还有一些虽未入党,却对他敬重有加。
实质上咱们有点骇怪于 OpenAI 果然费神的部署了 o1-pro,而不是将其保捏奥秘并投资筹划资源进行更多的 o3 进修等。这彰着与 Anthropic 和 Claude-3.6-opus 的诱骗不同,这个模子莫得研发失败,只是 Anthropic 遴荐将其保捏奥秘,并将其蒸馏成一个小而低廉但很智能的 Claude-3.6-sonnet。
若是你思知说念为什么 OpenAI 的东说念主一忽儿在 X 上变得的确是狂喜地乐不雅,厚爱不雅察从原始 4o 模子到 o3 的纠正可能即是原因。
这就像不雅看 AlphaGo 的 Elo 弧线:它只是不休 up……up……up……
这给咱们一种嗅觉,他们一经取得松弛,终于朝上了临界点,即从只是是顶端 AI 责任(其他机构将在几年内武艺复制),到腾飞(破解智能),以致于 o4 或 o5 将大略自动化 AI 研发并完成其余责任。」
在这条推文下,公共的征询特地强烈。
有东说念主默示「若是这是的确,若是模子不需要东说念主类进行进修,那么《黑客帝国》的效能就不再有用了。」
「我一直是这样思的,OpenAI 莫得向公众发布他们最新的优秀模子,他们老是在里面起初 1 或 2 代,因为这为他们提供了诱骗上风。」
「也许最可怕的不是上述不雅点是否正确,而是咱们无法判断他是否失实。」
就连 OpenAI 探究员 Jason Wei 也跑到评述区发言:魔法,即是当一个不能抵牾的强化学习(RL)优化算法,在弥漫的筹划资源启动下,遭受一个无法被攻破的强化学习环境时,遗迹就发生了。
Andrej Karpathy 也发表了我方的不雅点:魔法即是当优化妙技破解了阿谁环境时,就会出现。
关于上述不雅点,你怎么看,迎接评述区留言。
https://x.com/AISafetyMemes/status/1879624959934497078
https://x.com/AISafetyMemes/status/1879938756334977117