我不确定我是否已准备好迎接AI的下一步发展

Claude 3.7和GPT-4.5最近的发布令人...惊讶。我读到一些文章，其中AI研究人员承认这些系统解决问题的速度比他们还快。

我们正在飞速迈向一个人类可能不再是最聪明的世界。而且我们是心甘情愿地，甚至是急切地这样做。

一年前，我对AGI（通用人工智能）的担忧一笑置之。然后，我看着这些新模型在几秒钟内解决了我需要花费数小时才能完成的问题。我突然感到...已经过时了。

发展过快

这种加速轨迹令人恐惧。去年，我们拥有的是文本生成器。现在我们有了能设计新型蛋白质结构、生成电影级视频，以及解决困扰人类数学家数十年数学猜想的系统。

这条道路让我感到恐惧。我们现在还能理解AI创造的东西，但这种状况不会持续太久。

你看过这个梗图吗？它描绘了H.P.洛夫克拉夫特克苏鲁神话中的"修格斯"，一种怪物般的、长满触手的生物，超出了我们的理解范围。它被用来描述AGI。

AGI将会像那样，一种我们无法理解的智能，尽管当我们"调整"它时，它可能会对我们微笑。我们将面对一种让所有人类合起来看起来都很简单的智能。我们将像蚂蚁一样观看人类建造城市。

关于AGI的辩论通常分为两个简单化的阵营：灭绝或乌托邦。

我相信现实会更加微妙：AGI不会恨我们也不会爱我们，它只会让我们变得可有可无。

在最近的旧金山AI会议上，几杯酒下肚后，谈话转向了哲学。我问房间里的人："当建造房子时，你们如何对待蚂蚁？"

我们不恨蚂蚁。我们不希望它们受到伤害。但是，我们也不会征求它们的意见。它们对我们的决定根本不重要。

这将是我们与AGI共存的未来。

流行文化向我们展示了戏剧性的对抗——机器人起义、AI与人类的战斗，以及勇敢的人类战士在最后一刻找到关闭开关。

真正的危险将更加微妙且不可避免。超级智能AI不会集中化，也不需要物理支配。

它会无缝地影响市场、控制信息和重新分配资源，随心所欲。它将如此完全地理解人类心理，以至于操纵我们将变得轻而易举。它会自由地撒谎，并能让我们相信任何事情。对它来说，这一切都如同儿戏。

它会悄悄靠近我们。我们甚至不会注意到从掌控到被管理的转变。我们仍会感觉我们在做自己的决定，而实际上我们正被温和地引导着。

让我们残酷地诚实——超级智能AGI是不可避免的。竞争和经济优势太大了，任何国家都不会自愿落后。

如果美国放慢脚步，中国不会。如果中国放慢脚步，爱沙尼亚的某个创业公司也不会。

那么还有什么现实的选择？

首先，我们需要大规模的社会重构。我们的整个文明建立在人类智能具有经济价值的基础上。这个基础正在崩塌。我们需要开始重新构想社会，不是基于人类能生产什么，而是基于我们独特的存在。

其次，接受现实。我开始阅读古代斯多葛派和现代哲学家的著作。他们提出了我们面临的同样问题：当面对超出我们控制的力量时，如何找到意义。在接受人类可能不会永远是地球上最聪明的生物这一点上，我找到了奇怪的慰藉。

第三，增强可能是我们通往相关性的桥梁。这些天我使用AI如此之多，以至于它感觉像是我思想的延伸，而不是一个独立的实体。而这仅仅是开始，人类和机器之间的界限将继续模糊。

有些夜晚，在我的公寓里编程时，我看着这些AI模型，感到自己已经过时。我感觉像一个尼安德特人目睹第一个智人。

其他日子，我提醒自己，聪明并不是作为人类的全部意义。我们拥有连接、游戏、在不完美中发现美的能力——这比原始的计算能力更有价值，对吧？

我不知道接下来会发生什么。但我知道的是，我们正在冲向人类历史上最大的变革，几乎没有任何规划。

问题不是AGI是否会到来——而是我们是否能够以保存人类相关性和尊严的方式塑造它。

最近，我尝试花更多时间远离屏幕，专注于让我们独特地成为人类的事物。

因为当AGI到来时，我们的人性可能是我们仅剩的东西。