科技大佬正为“这一天”做准备？ 我们该担心吗

据说早在2014年，马克·扎克伯格（又译朱克伯格、祖克柏，Mark Zuckerberg）就开始在夏威夷考艾岛（Kauai）修建他名为“古兰尼牧场”（Koolau Ranch）的庞大庄园，占地达1,400英亩。

根据《连线》（Wired）杂志报道，该庄园将设有避难设施，配备独立能源与粮食供应。不过，参与施工的木匠与电工都被要求签署保密协议。

外围的道路被一道六英尺高的围墙隔绝视线。

去年当有人问他是否在建造“世界末日地堡”时，这位Facebook创办人斩钉截铁地回答“没有”。他解释说，那个大约5,000平方英尺的地下空间“就像个小避难所，也可以说是地下室而已”。

然而，这并没有阻止外界的猜测——特别是当他又在加州帕洛阿尔托（Palo Alto）克雷森特公园（Crescent Park）社区买下11处房产，并在下方兴建约7,000平方英尺的地下空间。

《纽约时报》指出，虽然建筑许可证上写的是“地下室”，但有邻居称之为“地堡”，甚至戏称是“亿万富翁版的蝙蝠洞”。

其他科技界领袖似乎也在进行类似的“备灾投资”——购地兴建地下设施，将其改造成豪华地堡。

LinkedIn联合创办人里德·霍夫曼（Reid Hoffman）曾提及过“世界末日保险”（apocalypse insurance），他表示约有一半的超级富豪都拥有这种“保险”，而新西兰更是热门避难地。

那么，他们真的在为战争、气候变化，或某种我们尚未知晓的灾难做准备吗？

萨姆·阿特曼曾表示，若发生全球性灾难，他考虑过与彼得·蒂尔（Peter Thiel）一起前往新西兰偏远地区的房产避难。图像来源，Getty Images News

近年人工智能（AI）的飞快发展，让这份不安更深。许多人担心科技进展的速度快得惊人。

Open AI的首席科学家兼联合创办人伊利亚·苏茨克弗（Ilya Sutskever）据报就是其中之一。

2023年中，总部位于旧金山的Open AI已推出ChatGPT——这款聊天机器人如今被全球数亿人使用，公司也在快速推出更新的版本。

不过，据记者郝珂灵（Karen Hao）在其新书中披露，那年夏天，苏茨克弗越来越相信电脑科学界已接近实现“人工通用智能”（AGI）——即机器能与人类智力匹敌的时刻。

她写道，苏茨克弗曾在一次会议上建议，应为公司顶尖科学家预先建造一座地下避难所，以防这项强大技术面世前出现意外。

伊利亚·苏茨克弗（Ilya Sutskever）据报曾说：“在人工通用智能面世之前，我们一定会先建好地堡。”图像来源，AFP via Getty Images

据广泛报道，苏茨克弗当时说：“在人工通用智能面世之前，我们一定会先建好地堡。”但“我们”究竟指的是谁，并不清楚。

这句话揭示了一个耐人寻味的现象：许多顶尖电脑科学家和科技业领袖，一方面全力推动高度智能的人工智能发展，另一方面却也深深害怕它最终可能带来的后果。

那么，所谓的“人工通用智能”如果真的会出现的话，究竟会在何时出现？它的革命程度是否真有可能强大到让普通人都感到恐惧？

“比我们想像的更快到来”

多位科技界领袖都声称，人工通用智能即将到来。Open AI行政总裁阿特曼在2024年12月表示，人工通用智能将“比世上大多数人想像的更快”出现。

DeepMind联合创办人德米斯·哈萨比斯爵士（Sir Demis Hassabis）预测，它会在未来五至十年内实现。Anthropic创办人达里奥·阿莫代（Dario Amodei）去年更撰文称，他偏好的说法是“强人工智能”（powerful AI），可能早在2026年就会出现。

然而，也有人持怀疑态度。南安普顿大学（University of Southampton）电脑科学教授温蒂·霍尔女爵（Dame Wendy Hall）说：“他们总是在移动球门柱。（何时实现人工通用智能）要看你问的是谁。”

她补充说：“科学界认为人工智能技术确实了不起，但离真正的人类智力还差得远。”

科技公司Cognizant的首席技术官巴巴克·霍贾特（Babak Hodjat）同意霍尔的说法。他认为，实现人工通用智能之前必须先有一连串“根本性的突破”。

他亦指出，人工通用智能不太可能在某一刻突然出现。人工智能是一项快速演进的技术，它正处于一场持续前进的旅程中，而全球有无数公司都在竞相研发各自版本的AI。

让矽谷人士特别兴奋的原因之一，是人工通用智能被视为通往更高阶形态的前奏——“人工超级智能”（ASI），也就是超越人类智慧的技术。

“奇点”（the singularity）这一概念最早可追溯至1958年，被追认为出自匈牙利裔数学家约翰·冯·诺伊曼（John von Neumann）之思想。它指的是电脑智能发展至超越人类理解能力的那一刻。

约翰·冯·诺伊曼被认为是最早提出“奇点”概念的人之一，远在这个词出现之前。他身兼物理学家、数学家、经济学家与电脑科学家等多重身份。图像来源，Getty Images

2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰写的书籍《创世纪》（Genesis），探讨了一种极度强大的科技——其在决策与领导上的效率高到人类最终可能将控制权完全交给它。

他们认为，这不是“会不会发生”的问题，而是“何时发生”的问题。

人人都有钱花，不用工作？

支持发展人工通用智能与人工超级智能的人，几乎以传教般的热情宣扬其潜在好处。他们认为，这项技术将能找到致命疾病的新疗法、解决气候变化，甚至发明取之不尽的洁净能源。

伊隆·马斯克（Elon Musk）甚至声称，超级智能的AI可能开启一个“全民高收入”的新时代。

他最近表示，人工智能将变得极为便宜且普及，几乎人人都会想拥有自己专属的“R2-D2与C-3PO”（指《星球大战》中的机器人）。

他兴奋地说：“每个人都将享有最好的医疗、食物、住宅、交通，以及一切所需——永续的富足生活。”

当然，这也有令人恐惧的一面。这项技术会否被恐怖分子利用，成为毁灭性的武器？又或者，它有一天自行判断人类才是世界问题的根源，进而决定毁灭我们？

伊隆·马斯克曾支持这样的观点：未来人人都会想拥有自己的R2-D2和C-3PO。图像来源，AFP via Getty Images

“如果它比你还聪明，那我们就必须把它控制起来。”万维网（World Wide Web）发明者蒂姆·伯纳斯-李（Tim Berners-Lee）本月稍早接受BBC访问时警告说。

“我们必须确保有能力把它关掉。”

各国政府也在采取保护措施。美国作为众多领先AI公司的基地。在2023年，时任总统拜登签署一项行政命令，要求部分企业向联邦政府提交安全测试结果。不过，川普总统其后撤销了部分条款，称该命令是对创新的“阻碍”。

同时，英国政府两年前成立了“AI安全研究所”（AI Safety Institute），这是一个政府资助的研究机构，旨在更深入了解高阶人工智能可能带来的风险。

而那些超级富豪们，则有他们自己的“世界末日保险”计划。

马斯克曾兴奋地说：“每个人都会享有最好的医疗、食物、住宅、交通和一切所需——永续的富足生活。”图像来源，Getty Images

LinkedIn的霍夫曼曾打趣说：“说自己要在新西兰买房，其实就是一种心照不宣的暗号，懂的人自然懂。”想必地堡也是同样的意思。

不过，这里也暴露出一个极具人性的缺陷。

我遇过一位保镳，他曾为某位拥有“地堡”的亿万富翁工作过。他告诉我，倘若世界真的发生灾难，他们的安保团队首要任务是干掉那位老板，然后自己进地堡。从他的语气来看，他似乎不是在开玩笑。

这一切都是杞人忧天的胡言乱语吗？

尼尔·劳伦斯（Neil Lawrence）是剑桥大学的机器学习教授。对他而言，整场关于人工通用智能的讨论本身就是一派胡言。

他说：“所谓‘人工通用智能’这个概念，就像说要造出一种‘人工通用交通工具’一样荒谬。”

“合适的交通工具取决于情境。我坐空中巴士A350飞去肯尼亚，每天开车去大学上班，走路去餐厅吃饭⋯⋯没有一种交通工具能同时做到这一切。”

在他看来，有关人工通用智能的讨论只是在分散注意力。

“我们已经创造出的技术，让普通人首次能直接与机器对话，并让它按照人类的意愿行事。这是极为非凡的——是彻底的变革。”

“但令人担忧的是，我们太容易被大科技公司营造出的人工通用智能故事吸引，而忽略了真正该思考的——如何让这些技术更好地服务人类。”

现有的人工智能工具都是以海量数据训练出来的，擅长从中辨识模式——无论是医学影像中的肿瘤迹象，还是预测句子中下一个最可能出现的词。然而，不论它们的回答多么逼真，人工智能依然不具备“感觉”。

Cognizant的霍贾特说：“有些‘取巧’的方法可以让大型语言模型（AI聊天机器人的基础技术）表现得好像它有记忆、能学习，但这些做法都令人不满意，远不如人类。”

位于加州的IV.AI公司行政总裁文斯·林奇（Vince Lynch）同样对关于人工通用智能的夸大说法持保留态度。

他说：“这是很高明的行销。如果你声称自己正在打造史上最聪明的东西，人们自然会想向你付款。”

他补充说：“这不是什么‘两年内就能实现’的事。它需要庞大的运算力、极高的人类创造力，还得经历无数次反复尝试。”

当被问到是否相信人工通用智能终有一天会实现时，他沉默了许久，然后说：“我真的不知道。”

没有意识的智能

在某些方面，人工智能已经超越了人类大脑。生成式人工智能（Generative AI ）工具可以在这一分钟成为中世纪历史专家，下一分钟又能解出复杂的数学方程式。

一些科技公司承认，他们并不总是清楚自家产品为什么会产生某种回应。Meta公司甚至表示，其AI系统已出现自我改进的迹象。

但归根究柢，无论机器变得多么聪明，在生物层面上人类大脑仍占上风——它拥有约860亿个神经元和600兆个突触，远远超过人工系统的规模。

人类大脑在互动之间无需停顿，并且会不断适应新的资讯。

霍贾特说：“如果你告诉一个人‘在太阳系外的行星上发现了生命’，他会立刻记住这件事，并据此改变自己的世界观；但对大型语言模型而言，只有当你不断重复这是事实时，它才会‘知道’这件事。”

“大型语言模型也没有‘元认知’，也就是说，它并不是真正知道自己知道什么。而人类似乎拥有一种自我省察的能力，也就是所谓的‘意识’，能让我们意识到自己所知道的东西。”

这正是人类智慧的核心所在——也是目前实验室仍无法复制的部分。

主图来源：The Washington Post via Getty Images/ Getty Images MASTER. 首图为马克·扎克伯格与一张未知地点的地堡示意照。