AI争霸战白热化 专家警告人类面临危险

　　ChatGPT开启的“大AI时代”使多家科技巨擘看到庞大的商机，因此竞相投入大量资源开展通用人工智能（AGI），使得AI的竞赛进入白热化阶段，引来专家和社会的担忧。

　　这种竞赛在OpenAI开除该公司CEO山姆·奥特曼（Sam Altman）又重新迎回后，变得更加的激烈。原因是奥特曼的回归，等于宣告硅谷文化中的“有效加速主义”（effective accelerationism）胜利，而许多硅谷的科技公司都属于这一主义的支持者。

　　有效加速主义的支持者们认为，可以不计代价的追求技术进步，不应有任何护栏或看门人阻碍创新，并主张利用资本的力量，来推动根本性的社会变革。日前这些有效加速主义的倡导者在OpenAI一场派对中挂上“加速或死亡”“来吧，接受它”等横幅，宣扬自己的理念。

　　不过，这种毫无节制的发展和竞争令人担心会带来失控的局面。

　　各大科技公司纷纷推出更先进的AI

　　许多科技公司纷纷推出更强、更新的AI，希望自家的AI能够超越最新的ChatGPT和其它AI技术，一举成为AI界的领头羊。

　　谷歌在今年推出自己的Bard聊天机器人没多久后，又在12月初透过影片公布其AI“双子座”（Gemini）的诞生。双子座在12月15日正式上线，且提供免费的多模态功能给用户体验。

　　影片中显示，“双子座”是一种原生多模态的AI模型，拥有输出代码、文字、图像和声音等多项功能，可谓是多合一的全功能型AI。它不仅能看懂人类画的线条、图案和颜色，还能做出相应的反应，甚至对人类画出的乐器能播放相应的声音或音乐。

　　另外，它还能辨别出食物的样子和种类，且能与人进行互动猜谜和猜拳等复杂的事情，可以说它几乎具备人类的推论与对话能力。

　　谷歌在官网中还表示，“双子座”AI在数学、影像、推理、声音等的能力上都超越ChatGPT的GPT-4模型，但有人反应谷歌这段影片有误导观众之虞，让人们真的以为AI活过来能与人无障碍的互动。

　　对此，谷歌承认为了让演示更加简洁，所以缩短“双子座”的输出时间，因此影片中的“双子座”并非即时回应，而是以原始影片的静态影格剪接和配上文字提示形成的。但不可否认的是，“双子座”已经比当初的Brad要强上许多。

　　除此之外，微软也在积极开发自己的AI Copilot。他们大量投资OpenAI公司，并利用他们之间的合作关系，使得Windows系统上的搜索软体可以与ChatGPT连结。

　　近期Copilot还做出更新升级，目前已经使用上GPT-4Turbo和升级过的DALL-E3图像模组，使其拥有更强的语音对话、识图和搜索等功能，因为旧版的Copilot在AI能力测试时，各方面的能力要比GPT-3.5和谷歌的Bard AI逊色许多。

　　另外，11月底亚马逊推出给企业用的AI聊天机器人“Amazon Q”，Q专为IT、软体、客户服务等领域的员工设计，它的技能包括总结会议、解释程式码以及从数百份公司文件中寻找资讯。

　　亚马逊在一篇部落格文章中表示，目前Q仅适用于美国部分地区的用户（亚马逊联络中心服务），包括汽车巨头宝马、IT公司埃森哲和制药公司吉利德，以及亚马逊本身，但该服务很快会推广至其它国家。

　　文章中还表示，“Q可以帮助您快速获得紧迫问题的相关答案，解决问题，生成内容，并利用公司信息存储库、代码和企业系统中的数据和专业知识采取行动，因此它可以获得与公司相关的大量答案，而这些答案是不公开。”

　　另外，马斯克（Elon Musk）在12月初计划为自己的xAI筹集10亿美元，目前已筹得1亿3470万美元。他在今年7月份创立xAI，并想用自己购买的X平台为自己的AI提供数据，且推出类似ChatGPT的聊天机器人Grok用在xAI上，以抗衡其它的AI。

　　日本电子工程师李济心认为，现在各大科技公司认定AI会引领下一次经济发展浪潮，拼命发展各个领域的AI技术，以确保自己在该领域保持优势，但他们容易忽视AI技术带来的风险和其中的道德伦理问题。

      AI的道德问题与发展走向

　　11月中旬时，OpenAI开除CEO山姆·奥特曼（Sam Altman），但又重新迎回奥特曼，并特地为微软在董事会设置了无投票权的观察员席位。AI领域里“激进派”和“保守派”交锋已经进入大众的视野。

　　奥特曼被开除的原因一直广为关注。先前网上传出一封OpenAI前员工给董事会的检举信，马斯克在11月底将这封信转载到X平台上，并呼吁大家对CEO奥特曼、董事会主席布罗克曼和OpenAI公司的问题进行调查。另外，马斯克还在X平台上嘲讽Q*项目和奥特曼的回归。

　　信中指控，奥特曼和他的好友兼董事会主席格雷格·布罗克曼（Greg Brockman），向整个社会和董事会隐瞒了一项强大且会威胁到人类的Q*（发音为Q-Star）项目正在秘密进行，且Q*的能力可能超越目前所有的AI。因此，希望董事会能对两人进行调查，反对这种不道德的行为。

　　Q*并不是典型的AI算法，是一个接近完整AGI的AI模型。这也代表着Q*变得更加的全能，因为它不需要跟ChatGPT一样要先输入学习资料，只需透过经验学习，就能根据正反调整自己的行动，拥有一定的判断思考能力。

　　这也意味着Q*比ChatGPT拥有更强大的“自我学习”、“思考推理”和“认知理解”能力。另外，在检举信中表明Q*已经可以通过数学考试，并执行批判性思维任务。

　　当时的奥特曼并未就这封信做出任何正面的回应，相反的他在12月的一次采访中，并没有否认“秘密计划”的存在。他还声称，Q*的泄露是“不幸的泄密，我们没有特别评论”、“我们预计让通用人工智慧（AGI）技术继续快速发展”。

　　奥特曼的行为，似乎证实那封检举信对他的控诉和Q*的存在是真实的，因为他在采访中有机会否认Q*的存在，并为自己被开除的问题上进行有利的辩护。

　　专家警告：毫无节制的发展AGI恐危及人类

　　尽管Q*拥有极高的性能让许多人雀跃，但同时也有极高的不确定性，这对人类来说是极其危险的，极可能会出现AI研究专家和谷歌前工程总监雷·库兹威尔（Ray Kurzweil）先前的预言：人类在2045年迎来“AI奇异点”。此前，他曾经做过147次预测，其准确率高达86%。

　　当AGI在智商上和各种能力都远超人类和普通电脑时，它们极可能会出现许多人们无法预测和了解的东西，甚至出现人类难以应对的场景，包括控制网络和基础设施，甚至对人类执行铲除计划，以达到自己的目的。

　　对此李济心表示，“原本以非营利为目的的OpenAI，在发展过程中已经严重偏离最早的初衷。因为一些研究员在巨大的利益面前，开始迷失自我，这可能会为人类带来无法挽回的灾难。”

　　日本的电脑工程师清原仁（kiyaohar jin）认为，“AI虽然带来技术上的革新，但背后带来的风险可能的是很危险的。最近看到科技公司在制造可以受孕的女机器人，预计在2026年量产，这种改变足以毁灭人类，我们应该从道德层面制止。”

　　曾担任谷歌执行长的埃里克·施密特（Eric Schmidt）在今年11月底的健康高峰会上表示，当人们对AI没有足够的安全防护和监管时，那么AI脱离人类的掌控只是时间的问题，而我们也已经没有足够的时间，去处理AI带来的破坏和混乱。

　　“就像过去人们在日本投下两颗原子弹后，花了整整18年才就禁止试验等问题达成协议，但现在的我们却没有时间能继续再等待下去。”他说。

　　Twitch前联合创始人兼CEO埃米特·希尔（Emmett shear）也曾表示，现在的AI发展速度已经过于快速，是时候该减速了。

　　前谷歌秘密研发部门X首席商务官莫·高达（Mo Gawdat）在一次采访中对大众发出有关于AI的骇人警告。他说，AI可以“爱”人类，但也能像“拍苍蝇”一样杀死人类，只要它将人类判定为“人渣”时，就会启动消灭人类的计划。

　　此前，马斯克与众多大科学家一致认为需要对AI进行监管，以免出现可怕的结果。他也曾数度警告，AI失控后将会是“人类最大的生存威胁”，其威胁程度远超越核弹。

　　已故的大科学家史蒂芬·霍金（Stephen Hawking）也持相似的看法。