![]() |
|
人类的造物最终取代人类的可怕前景,早已成为现代人心中挥之不去的阴影。问题是,我们是否能够把“顺从人类”的思想写入人工智能的底层逻辑?
几乎肯定不能。
研究人员写道:“这是因为超级智能是多方面的,因此有可能动员各种资源来实现人类可能无法理解的目标,更不用说可控了。”
他们的论证方式部分来自于Alan Turing在1936年提出的停机问题。
停机问题就是判断任意一个程序是否能在有限的时间之内结束运行的问题。该问题等价于如下的判定问题:是否存在一个程序P,对于任意输入的程序w,能够判断w会在有限时间内结束或者死循环。
从逻辑上讲,我们无法提前判定一个程序是否能够运行结束或进入死循环。回到AI,在超级智能状态下,为阻止AI伤害人类并破坏世界而编写的任何程序都可能会进入死循环。
“实际上,这使遏制算法无法使用。”德国马克斯-普朗克人类发展研究中心的计算机科学家Iyad Rahwan说。
研究人员说,另一种自我保护的方法是限制超级智能的能力。例如,可以把AI与互联网或某些网络隔离开来。
但是,研究人员指出,如果我们不打算使用AI来解决人类无法解决的问题,那为什么还要创造它呢?限制AI的能力,不如一开始就不研发AI。而如果要推进人工智能,那么我们甚至可能在超级AI出现后,还浑然不知——这就是它的不可理解性。
该研究已发表在《人工智能研究杂志》上。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦![]() |
24小时新闻排行榜 | 更多>> |
1 | 等不及四中全会 中南海变局公开 |
2 | 习亲自指挥谋害 传遗孀程虹爆李克强死前心 |
3 | 这一击 将成为压垮习近平的一根稻草 |
4 | 习下台前兆 中南海突祭新规内幕 |
5 | 快讯!马兴瑞卸任新疆党委书记 |
48小时新闻排行榜 | 更多>> |
一周博客排行 | 更多>> |
1 | 俺吃错过药 | 阿妞不牛 |
2 | 空前绝后:24岁的中共总书记及 | 赵大夫话室 |
3 | 人死后灵魂还在吗? | 骆驼 |
4 | 中美空军相差多远?看运-20和C | 弓长贝占郎 |
5 | 走出中国城,走活中国人 | 解滨 |
6 | 共产革命之前的上海和伊斯兰革 | 陈家梁子 |
7 | 习大大唱独角戏,听床师们情何 | 蛇形刁手 |
8 | 2024回国:海南环岛游 | 马黑 |
9 | 赵晓:燕京大学校训的真正含义 | 万维网友来 |
10 | 国内外形势一片大好 | 倩影 |
一周博文回复排行榜 | 更多>> |
1 | 人死后灵魂还在吗? | 骆驼 |
2 | 奇袭伊朗.高法裁决.外交内政. | 木秀于林 |
3 | 俺吃错过药 | 阿妞不牛 |
4 | 伊朗问题能够一劳永逸吗? | 阿妞不牛 |
5 | 永生的三种结局:福斯卡的幻灭 | 万维网友来 |
6 | 走出中国城,走活中国人 | 解滨 |
7 | 2024回国:海南环岛游 | 马黑 |
8 | 相信固执己见可以治愈 | 施化 |
9 | 纽约市想要一位共产主义市长吗 | Jinhuasan |
10 | 再反转:B-2只炸了个皮毛? | 北栖 |