万维读者网 > 数码科技 > 正文  
或许无法给AI写入“永远顺从人类”的逻辑
www.creaders.net | 2021-01-19 15:55:11  煎蛋网 | 0条评论 | 查看/发表评论
  

  人类的造物最终取代人类的可怕前景,早已成为现代人心中挥之不去的阴影。问题是,我们是否能够把“顺从人类”的思想写入人工智能的底层逻辑?

image.png

  几乎肯定不能。

  要注意,想控制一个超出人类理解能力的超级智能,就需要先能够理解它们的思考方式。但这无疑是矛盾的。

  研究人员写道:“这是因为超级智能是多方面的,因此有可能动员各种资源来实现人类可能无法理解的目标,更不用说可控了。”

  他们的论证方式部分来自于Alan Turing在1936年提出的停机问题。

  停机问题就是判断任意一个程序是否能在有限的时间之内结束运行的问题。该问题等价于如下的判定问题:是否存在一个程序P,对于任意输入的程序w,能够判断w会在有限时间内结束或者死循环。

  从逻辑上讲,我们无法提前判定一个程序是否能够运行结束或进入死循环。回到AI,在超级智能状态下,为阻止AI伤害人类并破坏世界而编写的任何程序都可能会进入死循环。

  “实际上,这使遏制算法无法使用。”德国马克斯-普朗克人类发展研究中心的计算机科学家Iyad Rahwan说。

  研究人员说,另一种自我保护的方法是限制超级智能的能力。例如,可以把AI与互联网或某些网络隔离开来。

  但是,研究人员指出,如果我们不打算使用AI来解决人类无法解决的问题,那为什么还要创造它呢?限制AI的能力,不如一开始就不研发AI。而如果要推进人工智能,那么我们甚至可能在超级AI出现后,还浑然不知——这就是它的不可理解性。

  该研究已发表在《人工智能研究杂志》上。

   0


当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册
全部评论  
暂无评论 上一页 下一页  
实用资讯
24小时新闻排行榜 更多>>
1 一个大人物,刚刚挂了!
2 国家情报总监终于发话:中共干预2020美国大
3 中共百年党庆在即 毛泽东孙预言再疯传
4 不甩拜登 川普20日当天“另起炉灶”
5 陆媒揭上海红楼淫乱 传习亲信李强审看偷拍

48小时新闻排行榜 更多>>
1 一个大人物,刚刚挂了!
2 大事发生了!9名大主教一周内去世
3 CIA女局长有消息了 彭斯成功阻止川普的重要
4 “微信聊天记录一定不要截图”
5 大批赴美难民涌入 与军队爆流血冲突 场面
6 国家情报总监终于发话:中共干预2020美国大
7 厉害了!这国狠批:中国是新冠传播罪魁祸首
8 他17岁上北大20岁进哈佛34岁自杀 美国人降
9 真消失了?马云酒吧员工爆料︰去年底就…
10 中共百年党庆在即 毛泽东孙预言再疯传
热门专题
一周博客排行 更多>>
1 美国民主,名存实亡 解滨
2 新五月花号?德州Texit效Brexi 新歌
3 我们为什么不必如此悲愤痛苦 阿妞不牛
4 伊万卡:川普将连任,全球深国 沐岚
5 林伍德号召关闭手机升级功能并 沐岚
6 请阿妞、一草博赐教,如何能做 体育老师
7 左棍迫害川粉大开杀戒,德州公 金复新
8 言论自由是怎样消失的? 施化
9 川普真的要走了吗?怎么处处透 山蛟龙
10 美参议院刚刚释放了解密文件 幸福剧团
一周博文回复排行榜 更多>>
1 伊万卡:川普将连任,全球深国 沐岚
2 请阿妞、一草博赐教,如何能做 体育老师
3 美国民主,名存实亡 解滨
4 万维博客,请问我该如何对待La 新歌
5 言论自由是怎样消失的? 施化
6 联邦机构接指示为川普连任做预 沐岚
7 美国到底是谁的? 阿妞不牛
8 我们为什么不必如此悲愤痛苦 阿妞不牛
9 新五月花号?德州Texit效Brexi 新歌
10 美国还是你我他的美国 阿妞不牛
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2020. CyberMedia Network/Creaders.NET. All Rights Reserved.