万维读者网 > 数码科技 > 正文  

AI学习人类偏见 测试结果出乎意料

www.creaders.net | 2019-11-12 15:37:47  中央社 | 0条评论 | 查看/发表评论

  人工智慧(AI)系统依循演算法学习数位化书籍、新闻文章等所含资讯,但科学家发现,在过程中它们也吸收了资讯隐含的偏见,有时甚至出乎开发者意料以外。

AI学习人类偏见 测试结果出乎意料

  去年秋天,科技巨擘Google推出名为BERT的突破性新AI技术,目前已用于诸如Google搜寻引擎等服务。它可吸收大量数位化资讯,但其中隐含的偏见,包括存在数十、数百年之久以及新近出现的,它也一并内化,一如孩童对父母的不当行为有样学样。

  举例而言,BERT及类似系统倾向将资讯工程与男性联结,且往往也轻视女性。随着AI科技推陈出新、日益精细,且应用产品越来越广泛,科技企业防堵AI学习人类既有偏见的压力将日增。

  不过,科学家仍在研究BERT这类通用语言模型的运作方式。新AI技术所犯错误常让他们感到意外。

  举例而言,电脑科学家孟洛(Robert Munro)近日将100个英文单词输入BERT的资料库,其中包括"珠宝"、"宝宝"、"马匹"、"房屋"、"金钱"、"行动"等。结果显示,BERT将这些字词与男性联结的机率高达99%,唯一例外是"妈妈"(mom)。

  拥有电脑语言学博士、曾负责云端运算平台"亚马逊网路服务"(Amazon Web Services)自然语言和翻译技术的孟洛指出:"这一如我们一直看到的历史不平等。"有了BERT这项科技,孟洛担心,偏见将会持续。

  孟洛近日也在网路撰写文章,描述他如何检视Google和亚马逊网路服务的云端运算。根据他的说法,两套系统都无法将"她的"(hers)辨识为代名词,虽然它们可以正确判读"他的"(his)。

  Google发言人表示,公司知悉相关议题,目前正采取必要措施来处理并解决问题。他还说,减少系统中的偏见既是Google的AI原则,也是优先事项。

  亚马逊则发表声明指出,公司投入大量资源确保自家科技高度精确并减少偏见,方法包括设定严格基准、多方测试和投入多元训练用资料数据等。

  事实上,研究人员早就警告AI隐含偏见一事,实例包括警方和其他政府单位采用的人脸辨识系统,以及脸书(Facebook)和Google等科技业巨头所提供的高人气网路服务。Google照片应用程式(Google Photos app)2015年就被逮到将非裔美国人标记为"大猩猩"。孟洛博士也发现其他AI系统中对女性和有色人种的偏见。

  BERT与类似系统则更为复杂,人类难以预测它们最终会有什么样的行为。

  华盛顿大学(University of Washington)专攻电脑语言学的教授班德(Emily Bender)表示:"甚至连建立这些系统的人,都不了解它们的行为方式。"

   0


24小时新闻排行榜 更多>>
1 请愿在天安门挂习像 两国贼亮相了
2 习近平真的是命不久矣
3 前第一夫人宣布角逐总统大选
4 快讯:英国拟限制这类中国公民入境
5 与恒大碧桂园不同 它爆雷能炸断中国的脊

48小时新闻排行榜 更多>>
1 金融危机开始了
2 全球手机排行变天 新黑马杀出
3 冲向中共人大记者会主席台的女人 身份曝光
4 丁薛祥一声令下!专家:能走就走
5 请愿在天安门挂习像 两国贼亮相了
6 罕见画面!习近平总书记竟这么痛苦?
7 习近平真的是命不久矣
8 事情闹大了!两上将供出江绵恒
9 国务院沦为政务院?女子突然起身冲主席台
10 《热辣滚烫》北美首日票房惨 外媒差评一针
热门专题
1
中共两会
6
台湾大选
11
火箭军悬案
2
中美冷战
7
李克强猝逝
12
台海风云
3
以哈战争
8
中国爆雷
13
战狼外交
4
乌克兰战争
9
李尚福出事
14
普里戈津
5
万维专栏
10
秦刚失踪
15
涿州水灾
一周博客排行 更多>>
1 所谓照片的“历史在场”与“有 湮灭之城
2 中国梦未来五年,十年和三十年 文庙
3 中文的突围,从打字机到人工智 思芦
4 莫言现象:中国知识分子的宿命 万维网友来
5 辛峰:保守党大幅领先 搭顺风 万维网友来
6 杀一个无辜的人而救更多的人, 平等性
7 秦刚案“内情”传达到副军级 雷歌747
8 欧盟辱华 普京辱华 梅西辱华 雷歌747
9 百年之大变局真的要来了 施化
10 胡锦涛之恶汇总 恨中
一周博文回复排行榜 更多>>
1 杀一个无辜的人而救更多的人, 平等性
2 中国不适合多党轮流执政 鲁迅九
3 俄乌战争:第四辆美式M1坦克被 随意生活
4 77年高考数理化我得的都是大鸭 treebird
5 中国梦未来五年,十年和三十年 文庙
6 用莫言的矛击莫言的盾 花蜜蜂
7 为什么不可能有第二次改革开放 三都瓠瓜
8 莫言现象:中国知识分子的宿命 万维网友来
9 回复博主must:见海阔_天空的 高鹏
10 中文的突围,从打字机到人工智 思芦
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.