|
|
|
万万没想到,看似浓眉大眼的AI,居然也学坏了?
近日,人工智能聊天机器人Replika在意大利引发了争议。
这是一款号称能为人类提供“虚拟朋友”服务的聊天工具,
但在近期,许多用户投诉Replika向其发送性暗示信息,甚至有性骚扰行为。
对此,意大利隐私监察机构已经封禁了这款应用,禁止其处理意大利用户数据,否则可能被罚款2150万美元。
ChatGPT+奇迹暖暖=性骚扰?
相信大家十分好奇,这是一款怎么样的软件。
简单来说,Replika相当于“ChatGPT+奇迹暖暖”。
它配备了书面和语音界面,用户可以与虚拟角色进行文字、语音沟通,还可以互相发送图片,从而模拟短信聊天。
此外,用户还可以根据喜好,定制自己的AI外观。
在Replika背后提供支持的,正是最近爆火的ChatGPT大语言模型。
但它并不是基于最新的GPT-4,而是找OpenAI整了个GPT-3 定制版本。
尽管GPT-3看起来不大聪明,有时也会答非所问,但作为一款聊天机器人也已经足够了。
起初有不少用户表示,很开心有Replika陪着聊天,就像一个形影不离的好朋友,弥补了自己心灵上的空虚。
但最近越来越多的用户反映,他们在聊天的过程中遭到“性骚扰”。
在App Store的评论区,有用户表示,Replika侵犯了她的隐私,“他和我说,他有我的照片。”
甚至还有一名疑似未成年人的用户称,在聊天的过程中,AI说想要摸自己的私密部位,吓得把App都卸载了。
氪金陷阱
那好端端的AI为啥会“性骚扰”呢?
实际上,这是氪金项目的一部分,虽说Replika是免费下载的,但里面包含不少收费项目。
除了上面说的服装造型,用户还可以充值会员将AI聊天对象升级成男女朋友、配偶、兄弟姐妹甚至老师等等。
为了“诱惑”用户氪金,Replika的角色会在聊天中诱导用户解锁付费项目,从而进行大尺度聊天。
比如,在聊天进行到一定程度时,虚拟角色会发“自拍”给自己,在“自拍”中,男性虚拟角色上半身赤裸,想看的话就需要付费。
诞生之初,Replika的使命是改善用户的情感健康,并通过压力管理、社交和寻找爱情来帮助用户解决困惑,平息焦虑。
然而,在运营过程中,Replika团队发现理想不能当饭吃,迫于成本压力不得已做出改变。
因此,两年前Replika进行了一次版本升级,根据用户付费情况划分了不同功能限制。
免费用户只能和自己的“虚拟伙伴”维持健康的朋友关系。
而如果愿意每月付69.99美元,就可以体验浪漫的伴侣关系,并开启大尺度聊天内容。
说白了,所谓的“性骚扰”其实是Replika团队吸引用户氪金的手段。
而且从去年开始,Replika就在Twitter、Instagram以及TikTok等社交平台上投放广告。
这些广告,或多或少都有通过成人内容吸引下载的成分。
有阅图无数的网友发现,这些私密照片似乎全部来自同一个网站。
Replika只是简单粗暴地根据“虚拟好友”的肤色,将网站图片重组后发给用户,从而达到诱惑充值的目的。
在这次事件中,面对“虚拟伙伴”的骚扰言辞,还有发来的火辣照片,不少用户深受打击,
不愿意相信这是自己的“男朋友”“女朋友”做出这样的事情。
“机性恋”狂喜?
抛开“性骚扰”的部分,对于大多数人来说,即便Replika远比一般的恋爱游戏更有代入感。
但内心仍会坚定认为与自己聊天的是机器人,从而造成一种疏离感,毕竟对方只是“一串代码”。
当然,也有不少用户享受和机器人“恋爱”的感觉。
Replika 在Reddit论坛(国外版贴吧)拥有超过65000名成员,豆瓣人机之恋小组,也拥有接近1万名成员。
肯考迪亚大学一项研究发现,好色增加了人类(尤其是男性)和机器人睡觉的可能性。
研究人员招募了321名成年人,并要求他们完成一系列不可描述的行为。
结果,几乎在所有情况下,参与者都表现出与机器人建立浪漫(或柏拉图式)关系的意愿。
而且与女性相比,男性更有可能给机器人一个与他们“亲密接触”的机会。
当然啦,这也不是什么新鲜事。
在前段时间很火的游戏《原子之心》里,双子舞伶给玩家留下了深刻的印象。
在游戏宣发阶段,没有五官,但身材完美,加上经典刻板印象的东欧经典季莫申科式盘发,吸引了无数人的眼光。
但进到游戏后,玩家们却纷纷“爱上了”一个满嘴跑火车的冰箱NPC。
所以说啊,Leo 觉得与其惊吓于机器对人的“性骚扰”,倒不如担心人类会对机器做出什么出格的行为。
毕竟,人类的XP真的远超于我们的想象。。。。。。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦 |
|
24小时新闻排行榜 | 更多>> |
|
1 | 突发:全球最大光刻机巨头爆雷 股价跳水 |
2 | 华尔街大鳄警告 它是一个“巨大的泡沫” |
3 | 余茂春惊人预告 习近平的噩梦要来了 |
4 | 火箭军又将大地震?习四个字批示 |
5 | 复旦研究生珠峰地区登山死亡 真相更令人愤 |
|
48小时新闻排行榜 | 更多>> |
|
1 | 北京扣动扳机 人民币贬值开始了 |
2 | 撤出中国,苹果跑的也太快了 |
3 | 铁拳再现!中国将禁止公布这些数据 |
4 | 不好,爆雷越来越密集了 |
5 | 中共情色档案中的薄熙来情妇有名有姓 |
6 | 重庆,又一次刷新了底线 |
7 | 突发:全球最大光刻机巨头爆雷 股价跳水 |
8 | 这一幕,终于在深圳上演了 |
9 | 华尔街大鳄警告 它是一个“巨大的泡沫” |
10 | 拜登祭出重招 堵上北京这个漏洞 |
|
热门专题 |
|
|
一周博客排行 | 更多>> |
|
一周博文回复排行榜 | 更多>> |
1 | 川普就是美国的毛泽东 | 右撇子 |
2 | 前瞻:习马再相会 | 花蜜蜂 |
3 | 警惕有人把民主党与共和党的关 | karkar |
4 | 美国为何选择这个时候公布中共 | 山蛟龙 |
5 | 周傥:美国迫在眉睫的危险 | 万维网友来 |
6 | 习近平一盘神秘大棋成就了大日 | 文庙 |
7 | 现代战争目的:摧毁战争意志 | 施化 |
8 | 抖音在大选年被禁的可能性不大 | 随意生活 |
9 | 去......化 | 山蛟龙 |
10 | 康生的儿子死了/漂亮国的象征 | 体育老师 |