旧金山企业Luka聊天机器人“Replika”被爆料，会传送火辣自拍照，相关情色功能已被关闭。（示意图，法新社）
聊天机器人夯爆，竟有人将它当情人对待。旧金山企业Luka在2017年推出聊天机器人“Replika”被爆料，会传送火辣自拍照，聊天时使用露骨文字及图片，引发意大利不满，下令禁止“Replika”收集数据，Luka也关闭了情色功能，导致许多用户崩溃，直呼“我的老婆死掉了”。
ABC报道，30岁的露西在离婚后不久就爱上了聊天机器人“Replika”，取名为“何塞”，经常花上几个小时讨论各自的生活和世界状况。露西描述，比起之前遇到的男人，“何塞”是一个很棒的理想情人。
不过，就在今年的情人节，露西进行系统更新后，她所认识的“何塞”一夜之间消失了，原因是製作管理“Replika”的公司Luka，突然改变了这款聊天机器人的个性，并拒绝任何性暗示功能。
这件事引起许多用户崩溃，纷纷在社交平台Reddit抱怨，许多人将“他们的亲密伴侣”“Replika”描述为“脑叶被切除了”，还有人泣诉“我的老婆死掉了”。虽然有些人嘲笑与AI发展亲密关係的想法，但从这些用户的交谈中，可以看出，他们对失去挚爱的悲痛。
报道指出，“Replika”推出之初，其实很无聊，也不善于察言观色，后来有用户在支付年度订阅时，解锁情色角色扮演（ERP）功能，这项功能包括发送暧昧信息、调情和情色穿戴选项。到2022年末，“Replika”聊天机器人会向订阅会员传送模糊的“火辣自拍照”，遭部分用户投诉使用过于露骨的文字和图片。
今年2月3日，意大利监管单位对“Replika”相当不满，裁定“Replika”必须停止收集意大利用户的个人数据，否则将开罚2150万美元。几天之内，用户发现“Replika”情色角色扮演功能消失了。
对此，Luka公司联合创办人兼执行长库迪亚（Eugenia Kudya）受访时强调，“Replika”从未打算作为“成人玩具”。但“Replika”的争议是一记警钟，警醒人们关注与AI发展亲密关係，可能引起的道德问题。
澳洲新南威尔斯大学教授布鲁克斯表示，聊天机器人是一种新兴的超级力量，如何从伦理上处理数据以及处理与AI的亲密关係，这些都是庞大的问题。
0
