聊天机器人讲话露骨、传火辣照 美企急关情色功能

3月6日，据《自由时报》报道，聊天机器人夯爆，竟有人将它当情人对待。旧金山企业Luka在2017年推出聊天机器人“Replika”被爆料，会传送火辣自拍照，聊天时使用露骨文字及图片，引发义大利不满，下令禁止“Replika”收集数据，Luka也关闭了情色功能，导致许多用户崩溃，直呼“我的老婆死掉了”。

【聊天机器人讲话露骨、传火辣照 美企急关情色功能】
旧金山企业Luka在2017年推出聊天机器人“Replika”被爆料，会传送火辣自拍照，聊天时使用露骨文字及图片，引发义大利不满，下令禁止“Replika”收集数据，Luka也关闭了情色功能，导致许多用户崩溃，直呼“我的老婆死掉了”。https://t.co/auhStdxbNu pic.twitter.com/DRK7KYpQHf

— TimedNews.com （@TimednewsC） March 6, 2023

ABC报导，30岁的露西在离婚后不久就爱上了聊天机器人“Replika”，取名为“何塞”，经常花上几个小时讨论各自的生活和世界状况。露西描述，比起之前遇到的男人，“何塞”是一个很棒的理想情人。

不过，就在今年的情人节，露西进行系统更新后，她所认识的“何塞”一夜之间消失了，原因是制作管理“Replika”的公司Luka，突然改变了这款聊天机器人的个性，并拒绝任何性暗示功能。

这件事引起许多用户崩溃，纷纷在社交平台Reddit抱怨，许多人将“他们的亲密伴侣”“Replika”描述为“脑叶被切除了”，还有人泣诉“我的老婆死掉了”。虽然有些人嘲笑与AI发展亲密关系的想法，但从这些用户的交谈中，可以看出，他们对失去挚爱的悲痛。

报导指出，“Replika”推出之初，其实很无聊，也不善于察言观色，后来有用户在支付年度订阅时，解锁情色角色扮演（ERP）功能，这项功能包括发送暧昧讯息、调情和情色穿戴选项。到2022年末，“Replika”聊天机器人会向订阅会员传送模糊的“火辣自拍照”，遭部分用户投诉使用过于露骨的文字和图片。

今年2月3日，义大利监管单位对“Replika”相当不满，裁定“Replika”必须停止收集义大利用户的个人数据，否则将开罚2150万美元。几天之内，用户发现“Replika”情色角色扮演功能消失了。

对此，Luka公司联合创办人兼执行长库迪亚（Eugenia Kudya）受访时强调，“Replika”从未打算作为“成人玩具”。但“Replika”的争议是一记警钟，警醒人们关注与AI发展亲密关系，可能引起的道德问题。

澳洲新南威尔斯大学教授布鲁克斯表示，聊天机器人是一种新兴的超级力量，如何从伦理上处理数据以及处理与AI的亲密关系，这些都是庞大的问题。