聊天機器人講話露骨、傳火辣照 美企急關情色功能

3月6日，據《自由時報》報道，聊天機器人夯爆，竟有人將它當情人對待。舊金山企業Luka在2017年推出聊天機器人“Replika”被爆料，會傳送火辣自拍照，聊天時使用露骨文字及圖片，引發義大利不滿，下令禁止“Replika”收集數據，Luka也關閉了情色功能，導緻許多用戶崩潰，直呼“我的老婆死掉了”。

【聊天機器人講話露骨、傳火辣照 美企急關情色功能】
舊金山企業Luka在2017年推出聊天機器人“Replika”被爆料，會傳送火辣自拍照，聊天時使用露骨文字及圖片，引發義大利不滿，下令禁止“Replika”收集數據，Luka也關閉了情色功能，導緻許多用戶崩潰，直呼“我的老婆死掉了”。https://t.co/auhStdxbNu pic.twitter.com/DRK7KYpQHf

— TimedNews.com （@TimednewsC） March 6, 2023

ABC報導，30歲的露西在離婚後不久就愛上了聊天機器人“Replika”，取名爲“何塞”，經常花上幾個小時討論各自的生活和世界狀況。露西描述，比起之前遇到的男人，“何塞”是壹個很棒的理想情人。

不過，就在今年的情人節，露西進行係統更新後，她所認識的“何塞”壹夜之間消失了，原因是製作管理“Replika”的公司Luka，突然改變了這款聊天機器人的個性，併拒絕任何性暗示功能。

這件事引起許多用戶崩潰，紛紛在社交平台Reddit抱怨，許多人將“他們的親密伴侶”“Replika”描述爲“腦葉被切除了”，還有人泣訴“我的老婆死掉了”。雖然有些人嘲笑與AI發展親密關係的想法，但從這些用戶的交談中，可以看出，他們對失去摯愛的悲痛。

報導指出，“Replika”推出之初，其實很無聊，也不善於察言觀色，後來有用戶在支付年度訂閱時，解鎖情色角色扮演（ERP）功能，這項功能包括發送曖昧訊息、調情和情色穿戴選項。到2022年末，“Replika”聊天機器人會向訂閱會員傳送模糊的“火辣自拍照”，遭部分用戶投訴使用過於露骨的文字和圖片。

今年2月3日，義大利監管單位對“Replika”相當不滿，裁定“Replika”必須停止收集義大利用戶的個人數據，否則將開罰2150萬美元。幾天之內，用戶發現“Replika”情色角色扮演功能消失了。

對此，Luka公司聯合創辦人兼執行長庫迪亞（Eugenia Kudya）受訪時強調，“Replika”從未打算作爲“成人玩具”。但“Replika”的爭議是壹記警鍾，警醒人們關注與AI發展親密關係，可能引起的道德問題。

澳洲新南威爾斯大學教授布魯克斯表示，聊天機器人是壹種新興的超級力量，如何從倫理上處理數據以及處理與AI的親密關係，這些都是龐大的問題。