據報道，美國的00后網絡紅人Caryn Marjorie最近與Forever Voices公司合作，通過視頻訓練等方式打造出個人形象、聲音和性格的AI虛擬女友，并以1美元1小時的價格對外售賣。一周內，該服務的會員數量超過了一千人，Caryn Marjorie獲得了7.16萬美元收入。
然而，這種虛擬女友的發展很快就失控了，技術人員黑掉了她，一些人也找到了使聊天內容變得露骨的方法。這揭示了人類好奇心和欲望可能導致虛擬女友技術的不正當使用。
對此，Caryn Marjorie表示，她提供虛擬女友服務是為了提供一個可以治愈孤獨的工具，而非純粹為了經濟利益。她強調她不會偷看用戶與AI的聊天記錄。同時，Forever Voices公司的CEO John Meyer也確認，公司將聘請首席道德官以確保使用該服務的倫理逾矩現象不會發生。
這件事情也引起了人們對GPT-3.5/4 AI技術運用的關注和思考。微軟等公司因倫理問題而拒絕給Bing添加虛擬男友朋友功能，這恰恰表明了技術背后所需要的倫理道德考慮。虛擬女友技術的崛起提出了一些關鍵問題，例如：我們如何確保這種技術不會被誤用？我們應該對其進行何種監管？虛擬人工智能和人類交互的未來到底會是怎樣的？
【來源：中關村在線】
