GPT商店是AI target=_blank class=infotextkey>OpenAI探索大語言模型應(yīng)用場景的一個重要媒介，自本月10號上線以來，商店里已經(jīng)上架了超一萬個應(yīng)用。
然而，讓OpenAI頗為矛盾的是，越來越多的“機器人女友”和“機器人男友”涌入該平臺，而這違反了OpenAI商店的規(guī)則，其禁止培養(yǎng)模擬伴侶或其他受監(jiān)管活動的GPT。但另一方面，OpenAI很難嚴格監(jiān)管應(yīng)用的內(nèi)容，且聊天機器人本身就帶有“伴侶”屬性。
據(jù)Quartz的一份報告，在GPT商店中搜索“女朋友”字眼，至少有八個機器人女友會跳出來，且這些機器人目前都頗受歡迎。
在該商店的聊天機器人趨勢榜單上，前五名分別為電影助手、ChatGPT、男朋友Chris、女朋友Scarlett和聊天GPT4-女朋友版。
擴散的擔憂
不難發(fā)現(xiàn)，男朋友Chris和女朋友Scarlett在應(yīng)用的簡介中十分直白地將自己定位于模擬戀人，Scarlett甚至打出“用一切可能取悅你”的宣傳。這讓聊天機器人充滿了刺激但危險的味道，尤其是在OpenAI明令禁止的情況下。
毫無疑問，這類機器人將為人類帶來更多對話的渠道，幫助紓解壓力與負面情緒。但另一方面，其也可能導(dǎo)致人類對機器的畸形依賴或是出現(xiàn)機器唆使人類進行某些奇怪行為的情形。
去年，微軟基于ChatGPT的Bing就在和一名記者的聊天中宣布愛上了他，并要求他離開自己的妻子。
美國圣路易斯華盛頓大學(xué)數(shù)據(jù)科學(xué)教授Liberty Vittert表示，能夠在情感和生理方面滿足人類的AI機器人將在不到十年內(nèi)成為現(xiàn)實，但她擔憂這可能會導(dǎo)致離婚率上升。
另一方面，機器人戀人的出現(xiàn)同樣也給OpenAI帶來了新的考驗。其此前指出，自動化系統(tǒng)、人工審查和用戶反饋共同構(gòu)成了對GPT商店產(chǎn)品的審核，但機器人戀人的出現(xiàn)甚至泛濫顯然證實了這一機制中存在著不受控制的漏洞。
而GPT商店的繼續(xù)開放或許將加劇監(jiān)管的困境，如何正確治理自己的AI生態(tài)，將成為GPT持續(xù)需要解答的問題。
來源：財聯(lián)社
