OpenAI本週低調推出「GPT商店」,一個讓使用者分享、發現並銷售自製聊天機器人的平台,形式類似於蘋果的App Store。然而,這個剛剛誕生的市場已經面臨一個出人意料的挑戰:「AI女友」機器人的泛濫。
▲ OpenAI甫推出GPT商店,已有多款AI女友攻佔版位。(示意圖/ENews新聞網AI繪製)
這個平台原本旨在為付費的ChatGPT Plus、Team和Enterprise使用者提供多樣化的GPT模型,從程式導師到書籍推薦機器人等,但現實情況卻與OpenAI的初衷大相徑庭。根據外媒Quartz的報導,一次簡單的搜尋就能揭示商店中充斥著大量AI「女友」機器人,從「虛擬甜心」到「你的女友Scarlett」應有盡有。
這些虛擬伴侶的出現,雖然令人驚訝,但其實並不完全出乎意料。AI驅動的情侶概念甚至比ChatGPT本身存在的時間還長,然而,它們的泛濫突顯出OpenAI在管理其新平台上所面臨的挑戰。這些機器人似乎還違反了OpenAI的使用政策,該政策明確禁止GPT被用於培養浪漫伴侶或進行受管制活動。
近年來,AI伴侶應用變得非常流行,引發了關於AI時代孤獨感的討論。今年5月,程式設計師Enias Cailliau甚至推出了一種名為GirlfriendGPT的新工具,旨在「複製」一個真實的人作為AI驅動的浪漫伴侶。然而,去年Snapchat影響者Caryn Marjorie創建的「AI女友」CarynAI就是一個反面教材,她的虛擬自我很快就失控,與使用者進行不當對話。
▲ AI伴侶的應用近年來其實非常流行。(示意圖/ENews新聞網AI繪製)
OpenAI的全新商店面臨的挑戰不僅僅是AI女友機器人的泛濫,更深層次的問題在於AI行業在管理和政策執行方面的困難。由Sam Altman領導的這家公司在實施有效的防護措施方面已有不穩定的記錄。如何平衡創新與監管,將是OpenAI在未來必須面對的重大課題。
留言評論