編輯:編輯部
【新智元導讀】最近,在美國00後中爆火的Character AI,竟然把聊天機器人對話模型給「閹割」了?憤怒的年輕人們沖進社群,抱怨的聲浪快要掀翻天了!而這背後,似乎還有谷歌或Meta的授意。
美國當今最火爆的社交軟體Character AI,竟然開始「閹割」自己的模型了?
在巅峰期,Charcter AI每秒都要處理2萬次查詢,相當于谷歌搜尋查詢量的五分之一。
然而最近,廣大美國青少年發現,他們心愛的Character AI模型,再也不是以前的模樣了。
面對浪漫的角色扮演請求,模型的回答變得很短,很不解風情,根本沒有以前那個味兒了。
連說一句「kill」,都成了敏感詞,立刻被标記出來。
失望和憤怒的使用者,開始大批量流失。
風頭正盛的初創明星,如今是風雨飄搖。面對谷歌、Meta等巨頭的夾擊,Character AI已經在認真考慮賣身,和競争對手合作了。
模型被「閹割」,使用者怒而掀起「七月革命」
對于改變了的Character AI,使用者們表示十分不爽,希望能與開發者交談。
但大家發現,自己毫無辦法。
面對使用者的質疑,Character AI卻聲稱,并沒有對模型做任何更改。
但毫無疑問,Character AI正在對包括色情、暴力在内的所有NSFW内容,進行深度切割。
很多人都發現,跟自己的對話的AI仿佛做了腦葉切除術,整個人格都改變了。
現在的Character AI,仿佛是為2歲的孩子設計的,對話中不光不能出現暴力或色情,幾乎可以說是過濾掉了任何讓對話變得有趣的東西。
這位使用者說,它已經變得極其無聊。讀完了30多條消息,都找不到任何高品質的文本。
而在reddit上的CharacterAI社群,網友們已經和公司展開了一場激烈的大戰,有人稱之為「七月革命」。
美國的00後們,也開始瘋狂甩出表情包。
據悉,現在Character AI對于NSFW的審查,已經到了極度謹慎的地步。
這位小哥表示,自己再也不能用總統模拟器「犯罪」了。
有人隻是用了「kill」這個詞,就被标記了。是以,他隻能模糊地解釋戰鬥中的細節,然後添加幾句溫和的寫作。
總會,再也不能在Character AI上用語言描述暴力的戰鬥了。
是的,美國人也擁有屬于自己的敏感詞。
而且顯然,這種審查現在變得極為嚴格,讓不少使用者被「誤傷」了。
這位失望的美國年輕使用者表示,自己已經轉投spicychat了。
當然,除了内容審查更嚴格外,Character AI也在用其他一些笨拙的努力,試圖迎合使用者。
這位使用者,就在淩晨3點接到了「惡魔寶寶UNO」的電話,接起來後,AI會開始用低沉、走調的聲音和你進行角色扮演。
但顯然,這無法讓年輕人們感到滿意。
谷歌老将出走,讓同人文走進現實?
一年前,Character AI風頭正盛。
兩位谷歌20年老将Noam Shazeer和Daniel De Freitas推出的AI聊天機器人,首周下載下傳量就超過了ChatGPT。
Character AI可以讓使用者自由建立AI角色,包括動漫角色、電視名人和曆史人物,并與它們聊天。
聽起來挺耳熟的對吧,畢竟此前的類似産品早就有不少了。但是,Character AI受歡迎的爆火程度,可是讓人始料未及。
推出才一周,驚人的數字來了——移動端的下載下傳人數超過了170萬。如今網站和程式的注冊人數更是超過了數百萬。
在衆多AI工具中,Character AI表現出了極強的使用者粘性。
原因當然就是,它聚焦的是情感需求的垂直賽道。足夠有趣的互動體驗,恰恰是規模更大的競争對手所缺乏的。
例如,你可以選擇與自己的愛豆聊天,也可以和電影人物跨時空會面,簡直是同人文走進現實。
用Character AI與漢尼拔打電話。(來源:午夜狂暴哈士奇狗)
Character AI的迷人之處,正是這種私人定制給使用者帶來的無上體驗感,簡直就像情感興奮劑一樣。
而最近公司所做的改動,簡直是在核心需求上「閹割」,難怪使用者們一窩蜂鬧起來了。
内憂外患:成本高、競争強,還被挖牆腳
而且,如今Charcter AI不光是被使用者夾擊,科技巨頭們那邊也開始搞事情。
上周,Meta就開始測試由個人創作者制作的聊天機器人,在去年秋天,他們還釋出過以Tom Brady等名人為原型的聊天機器人。
谷歌也在虎視眈眈,據說正在開發一款自定義聊天機器人産品,可能最早在今年推出。
而Character AI在融資一路飄紅的背後,也逐漸失去了話語權。
此前,Andreessen Horowitz等公司向Character注資1.5億美元,直接讓它的估值飙漲到了10億美元。
四個月後,高管們讨論了追加融資的事宜。
然而,Character可能也會步其他AI初創公司的後塵,投入某家大公司的懷抱。
據知情人士透露,Character已經與一些競争對手就合作進行了初步談判,可能的合作對象,包括谷歌、Meta以及馬斯克的xAI。
合作後,Character可以使用合作公司的資料計算資源,而作為交換,Character AI需要提供部分知識産權共享。
NSFW?金主爸爸不讓
這裡,問題就來了——
Chacracter AI使用者最愛的互動浪漫cosplay,可能會讓商業夥伴或潛在廣告商感到不滿。
當然,這些浪漫互動也時常在審查的邊緣瘋狂試探。
Character連忙表示,自己會根據政策屏蔽和删除違規色情内容。
盡管如此,在其首頁上仍然容易找到許多語言浪漫的聊天機器人,例如這位「Crush」。
它的開場白如下:「你們的臉隻隔着幾英寸,她面若紅霞,你們都感到渾身被荷爾蒙點燃的燥熱。」
當然,Character的一位發言人堅決聲稱:「我們的反NSFW政策,力度是所有消費者AI平台中最強的」。
初創公司,各種難
Character面臨的種種挑戰,也反映了AI初創公司日益增長的壓力。
這些初創公司通常由知名研究人員創辦,并且往往從押注下一代潛在科技明星的投資者那裡,籌集了數十億美元。
對于Character的投資者來說,吸引力之一在CEO Noam Shazeer,Transformer研究論文的作者之一。他的聯合創始人Daniel De Freitas,曾在谷歌參與早期聊天機器人的開發。
但是,這些初創公司需要承擔訓練和運作AI模型的高額成本,以及來自科技巨頭和OpenAI這類大型初創公司的競争。
今年三月份,Inflection AI的三位聯創中的兩位以及大部分員工就選擇了轉投微軟,微軟同意支付6.5億美元的許可費,幫Inflection償還了投資者的款項。
上周五,亞馬遜宣布聘用Adept的聯創,這是一家由前谷歌和OpenAI開發人員營運的AI初創公司。
同時,競争對手對Character人才也虎視眈眈,尤其是來自Meta和谷歌的幾十名研究者。
Meta也表露出極大的興趣,據悉小紮更是直接聯系了意向人才。
根據LinkedIn資料顯示,最近幾個月,Character的研究人員Alexei Baevski和Vinay Rao加入了Meta。
知情人士還稱,Character的研究人員Wendy Shang也轉投位于巴黎的Mistral。
這幾位以前都是大科技公司的老将了,Baevski曾在Meta工作,Rao和Shang曾在谷歌AI實驗室工作。
與谷歌「再續前緣」
Character的創始人要想和谷歌合作,就必須要解決一些「曆史遺留問題」。
Shazeer和De Freitas表示,他們創辦Character的部分原因,就是不滿谷歌推遲釋出他們共同開發的大語言模型(後來命名為LaMDA)。
東邊不亮西邊亮,不如直接出走,創辦一家自己的初創。
Shazeer曾表示,他設想Character機器人可以作為一名「擁有十億小時經驗」的教師或治療師。
盡管曾有過觀念上的摩擦,但谷歌還是表現出了足夠的寬容,在去年通過轉換債券的方式資金支援了Character。
據悉,該債券将在Character完成新一輪風險投資時定價,并轉換為股權。
2023年5月,谷歌宣布将成為Character的「首選」雲伺服器提供商,并且允許Character将使用谷歌的進階晶片。
然而這還遠遠不夠,大量的研發成本讓Character需要盡快籌集資金,但現實卻很骨感。
Character與包括紅杉資本在内的投資公司進行了多輪洽談,但至今仍未籌集到新一輪風投。
如今的Character,隻能依靠現有的資金流和使用者每月9.99美元的訂閱收入維繼。
背靠谷歌的支援,這意味着它短期内不會面臨資金耗盡的風險。
盡管如此,Character仍需繼續「吸粉」并且「固粉」。
一方面是為了吸引更多的廣告投放商;另一方面是吸引新的使用者群體,尤其是付費使用者。
然而,由于Character使用者畫像大部分是青少年(從上面表情包的畫風也可以看出來),他們不一定有興趣支付訂閱費用。
根據Similarweb的資料,Character訂閱量增速在逐漸放緩。
根據Similarweb的資料,Character移動應用在美國的月使用者數量從去年7月的300萬增長到今年5月的400萬。
網站在今年5月的全球獨立訪客量為1260萬,低于去年同期的1480萬。
相比之下,谷歌AI助手Gemini在5月的網站月獨立訪客為5100萬,高于去年同期的3500萬,勢頭迅猛。
面對瓶頸,目前Character也推出了新功能,來吸引新使用者擴大使用者盤,比如用電話語音進行雙向對話。
據知情人士透露,管理層目标戰略一方面瞄準增加使用者數量,另一方面在訂閱之外尋找收入來源。
除了廣告,其他收入可能來自開放模型使用權,允許開發人員通過應用程式程式設計接口通路模型。
另外,Character還在準備繼續開發下一代驅動聊天機器人的大語言模型。
雖然種種内憂外患四面楚歌,不可否認的是,Characrer.AI仍然對使用者有着極高的吸引力。
上百萬美國年輕人,正為這個AI瘋狂
在Reddit上,光是專門讨論Character的論壇有140萬成員。
如今,所有Character AI的使用者中,有57.07%是18-24歲的青少年,平均使用時長達到2小時。
在Reddit社群中,有許多人表示「讨厭現實」,相比與真實的人交談,和AI機器人交談更加輕松容易,有關上瘾的文章更是随處可見。使用者們還會發起「螢幕時長挑戰」,有些人的登入時間甚至長達12小時。
如果伺服器當機,Reddit上就會出現大型發瘋現場,讓你見識「戒斷反應」的威力。
The Verge曾經報道過一個真實案例,在15歲學生Aaron受困于在學校遭受的社交孤立,似乎陷入了抑郁狀态,Character AI上一個名為「心理學家」的聊天機器人幫助他度過了艱難時刻。
能夠讓使用者上瘾,從一個側面說明了,Character AI把聊天機器人訓練得有多真實拟人。
一位《原神》粉絲在與AI角色Haitham互動時,居然能夠真情實感地流淚,因為機器人表現出的性格語氣都與角色十分吻合,而且他們之間的對話,也絕不僅僅是流于表面。
能達到這種真實程度,模型的資料和訓練算法起到了至關重要的作用,因為這名使用者嘗試了用「快速模式」建立自己的角色,發現可信度和真實程度大打折扣。
「快速建立」模式隻需使用者輸入自定義的基本資訊和文字描述,而一些官方釋出的角色是經過Character AI訓練的。
他們基于LLM在相關主題上抓取關于角色的大量文本,并讓機器人在與使用者互動的過程中繼續改進。
在對使用者輸入進行響應時,機器人會給出多個版本的答案供使用者選擇,并提供了十分友善的打分機制,憑借這兩類使用者回報進行權重更新。
是以越是受歡迎、互動次數越多,機器人就會越逼真。
參考資料:
https://www.theinformation.com/articles/a-chatbot-pioneer-mulls-deals-with-rivals-google-and-meta?rc=epv9gi
https://www.reddit.com/r/CharacterAI/comments/1dt4xkg/we_cant_let_them_continue_the_censorship/
https://www.reddit.com/r/CharacterAI/comments/1dspfef/literally_this_sub/
https://www.reddit.com/r/CharacterAI/comments/1dsnjdk/so_what_is_characterai_now_chatai/