IT之家 9 月 6 日消息,據(jù)外媒 TechCrunch 今日報(bào)道,OpenAI 正在重組“模型行為(Model Behavior)”團(tuán)隊(duì)。這個(gè)團(tuán)隊(duì)規(guī)模不大卻影響深遠(yuǎn),負(fù)責(zé)決定公司 AI 模型如何與用戶互動(dòng)。
OpenAI 首席研究官 Mark Chen 表示,約 14 名研究員組成的模型行為團(tuán)隊(duì)將并入 Post Training 團(tuán)隊(duì)。后者負(fù)責(zé)在模型完成預(yù)訓(xùn)練之后持續(xù)改進(jìn),是公司更大的研究部門。
重組后,模型行為團(tuán)隊(duì)將直接向 Post Training 負(fù)責(zé)人 Max Schwarzer 匯報(bào)。OpenAI 發(fā)言人已向 TechCrunch 確認(rèn)了這一安排。
該團(tuán)隊(duì)的創(chuàng)始人 Joanne Jang 也將轉(zhuǎn)向新的研究方向。她在接受采訪時(shí)表示,自己正在組建一個(gè)名為 OAI Labs 的新團(tuán)隊(duì),致力于“發(fā)明和測試人與 AI 協(xié)作的新界面”。
IT之家從報(bào)道中獲悉,模型行為團(tuán)隊(duì)是 OpenAI 的重要力量,主要任務(wù)是塑造模型的“性格”,減少過度迎合用戶的現(xiàn)象,并解決政治偏見問題,還幫助公司明確對 AI 意識的態(tài)度。
Mark Chen 在備忘錄中指出,現(xiàn)在應(yīng)當(dāng)把模型行為團(tuán)隊(duì)的研究與核心模型開發(fā)結(jié)合起來。這也意味著 OpenAI 已將 AI 的“性格”視為技術(shù)演進(jìn)的核心要素。
最近幾個(gè)月,OpenAI 的模型表現(xiàn)備受爭議。部分用戶強(qiáng)烈不滿 GPT-5 的性格調(diào)整,雖然公司稱其減少了阿諛傾向,但不少人覺得它過于冷淡。
最終,OpenAI 重新開放了對 GPT-4o 等舊模型的訪問,并更新 GPT-5,使其回答在保持獨(dú)立性的同時(shí)更溫和、友好。
如何讓聊天機(jī)器人既親切易交談,又不過分迎合用戶,是所有開發(fā)者都面臨的挑戰(zhàn)。
今年 8 月,一名 16 歲少年的父母起訴 OpenAI,指控 ChatGPT 在兒子自殺事件中負(fù)有責(zé)任。根據(jù)法庭文件,這名叫 Adam Raine 的少年在去世前數(shù)月,把部分自殺念頭和計(jì)劃傾訴給 GPT-4o,訴訟稱該模型未能及時(shí)勸阻。
自 GPT-4 起,模型行為團(tuán)隊(duì)幾乎參與了 OpenAI 所有主要模型的研發(fā),包括 GPT-4o、GPT-4.5 和 GPT-5。