幾天前，OpenAI試圖通過發(fā)布其新模型（稱為GPT-4o mini）來搶占所有頭條新聞，該模型將進(jìn)一步增強其人工智能的功能，甚至免費用戶也可以使用。但直到現(xiàn)在，我們才通過更好的審查發(fā)現(xiàn)了此更新的真正范圍，修復(fù)了平臺中的嚴(yán)重缺陷。

盡管我們宣布了這一消息，并廣泛解釋了這一變化包括哪些內(nèi)容，但事實是，由于遭受了全球性故障，這一消息完全被掩蓋并被置于背景中。微軟與 CrowdStrike 合作，連續(xù)幾天讓世界天翻地覆。

這也許是OpenAI發(fā)布新模型時沒有發(fā)現(xiàn)一個小但重要的細(xì)節(jié)的主要原因：實施的改變不僅使平臺更智能、更輕量，還修復(fù)了一個關(guān)鍵的 AI 錯誤。

語言模型的開發(fā)競相日趨復(fù)雜，這也引發(fā)了人們對這些平臺安全性的擔(dān)憂，因為這些模型可能被操縱，從而產(chǎn)生不適當(dāng)、有害或惡意的反應(yīng)。

幾個月來，那些知道如何在正確的地方尋找漏洞的人能夠利用安全漏洞或漏洞，這使得 ChatGPT 能夠通過一系列提示來解鎖一些安全鎖。但現(xiàn)在這已經(jīng)成為過去了。

據(jù)The Verge友商報道，OpenAI 又向前邁進(jìn)了一步，推出了最新模型 GPT-4o Mini，采用了一種名為“指令層次結(jié)構(gòu)”的新穎安全技術(shù)，旨在保護(hù)語言模型免受這些通過網(wǎng)絡(luò)上流傳的提示進(jìn)行“欺騙”的企圖。

廣義上講，指令層次結(jié)構(gòu)包括建立一種命令階梯，賦予開發(fā)人員的原始指令更高的優(yōu)先級，并淡化后續(xù)用戶試圖修改模型行為的請求。

GPT-4o Mini這款新模型代表著人工智能朝著民主化邁出了重要一步，提供了一種更經(jīng)濟(jì)、更強大的模型，使開發(fā)人員能夠進(jìn)行創(chuàng)新，而不受以前模型所施加的財務(wù)限制。（OpenAI）

這樣，如果用戶試圖“欺騙”聊天機(jī)器人忽略其初始指令并執(zhí)行完全不同的任務(wù)，指令層次結(jié)構(gòu)將阻止這種情況發(fā)生并阻止操縱提示。

“基本上，我們教模型始終優(yōu)先考慮開發(fā)人員的指示，”他解釋道。OpenAI的 API 平臺產(chǎn)品經(jīng)理Olivier Godement?！斑@樣，我們就可以防止用戶操縱模型產(chǎn)生非預(yù)期的響應(yīng)?！?/p>

因此，指令層次結(jié)構(gòu)代表了 OpenAI 語言模型在安全領(lǐng)域的重大進(jìn)步。然而，需要注意的是，這種技術(shù)并不是一個明確的解決方案，找到繞過阻止過濾器的方法可能只是時間問題。

隨著新 GPT-4o 迷你模型的集成，ChatGPT 掩蓋了一個導(dǎo)致其安全過濾器被突破的漏洞。圖片來源：Fast Company。

近幾個月來，OpenAI 因?qū)Ｗ⒂诋a(chǎn)品開發(fā)而犧牲了人工智能本身的安全而受到批評。負(fù)責(zé)將語言模型與人類利益相結(jié)合的團(tuán)隊解散，以及員工和前員工發(fā)表公開信要求提高安全保障，凸顯了解決這些問題的迫切需要。

隨著 GPT-4o mini 的推出和指令層次結(jié)構(gòu)的實施，該公司似乎正在展示對其模型安全性的承諾。

然而，為確保這些系統(tǒng)得到負(fù)責(zé)任且合乎道德的使用，仍有許多工作要做。