來源｜TIME

文｜CARISSA VéLIZ

編譯｜楊雪涵

(資料圖片)

如果說蘇格拉底是古希臘最聰明的人，那么大語言模型就是當(dāng)今現(xiàn)代社會中最為愚蠢的系統(tǒng)。

蘇格拉底的謙遜智慧：認(rèn)識知識的局限，保持真實(shí)謙和

在柏拉圖所寫的《申辯論》中，他講述了蘇格拉底的朋友凱勒豐前去德爾斐神示所拜訪神諭的故事。凱勒豐詢問牧師是否有人比蘇格拉底更聰明，女祭司回答說沒有：蘇格拉底是他們當(dāng)中最聰明的一個。

起初，蘇格拉底感到困惑。當(dāng)有那么多人以他們的知識和智慧而聞名，而蘇格拉底自認(rèn)為他兩者皆為缺乏時，他怎么可能是最聰明的人呢？

他以解開這個謎團(tuán)為己任四處詢問政治家，詩人與哲學(xué)家。他最終發(fā)現(xiàn)了什么？蘇格拉底的調(diào)查表明，那些聲稱自己博學(xué)的人要么并不知道他們認(rèn)為自己知道的知識，要么知道的遠(yuǎn)遠(yuǎn)少于他們聲稱自己知曉的。

因此，蘇格拉底是最聰明的人。因?yàn)樗靼鬃约褐R的局限性。他在保持真實(shí)的同時也做到了毫不張揚(yáng)。

那么這個故事與ChatGPT 4等大語言模型之間又是如何加以比較的呢？

大語言模型的虛幻信心：統(tǒng)計(jì)猜測背后的真相

與蘇格拉底相反，大語言模型是不知道人類在各自的知識體系中具體缺乏什么的。這些系統(tǒng)的構(gòu)建目的并不是為了追求真相，它們所存在的基礎(chǔ)也并非基于實(shí)踐經(jīng)驗(yàn)的證明或是邏輯，因此它們做出的統(tǒng)計(jì)猜想往往是錯誤的。

大語言模型不會告知用戶它們正在進(jìn)行統(tǒng)計(jì)猜測，他們以與陳述事實(shí)相同的信心提出錯誤的猜測。因此無論你問什么，它們都會給出一個令人信服的答案，而且永遠(yuǎn)都不會是“我不知道”，即使它應(yīng)該是。如果您向ChatGPT 詢問時事，它會告知您它僅限訪問 2021年 9月前的信息，并且無法瀏覽互聯(lián)網(wǎng)。對于幾乎所有其他類型的問題，它都會冒險(xiǎn)給出一個將事實(shí)與捏造混為一談的回應(yīng)。

富蘭克福警示：大語言模型的廢話威脅勝過謊言

哲學(xué)家哈里 ·戈登 ·富蘭克福有句名言：廢話是典型具有說服力的言論，但其脫離了對于真相的關(guān)注。同理可得，大語言模型是終極的廢話者，因?yàn)樗鼈儽辉O(shè)計(jì)成了合理（因此令人信服）但不考慮真相的系統(tǒng)。廢話不一定就是錯誤的，有時胡說八道的人會按原樣描述事情，但如果他們不以真相為目的，那他們所說的仍是廢話。

富蘭克福警告說，胡說八道是危險(xiǎn)的。廢話對于真相的威脅比謊言更大。撒謊的人認(rèn)為她知道真相是什么，因此實(shí)情往往更被關(guān)注。她可以受到質(zhì)疑并承擔(dān)責(zé)任，她的意圖可以被推斷出來。正如富蘭克福所說，說真話的人和說謊者正站在同一場游戲的對立面上，胡說八道的人毫不在意。因此真理甚至沒有被面對；它被忽略了；它變得無關(guān)緊要。

說服力的雙刃劍：大語言模型廢話的潛在危險(xiǎn)

廢話越有說服力就越危險(xiǎn)，大語言模型在設(shè)計(jì)上有兩個方面具備說服力。首先，它們分析了大量文本，這使它們能夠根據(jù)給定的提示做出可能的反應(yīng)進(jìn)行統(tǒng)計(jì)猜測。換句話說，它模仿了它在所經(jīng)歷的文本中拾取的模式。其次，這些系統(tǒng)是通過從人為反饋（ RLHF）中強(qiáng)化學(xué)習(xí)的過程來改進(jìn)的。獎勵模型是直接從人類反饋中訓(xùn)練出來的。人類教導(dǎo)它他們更喜歡怎樣的反應(yīng)。通過無數(shù)次迭代，系統(tǒng)逐漸學(xué)會了如何滿足人類的喜好，從而變得越來越有說服力。

正如假新聞的泛濫所告訴我們的那樣，人類并不總是喜歡真相。虛假往往比平淡無奇的真相更有吸引力。我們喜歡好的、令人興奮的故事，遠(yuǎn)遠(yuǎn)超出我們對于真相的執(zhí)念。大語言模型類似于噩夢般的學(xué)生、教授或記者；那些不承認(rèn)自己知識的局限性，而是試圖通過胡說八道來炫耀知識容量的人。

科技的道德試煉：從柏拉圖到現(xiàn)實(shí)的人工智能監(jiān)管之路

柏拉圖的《申辯論》表明，我們理應(yīng)將人工智能建設(shè)得更像蘇格拉底，而不是像胡說八道的人。我們不應(yīng)該期望科技公司出于自己的善意進(jìn)行合乎道德的設(shè)計(jì)。硅谷以其胡說八道的能力而聞名，公司甚至?xí)X得胡說八道是完全有必要的，只有這樣才能在這種環(huán)境中保持競爭力。在一個胡說八道的企業(yè)環(huán)境中工作的公司會創(chuàng)造出胡說八道的產(chǎn)品應(yīng)該不足為奇。過去的二十年里所教會我們的一件事是，科技同其他行業(yè)一樣需要監(jiān)管，沒有一個行業(yè)可以實(shí)現(xiàn)自我監(jiān)管。我們監(jiān)管食品、藥品、電信、金融、運(yùn)輸；為什么技術(shù)就不能成為下一個呢？

人工智能領(lǐng)域垂直號黑智

了解更多AI產(chǎn)業(yè)資訊

返回搜狐，查看更多

關(guān)鍵詞：