老天奶，奧特曼對(duì)GPT的談?wù)摚伎缭胶脦状鷣淼紾PT-8了！
最近他在一檔節(jié)目上，和量子計(jì)算奠基人戴維?多伊奇（David Deutsch）展開對(duì)話，針對(duì)兩人存在分歧的“AI能否發(fā)展為具備意識(shí)的超級(jí)智能”議題，奧特曼搬出GPT-8來試圖說服多伊奇：
GPT-8搞懂了量子引力，還能跟你講述它是如何做到的——比如它當(dāng)時(shí)在思考哪些問題、為什么決定研究這個(gè)領(lǐng)域。但它呈現(xiàn)出的內(nèi)容，看起來依然只是語(yǔ)言模型的輸出，可它確實(shí)真的解決了量子引力的問題。那到時(shí)候你會(huì)認(rèn)可它嗎？
這段對(duì)話吸引了不少網(wǎng)友討論，有網(wǎng)友認(rèn)為兩人的對(duì)話表明AGI（通用人工智能）定義標(biāo)準(zhǔn)模糊、目標(biāo)不斷變化，根本無法衡量：
有人可能會(huì)爭(zhēng)辯說，我們很快就會(huì)超越它，并將目光投向ASI（超級(jí)人工智能）。
所以，兩人究竟是怎么說的呢？
完整對(duì)話整理
節(jié)目中，主持人先是問奧特曼“你最愛的書真的是戴維?多伊奇寫的《無窮的開始》嗎？”，奧特曼做出了肯定回答，接著解釋了為什么喜歡這本書：
即使你沒有讀完整本書，前四五十頁(yè)就已經(jīng)非常精彩了。我覺得它極度樂觀地解釋了，哪怕在有AI的世界里，人類依然永遠(yuǎn)不會(huì)缺少可以做的事、可以發(fā)揮價(jià)值的方式、可以解決的問題和可以探索的未知。
而且它還很精彩地解釋了，人類歷史中相對(duì)簡(jiǎn)單的發(fā)展過程，是如何把我們帶到今天這個(gè)令人驚嘆的境地。
在奧特曼分享完對(duì)這本書的看法后，戴維?多伊奇隨即以線上形式接入了節(jié)目。
主持人話鋒一轉(zhuǎn)：我記得你和他（戴維?多伊奇）在一個(gè)問題上有分歧——人工智能是否有可能發(fā)展成具備意識(shí)的超級(jí)智能？他（戴維?多伊奇）似乎認(rèn)為這不可能，而你（奧特曼）覺得是有可能的。或許可以詳細(xì)說說你們之間的共識(shí)與分歧。
奧特曼迅速表示“不care那個(gè)問題，并沒有什么分歧”。
此時(shí)戴維?多伊奇開麥，解釋了為什么他認(rèn)為AI不會(huì)發(fā)展成為具備意識(shí)的超級(jí)智能：
在我的電腦里，我保存了一份清單，記錄著那些我原以為不可能實(shí)現(xiàn)、但后來卻實(shí)現(xiàn)的進(jìn)展。其中一項(xiàng)讓我羞于承認(rèn)，那就是“萬維網(wǎng)”。
還有一項(xiàng)是，我曾認(rèn)為，沒有任何計(jì)算機(jī)程序能在自然語(yǔ)言下，就廣泛主題進(jìn)行開放式對(duì)話，除非它是一個(gè)AGI，我更愿意把這種能力稱為“解釋性創(chuàng)造力”。
ChatGPT讓我錯(cuò)了。
它不是AGI，但它能對(duì)話。這種能力是知識(shí)的副產(chǎn)物。
1960年代的Eliza聊天機(jī)器人，只能利用你輸入的詞匯和短語(yǔ)。而ChatGPT可以聊任何東西，它依托于龐大的知識(shí)體系，這極其有用。對(duì)有些人來說，它“太有用了”，他們會(huì)覺得自己在和一個(gè)人或一個(gè)AGI對(duì)話。就像當(dāng)年的Eliza，用戶也把它當(dāng)人一樣。
這讓我想到一個(gè)廣泛流傳的迷思——圖靈測(cè)試。
實(shí)際上，圖靈從未提出過AGI的測(cè)試或基準(zhǔn)。他的“模仿游戲”并不是一個(gè)測(cè)試，而是一個(gè)思想實(shí)驗(yàn)，用來?yè)羲?ldquo;機(jī)器不能思考”的直覺。事實(shí)上，并不存在所謂的基準(zhǔn)，因?yàn)橐粋€(gè)真正通用的智能，必須有能力選擇保持沉默。
這本身已經(jīng)說明，現(xiàn)有的方法無法造出AGI。
現(xiàn)有系統(tǒng)可以也必須用基準(zhǔn)來衡量。
反過來講，如果某個(gè)事物給出了一個(gè)全新的解釋，你根本無法測(cè)試這個(gè)解釋是它自己創(chuàng)造的，還是人類創(chuàng)造的——即便是由你親自來做這個(gè)測(cè)試，也做不到。用愛迪生的話來說，智能里有“靈感”的部分，那只有人類能做到；還有“汗水”的部分，那是機(jī)器能幫我們解放的。
那既然沒有測(cè)試基準(zhǔn)，我們?cè)趺粗廊祟愂峭ㄓ弥悄苣兀看鸢甘峭ㄟ^“講述自身的故事”。
人類的思考，并非機(jī)械地將動(dòng)機(jī)轉(zhuǎn)化為行動(dòng)、將提示詞轉(zhuǎn)化為輸出，而主要是“主動(dòng)選擇動(dòng)機(jī)”的過程。就像科學(xué)研究并非從數(shù)據(jù)中提取理論，而是發(fā)現(xiàn)問題、提出解釋性猜想，然后對(duì)猜想進(jìn)行批判和驗(yàn)證。
那么你如何判斷某個(gè)東西是不是在這么做呢？其實(shí)未必總能判斷。有時(shí)你確實(shí)只是在和一個(gè)機(jī)器人聊天。
但是如果沒有任何解釋能說明你自己是機(jī)器人，或者人類整體是機(jī)器人，那么合理的假設(shè)就是“我們不是機(jī)器人”。
有些人喜歡質(zhì)疑，愛因斯坦是不是真的創(chuàng)造了相對(duì)論，還是只是把各種現(xiàn)有觀點(diǎn)東拼西湊、機(jī)械組合出來的。我們知道他創(chuàng)造了它，因?yàn)槲覀兞私馑?ldquo;故事”——他當(dāng)時(shí)在解決什么問題，以及為什么要解決這些問題。
就像我們知道，薩姆·奧特曼不需要寫任何代碼，卻讓ChatGPT從技術(shù)概念變成了實(shí)際產(chǎn)品，成為一種現(xiàn)象級(jí)存在。他靠的是直覺，還有那種“認(rèn)定這是人類下一步該嘗試的正確方向”的魄力。
目前還沒有任何程序能讓計(jì)算機(jī)擁有這樣的直覺，至少現(xiàn)在還沒有。
聽到這里，奧特曼忍不住想要反駁了，并且搬出了GPT-8：
你提到了愛因斯坦相對(duì)論，我非常認(rèn)同你的看法。我覺得相對(duì)論是人類有史以來搞明白的最精妙的事物之一，甚至可以說是最精妙的。而且愛因斯坦有他的“故事”，我們知道他當(dāng)時(shí)在研究什么。
假設(shè)幾年后，GPT-8搞懂了量子引力，還能跟你講述它是如何做到的——比如它當(dāng)時(shí)在思考哪些問題、為什么決定研究這個(gè)領(lǐng)域。但它呈現(xiàn)出的內(nèi)容，看起來依然只是語(yǔ)言模型的輸出，可它確實(shí)真的解決了量子引力的問題。那到時(shí)候你會(huì)認(rèn)可它嗎？我知道你會(huì)記錄自己之前判斷錯(cuò)誤的事情，我也會(huì)這么做。所以，這種情況能說服你嗎？
戴維?多伊奇：
我覺得可以。沒錯(cuò)，“過程故事”在這當(dāng)中至關(guān)重要。我也認(rèn)為這才是判斷的關(guān)鍵。
量子計(jì)算先驅(qū)：戴維?多伊奇
戴維?多伊奇是牛津大學(xué)克拉倫登實(shí)驗(yàn)室量子計(jì)算中心創(chuàng)始成員、物理學(xué)訪問教授，同時(shí)也是牛津大學(xué)沃弗森學(xué)院的榮譽(yù)院士、英國(guó)皇家學(xué)會(huì)和物理研究所的院士，被認(rèn)為是量子計(jì)算和量子信息科學(xué)的奠基人之一。
他致力于研究物理學(xué)中的基礎(chǔ)性問題，尤其是量子計(jì)算與信息理論，以及建構(gòu)者理論（constructor theory）。
1985年，他提出量子圖靈機(jī)理論框架，通過引入量子邏輯門的網(wǎng)絡(luò)運(yùn)算方式，證明量子計(jì)算機(jī)在理論上可以精確模擬任何符合量子力學(xué)規(guī)律的物理系統(tǒng)，為量子計(jì)算機(jī)的發(fā)展奠定了數(shù)學(xué)基礎(chǔ)。
1992年，他與澳大利亞數(shù)學(xué)家、理論物理學(xué)家Richard Jozsa共同提出Deutsch-Jozsa算法，首次證明量子算法相較經(jīng)典算法具有指數(shù)級(jí)加速效應(yīng)，為后續(xù)Shor算法、Grover算法的發(fā)展奠定了理論基礎(chǔ)。
他還寫過兩本著名的面向普通讀者的書：《真實(shí)世界的脈絡(luò)》（The Fabric of Reality）和《無窮的開始》（The Beginning of Infinity）。
戴維?多伊奇曾獲得的獎(jiǎng)項(xiàng)包括ICTP狄拉克獎(jiǎng)、墨子量子獎(jiǎng)、2科學(xué)突破獎(jiǎng)的物理學(xué)獎(jiǎng)、艾薩克·牛頓獎(jiǎng)等。