Q*使用了搜索算法來部分模擬人類的思維過程。未來形式化和形式邏輯的加入會顯著加速AI思維能力的成熟。排除自主意識之外，AI幾乎已經(jīng)可以滲透到每個需要進(jìn)行思考才能解決問題的領(lǐng)域中去了。

Q*的啟示

之前的文章里提到過，人工智能思維能力創(chuàng)造的必不可少的條件是狀態(tài)空間的搜索。今天的大新聞里，我們都看到了Q*的確使用了搜索算法。所以今天我會稍微談一下這個話題。

主要思想就是人工智能的進(jìn)一步發(fā)展可能會引發(fā)局部領(lǐng)域的技術(shù)奇點(diǎn)，當(dāng)然這取決于領(lǐng)先的團(tuán)隊或國家的執(zhí)行力和效率。技術(shù)的進(jìn)步可能會出現(xiàn)奇點(diǎn),但是沒有人真正描繪過這條曲線。在解決圣彼得堡悖論的過程中,我發(fā)現(xiàn)了與此相關(guān)的一個現(xiàn)象。一條在對數(shù)圖表上是線性增加的曲線。對人類社會來說,這條曲線上可能存在一個特殊的點(diǎn),在沒達(dá)到奇點(diǎn)之前我們都會忽視它的影響，忽略事實(shí)上的指數(shù)級增長。但是一旦超過這個點(diǎn),每個人都會感受到它指數(shù)級的速度,往往在我們能作出反應(yīng)之前就徹底擊穿我們的一切防御。技術(shù)進(jìn)步都是基于現(xiàn)有技術(shù)來實(shí)現(xiàn)的,而技術(shù)的加速本身就是一種疊加的效果。

奇點(diǎn)如何出現(xiàn)

現(xiàn)在的Q*或許還不足以讓人過度緊張,畢竟它現(xiàn)在只能做小學(xué)生水平的數(shù)學(xué)題,可能需要5-20年才能完成高中或研究生水平的題目。但是這也可能是最后的20年,人工智能的思維能力如果可以達(dá)到本科生或研究生水平,即使沒有自主意識,也可以完成人類下達(dá)的各類復(fù)雜任務(wù),那就會出現(xiàn)24小時不間斷工作的研究員。

一個國家如果有全世界最大量的工程師以及每年大量的工程師畢業(yè)生,那么這個國家一定會成為科研和工業(yè)強(qiáng)國。而人工智能技術(shù)很可能會改變這一趨勢,至少可以極大地延緩這一過程。因為研究員或者工程師的獲取途徑發(fā)生了重大的變化。

GPT-4目前是0.03美刀1千個輸出token。假設(shè)每秒輸出5個token，一天8小時連續(xù)輸出，總費(fèi)用不到5美元，對應(yīng)的是約15萬的token，大約是20萬字左右的文字結(jié)果。每個月20天計算，只需要100美元。這遠(yuǎn)低于聘請1個研究生的成本。雖然單個GT模型的思維能力顯然還無法與人類匹配,但多個GT模型的系統(tǒng)性集成很可能可以與人類媲美。并且GPT模型對于任何問題的回答都可以用秒來衡量，其工作效率遠(yuǎn)高于人類研究員，更不用說它可以24小時開機(jī)。擁有海量基礎(chǔ)研究人員同時對整個問題空間進(jìn)行有效的搜索遍歷，這對于加速研究進(jìn)度顯然有明確的幫助。

奇點(diǎn)并不是末日

技術(shù)奇點(diǎn)并不可怕。技術(shù)圈的人往往因為日常的思維習(xí)慣，往往會對于技術(shù)進(jìn)步的評估過于敏感。發(fā)現(xiàn)其他團(tuán)隊可能領(lǐng)先進(jìn)入技術(shù)奇點(diǎn)后就會有末日降臨的感覺。事實(shí)上并沒有那么可怕。畢竟并沒有真的出現(xiàn)AI意識將領(lǐng)的情況，只是大模型的迭代快了點(diǎn)，能力強(qiáng)了點(diǎn)。

互聯(lián)網(wǎng)應(yīng)該就是一個小型技術(shù)奇點(diǎn)。在20世紀(jì)90年代以前就已經(jīng)發(fā)展起來,美國當(dāng)時在信息化進(jìn)程上至少領(lǐng)先全球10多年。這對于克林頓時代的美國經(jīng)濟(jì)和技術(shù)發(fā)展的助力應(yīng)該占據(jù)了不小的貢獻(xiàn)權(quán)重，但是整體上并沒有出現(xiàn)技術(shù)領(lǐng)先者無限制拉開技術(shù)差距的結(jié)果。

再以超算為例，按照2023年6月的數(shù)據(jù)，中國超算排名第7的機(jī)器，動用了1千多萬個CPU核心，150兆瓦特功率，獲得93PFlop/s的成績。而世界第一的機(jī)器使用8千7百萬個核心，227兆瓦特，獲得1200PFlop/s的成績。無論從但核心能力還是單位能耗，甚至整體性能來說，中國都顯然靠后。但是只要不是最強(qiáng)大的那臺機(jī)器能做到其他機(jī)器做不到的事情，排名靠后的無非是速度慢點(diǎn)而已。并且全球不僅僅只有那500臺機(jī)器，整個中國的超算中心，全球所有大型機(jī)中型機(jī)份額中國在數(shù)量上依然是占有不低的份額的。

單一技術(shù)往往不會形成生產(chǎn)力，而是要靠工程化的方法形成效率工具。正如同這次Q*那樣，即使不使用GPT4，用文心一言同樣可以復(fù)現(xiàn)對應(yīng)架構(gòu)的能力。即便最終性能可能沒有那么強(qiáng)大，但是對于研究和應(yīng)用來說，并不存在不可逾越的鴻溝。

未完待續(xù)

最后,我們繼續(xù)開放思考。即使人工智能模型已經(jīng)達(dá)到邏輯思維水平,我們依然沒有解決其在生物學(xué)領(lǐng)域存在第一動力假說的問題,即生命的生存和繁衍是根本的驅(qū)動力。大多人同意這個理論,但如何在實(shí)踐中創(chuàng)造可能產(chǎn)生自我意識的AI模型還沒有明確討論。讓我們繼續(xù)進(jìn)行我們的思維實(shí)現(xiàn)，探討人工智能的自主意識之旅