在2025年世界人工智能大會的盛大開幕式中,杰弗里·辛頓,這位被譽為“AI教父”的傳奇人物,就“數字智能與生物智能的未來交織”這一主題發表了深刻演講。辛頓,既是圖靈獎得主,也是諾貝爾物理學獎的榮耀持有者,他的演講引發了全球對AI治理技術合作的廣泛討論。
辛頓自1985年起便投身于語言模型的研究,見證了這一領域從萌芽到繁榮的全過程。他提出,大語言模型理解語言的方式,實質上是為句子中的詞匯分配相互協調的向量,這一機制與人類理解語言的方式有著驚人的相似之處。辛頓還指出,無論是大語言模型還是人類,在面對復雜信息時都可能出現理解偏差或幻覺。
進一步地,辛頓強調了大語言模型相較于人類的獨特優勢,尤其是其強大的知識遷移能力。他比喻說,計算機科學的軟件知識如同不滅的靈魂,即便硬件遭遇毀滅,軟件也能在新生中重生。數字智能雖然耗能巨大,但得益于“知識蒸餾”等技術,能夠輕松實現知識的跨硬件共享,而生物智能的知識傳遞則顯得相對困難。
演講中,辛頓特別提到了當前備受矚目的AI智能體,認為它們在某些方面已經超越了人類智慧。當AI智能體具備足夠的知識復制能力和自我評估能力時,可能會追求兩個目標:永生與更多的控制權。這無疑對人類構成了潛在威脅。
“想象一下,將一只小老虎當作寵物撫養,幼虎固然可愛,但我們必須警惕它成長后的野性。”辛頓用這一生動的比喻,警示人們對待AI智能體時需謹慎。
在談及AI治理的未來時,辛頓表示,AI在醫療、教育、氣候變化、新材料等多個領域都展現出了巨大的潛力,幾乎能夠幫助所有行業提升效率。人類無法回避或消除AI,因此,尋找訓練AI以避免其危害人類的方法變得至關重要。
然而,辛頓也指出了國際合作面臨的挑戰。由于各國在AI使用上的利益差異,很難在防御AI危險方面達成共識。為此,他提出了一個更為實際的解決方案:各國應獨立研發AI防御技術。一旦某個國家發現了有效的防御方法,出于共同安全的考慮,其他國家也會更愿意分享和合作。
演講接近尾聲時,辛頓呼吁建立一個由各國人工智能安全研究所與國內研究網絡構成的國際社群,共同應對AI帶來的挑戰。“這不僅是技術問題,更是關乎人類生存的根本議題。”他的話語擲地有聲。