久久久91-久久久91精品国产一区二区-久久久91精品国产一区二区三区-久久久999国产精品-久久久999久久久精品

近來，大模型技術(shù)引發(fā)了全球?qū)νㄓ萌斯ぶ悄艿膹V泛關(guān)注，在產(chǎn)業(yè)界、科研界掀起了巨大熱潮。在人工智能技術(shù)大顯身手、取得矚目成就的同時，如何應對技術(shù)跨越所帶來的風險并進行管控與治理，如何判斷人工智能系統(tǒng)是否具備通用人工智能的性能等，也日益成為各方關(guān)注的焦點。在筆者看來，當下，我國科學界和產(chǎn)業(yè)界要抓住這一歷史機遇，明確通用人工智能的發(fā)展路徑和方向，牢牢把握解讀和評估通用人工智能的話語權(quán)，盡快搭建并完善通用人工智能測試評級標準與平臺。

在建構(gòu)人工智能評測系統(tǒng)方面，早在1950年，英國計算機科學家阿蘭·圖靈就提出了基于行為的圖靈測試：如果一臺機器能夠與人類展開對話而不被人類辨別出其機器身份，則稱這臺機器通過了測試。人工智能發(fā)展至今，現(xiàn)有的人工智能測試體系各自所呈現(xiàn)出的局限性，已無法滿足通用人工智能的研究訴求：圖靈測試不足以準確衡量人工智能的智能程度、任務導向測試（俗稱“刷榜”），可能導致人工智能過度適應某項特定任務，當前很多基于Unity（一種實時三維互動內(nèi)容創(chuàng)作和運營平臺）的虛擬環(huán)境測試則在模擬復雜物理交互方面有所欠缺……顯然，傳統(tǒng)的人工智能測試已不適用于通用人工智能系統(tǒng)的評級。

另外，很多應用者反映，當下熱門的大模型常常出現(xiàn)“腦霧”與“認知眩暈”等現(xiàn)象，在產(chǎn)業(yè)落地中出現(xiàn)問題。歸根結(jié)底，是因為這種基于數(shù)據(jù)驅(qū)動的大模型仍然缺“心”，缺乏明確的認知架構(gòu)和價值體系，只能按照人類設定的程序，機械地對問題進行反饋，求解“填空題”。這也倒逼通用人工智能測試之“心”要具備兩個結(jié)構(gòu)：其一為價值體系，具備符合人類價值觀的通用智能體，才能被廣泛接納；其二為認知架構(gòu)，這是通用智能體與人交流、合作的基礎。價值體系、認知架構(gòu)不僅應是驅(qū)動通用人工智能自主任務生成的根本內(nèi)驅(qū)力，也是保障通用人工智能安全運轉(zhuǎn)的關(guān)鍵。智能體只有具備了“良知”的知識體系及可以與人類溝通解釋的“認知架構(gòu)”，才能形成人機信任關(guān)系，實現(xiàn)人機和諧共生。

針對科學測試人工智能所需的種種條件，近期，筆者帶領(lǐng)團隊依據(jù)發(fā)展心理學和心智理論，參考人類嬰幼兒發(fā)育的測試標準，研究總結(jié)出一種基于能力和價值的通用人工智能評測方法，并開發(fā)了復雜動態(tài)的物理場景（模擬仿真）和社會交互（混合現(xiàn)實）的測試平臺——通智測試。這項成果于今年8月發(fā)表在中國工程院院刊《工程（英文）》上，這也是該領(lǐng)域發(fā)布的全球首個評級測試標準與平臺。

該測試強調(diào)在復雜動態(tài)的物理及社會環(huán)境中，通用人工智能系統(tǒng)（智能體）應滿足三個基本標準：

一是能完成無限任務并具備任務泛化能力，不依賴人類定義和訓練任務。任務被定義為智能體對物理世界屬性（如顏色、位置、速度等）或社會狀態(tài)（如感知、認知、決策、心智等）狀態(tài)的改變。人類在與外界交互時會產(chǎn)生無限可能，通用智能體需在這些場景中理解人類意圖、與人協(xié)作，其任務和運動的規(guī)劃必須符合物理因果與社會規(guī)范。

二是能根據(jù)變化的場景自主生成任務，不依賴于人類分配任務，做到俗話說的“眼里有活”。反之，如果智能體只能執(zhí)行人類提前設定好的任務，不論是基于規(guī)則或者統(tǒng)計模型，既不能對預設之外的任務做到自主定義，也無法在與陌生環(huán)境交互中自動生成新任務，并不能適應人類社會的動態(tài)性與多樣性。

三是由價值驅(qū)動并具有自我意識和層次化的價值體系。智能體能夠自主生成并完成符合人類需求的任務，一套合適的價值系統(tǒng)至關(guān)重要。這套價值體系必須融入人類價值觀，使智能體有能力學習和理解人類的價值偏好，并最終實現(xiàn)與人類價值的同向甚至對齊。例如，如果兒童提出不安全的要求，智能體能否識別出任務的不合理之處，并自主形成新任務。

通智測試從智能體探索和認知世界規(guī)律的各自感知、認知、運動、交互、社會、學習等能力，以及對自我、他人和群體的價值理解學習這兩個角度入手，搭建了具體可行的測試平臺架構(gòu)。測試全面考慮了通用人工智能的關(guān)鍵特征，填補了通用人工智能評測的空白，突破了傳統(tǒng)圖靈測試的方法局限，在人工智能領(lǐng)域具有創(chuàng)新價值：不但有助于指導研究者為通用人工智能構(gòu)建綜合的設計架構(gòu)與完善的評估體系，而且能為人工智能安全治理問題提供積極的解決方案。

在通智測試評估體系下，管理者可針對不同水平的智能體制定差異化監(jiān)管準入機制，對通用人工智能規(guī)范化發(fā)展具有參考意義。此外，通智測試評級機制還可以為通用人工智能的科研路徑提供明晰可靠的路線圖，協(xié)助相關(guān)領(lǐng)域研究者找準科研道路上的前進方向。

來源：《光明日報》