近日，北京大學人工智能研究院朱松純教授、朱毅鑫助理教授聯(lián)合北京通用人工智能研究院認知計算與常識推理實驗室范麗鳳等研究員，在CAAI?Artificial Intelligence Research期刊上發(fā)表綜述論文“Artificial Social Intelligence: A Comparative and Holistic View”，呼吁對人工社會智能（Artificial Social Intelligence，簡稱ASI）領域的關(guān)注。
ASI介紹圖
(相關(guān)資料圖)
近期，通用人工智能受到了廣泛關(guān)注，很多人認為通用人工智能的實現(xiàn)似乎近在眼前，然而這其中還有很多問題沒有得到解決，其中的一個關(guān)鍵挑戰(zhàn)就是人工社會智能（ASI）——除了對世界的物理理解，人類還擁有高度的社會智能，一種感知社會事件、推斷他人目標和意圖并促進社交互動的智能。這種社會智能是人類與最接近的靈長類親戚區(qū)分開來的關(guān)鍵特質(zhì)。然而，將這種獨特智能應用于人工智能領域是一項極具挑戰(zhàn)性的任務。
本綜述論文呼吁對人工社會智能領域的關(guān)注。綜述深入研究社會智能的認知機制，并探索如何將這些機制應用于人工智能領域，以創(chuàng)造更加智能、人性化的機器，邁向通用人工智能。
綜述截圖
本文工作圍繞著社會智能展開，探索人類獨特的社會認知能力，并將其應用于人工智能領域。具體地，本綜述從認知科學和計算建模兩個大的方面介紹了人工社會智能，包括社會感知、心智理論（ToM）和社會交互等子領域，并討論了研究人工社會智能的重要難點問題是什么、領域內(nèi)現(xiàn)有資源有哪些，以及未來發(fā)展趨勢是什么等關(guān)鍵問題。
社會智能是指人類在適應更為復雜的社會情境中所展現(xiàn)的社會認知能力。從進化的角度來看，社會智能的發(fā)展對于人類的適應至關(guān)重要。研究人類社會智能有助于我們設計具有人類特征的交互智能體。
社會智能具有密不可分的三方面——社會感知、心智理論和社會交互。
社會感知是指人類從輸入刺激中感知到其社會屬性（例如生命力、能動性等）的能力。影響社會感知的一個基本的因素是動力學結(jié)構(gòu)，人類可以從簡單幾何形狀的運動中感知出復雜的社會信息。社會感知能力可能處于人類感知和認知處理的交界，通過社會感知，基本的信號刺激被轉(zhuǎn)換成因果的、有生命的、甚至是有意圖的實體，從而有助于更高階更復雜的認知推理過程。
心智理論（Theory of Mind, ToM）是指能夠理解自己以及他人的心理狀態(tài)（包括情緒、信念、意圖、愿望等），并認識到不同個體的視角和心理認知可能不同的能力。它最早在心理學和認知科學中被研究，現(xiàn)在已輻射到人工智能領域。心智理論在多智能體和人機交互環(huán)境中尤為重要，因為每個智能體都要理解其他智能體的認知狀態(tài)才能更好地進行反應、完成交互和合作任務。
Sally-Anne測試是心智理論中的一個經(jīng)典實驗，通過研究兒童在認知發(fā)展早期是如何理解他人的信念和錯誤信念，來測試兒童的心智認知發(fā)展水平。在發(fā)展心理學研究中，心智理論的形成是早期童年最重要的發(fā)展里程碑之一。在嬰兒的第一年中，他們開始表現(xiàn)出注視追蹤行為，能夠?qū)⒆约汉退俗R別為能執(zhí)行有意識行動的智能體，并能夠通過主觀體驗環(huán)境來感知世界。在約14個月時，嬰兒開始通過移動獲取視覺信息，并能通過眼神來回檢查去確認其他智能體和自己看到了一樣的現(xiàn)實環(huán)境。大約14—18個月時，嬰兒開始通過眼神方向理解諸如愿望、意圖、情緒等認知狀態(tài)。到3—4歲，兒童開始理解自己與他人在信念和知識上的不同，因此開始理解虛假信念。但是，這種能力直到5—6歲才能完全穩(wěn)定下來。在發(fā)展后期，嬰兒才建立了第二階心智理論，即預測一個人對另一個人的思想或感受的想法，這涉及到更復雜的認知過程。
盡管有很多用來研究心智理論的方法，比如行為分析、神經(jīng)影像學和神經(jīng)信號分析等，但是我們亟需一個關(guān)于心智理論是什么、人類如何運用它，以及神經(jīng)系統(tǒng)對其功能有何貢獻的全景圖像。
社會交互是人類社會智能中的一個關(guān)鍵概念。在研究社會交互時，我們需要關(guān)注社交提示、現(xiàn)象、規(guī)則和機制等方面，這些方面可以為人工社會智能帶來更加復雜、類人化的交流和協(xié)作能力。社會提示是社會交互中一個非常重要的方面。一些重要的社會交互包括眼神交流（Gaze communication，通過眼神交流來傳達信息）、共同注意（Joint attention，兩個或多個人共同注意同一個物體或事件）、指涉（Pointing，用手或其他身體部位指向某個目標或位置）、合作（Cooperation，兩個或多個智能體協(xié)作以實現(xiàn)共同的目標或任務）。
2022年7月，北京大學人工智能研究院一項關(guān)于社會智能的研究成果《實時雙向人機價值對齊》“Bidirectional human-robot value alignment”發(fā)表在國際頂級學術(shù)期刊Science Robotics上，并被Science頭條報道。（詳細報道見：朱松純、朱毅鑫團隊研究成果登上Science頭條：AI賦能機器人、“讀懂”人類價值觀）
研究介紹
這項研究提出了一個基于即時雙向價值對齊模型的可解釋人工智能系統(tǒng)。在該系統(tǒng)中，一組機器人通過與人類的即時交互并通過人類的反饋來推斷人類用戶的價值目標，同時通過“解釋”將其決策過程傳達給用戶，讓用戶了解機器人做出判斷的價值依據(jù)。此外，該系統(tǒng)通過推測用戶的內(nèi)在價值偏好，并預測最佳的解釋方式，生成人類更容易理解的解釋。結(jié)果表明，該學習模型基于心智理論，可以在復雜協(xié)作任務中提高人機協(xié)作的效率，進而提升人機信賴關(guān)系，實現(xiàn)真正的自主智能。
綜述認為，人工社會智能（ASI） 相比于物理智能更具有挑戰(zhàn)性，其中一個很大的挑戰(zhàn)就是，它高度依賴于情境（context）。這里的情境可以是大到人群的文化背景和一般常識，也可以是小到兩個人的共同經(jīng)歷。這里舉一個例子：有兩個朋友A和B在圖書館外面看到一輛自行車，其中一個女生A指向自行車，而另一個女生B對于這個指涉動作背后意圖的理解取決于她們各自認知信念和共同信念的情境；如果兩個人都知道這個自行車是B的男朋友C的，那么A的意圖可能是說進圖書館去找C，而如果兩個人都知道B和C剛剛分手了，那A的意圖可能是說別去圖書館了。
論文舉例
現(xiàn)實環(huán)境是復雜的、充滿歧義的、隨機動態(tài)多變的，涉及到多智能體交互，且環(huán)境只是部分可觀察。這一挑戰(zhàn)使得一般的標準算法在解決人工社會智能問題時可能會遇到極大的問題。因此，實現(xiàn)人工社會智能（ASI）需要更為全面的方法，針對特定局部模塊進行改進，往往不能如愿提升ASI的整體性能。
多學科研究為人工社會智能（ASI）的實現(xiàn)提供了輔助和靈感，研究人類社會智能有助于我們深入了解開發(fā)具有類人特征的人工社會智能（ASI）所需的基本原理、綱要、參照系統(tǒng)以及測試基準。
綜述還提出，研究發(fā)展人工社會智能（ASI）最好的方法是全面、整體、系統(tǒng)地模仿人類與他人以及周圍環(huán)境的互動模式，讓模型像人類一樣進行多種方式的學習（如終身學習、多任務學習、單樣本/小樣本學習、元學習等），需要一個開放交互式環(huán)境，以及思考如何更好地將類人偏差引入到ASI模型中。
綜述表示，盡管人工智能研究取得了重大進展，但我們距離人類水平的智能還有很長的路要走。人工社會智能是實現(xiàn)通用人工智能的關(guān)鍵挑戰(zhàn)。我們需要將人工社會智能作為一個獨立的研究領域，鼓勵AI領域?qū)W者討論和研究這個大課題下的挑戰(zhàn)性問題，定義新的問題，創(chuàng)建新的環(huán)境和數(shù)據(jù)集，建立新的評價方式，并建立新的計算模型，做出更多理論和計算方面的開創(chuàng)性工作。最終目標是讓人工智能擁有高水平的社會智能，并借助人工社會智能提升人類福祉。
本文第一作者為范麗鳳，通訊作者為朱松純、朱毅鑫，其他合作者還包括徐滿杰（北京通用人工智能研究院、北京理工大學）、曹智昊（北京通用人工智能研究院、清華大學）。
（原標題：人工智能研究院朱松純教授、朱毅鑫助理教授在人工社會智能方向研究取得進展）
標簽：
