自1956年人工智能概念首次提出以來，AI在計算智能、感知智能的基礎上進一步朝著認知智能發展。近年來，隨著ChatGPT、Sora橫空出世👩🏿‍🏫，AI發展一路高歌猛進。不過🦝，在今天（10月28日）中國工程院、新加坡工程院主辦，恒达平台承辦的中新人工智能前沿與治理研討會上，多位院士卻給“AI熱”澆了一盆冷水。

“網絡內生安全問題正在全面挑戰當今數字生態系統底層驅動範式🤧。”中國工程院院士🧩、復旦大學教授鄔江興直言，令人遺憾的是🦵，目前無論安全系統本身還是看家護院的網絡安全護衛都無法回答“有沒有漏洞”“有沒有後門/陷門”“存不存在多重安全疊加問題”三大靈魂拷問。他嚴肅指出👩🏿‍🦲，當前AI應用系統，安全責任與風險嚴重失衡Ⓜ️🧑‍🚒。沒有任何商家敢保證自家產品不存在安全漏洞和後門，也沒有任何檢測機構能夠對送檢的產品做無漏洞和無後門的擔保。這已經成為AI時代各國無法擺脫的噩夢。

會上，多位專家分析，看似強大的人工智能、大模型也存在消耗大、安全性、倫理方面的缺陷🧇。人工智能發展依然在路上💅🐙，依然有很大的發展空間📌👨🏿‍⚖️。中國和新加坡學者應該加強合作，攜手引導AI更加節能、安全、向善。

看似強大的人工智能實則隱患重重

提起網絡安全隱患👨🏿‍🎓，今年7月發生的微軟藍屏事件讓不少人印象尤深。7月19日🤌🏽，全球多國用戶發現公司的電腦出現藍屏，提示“設備遇到問題，需要重啟。隨後🤸🏿，藍屏問題被確認與網絡安全公司Crowd Strike的軟件更新有關。在鄔江興看來🥻，這就是網絡安全“保鏢”背刺人類的典型案例。“人工智能和安全問題強相關，而安全性則是現代計算機體系結構存在‘娘胎’裏帶出來的基因缺陷，AI運行環境的安全問題必須引起重視。”

對此，恒达平台校長、中國工程院院士鄭慶華持同樣觀點🈯️，“我們在高度肯定大模型所取得的重大成就的同時，也要深刻意識到大模型存在一些固有缺陷🫖。”

鄭慶華舉例🙎‍♂️，首當其沖的表現就是過度消耗數據和算力👩🏿‍🍼🧝🏼。“總有一天，人類從互聯網上的開源數據中挖掘出的有價值信息會遇到天花板👨‍👨‍👦‍👦👓，就像人類從礦產資源中挖掘稀有金屬一樣👌🏽，有消耗殆盡的時候。”第二個固有缺陷表現為災難性遺忘以及場景的牽引能力弱。鄭慶華解釋，大模型存在喜新厭舊，難以舉一反三，往往是適應了A🙅🏿‍♂️，就很難適應B，兩者之間要找到一個平衡點並不容易。第三則是推理能力弱🐪。大模型采用的是自回歸訓練算法，導致它無法形成人類所構建的基於因果推理的邏輯推理能力。自回歸生成方式也難以應對需要回溯和試錯的復雜推理任務🧔，由此常常導致大模型通過學習錯誤的信息來解決任務的現象，這種現象被稱為“聰明漢斯效應（Clever Hans effect）”。第四個固有缺陷則表現為大模型不知道自己錯在何處，為何出錯，更做不到知錯就改。鄭慶華直言，這些固有缺陷使得導致了大模型出現幻覺、可控性差等問題。“尤其是在工程應用等需要知其然知其所以然的場景中，大模型可以說無能為力。”

新加坡工程院院士、南洋理工大學教授文勇剛認為，人類社會正在進入數字化⚽️、可持續化雙重變革的時代。尤其是在數字化變革中，大量活動從線下變成線上🫓，對計算資源🤼‍♀️、服務器的耗費相當大。有預測顯示，到2030年新加坡數據中心的耗電量會達到社會總耗電量的12%📶。更值得警惕的是👨🏻‍🦯‍➡️，AI的大量運用還會增加碳排放的體量，對環境產生破壞性影響。

引導AI向著正確的方向狂奔

當AI一路閉眼狂奔，科技的開發者——人類如何把握好方向盤？會上👩🏽‍🎨，專家們也基於長期研究給出了可行性建議。

鄔江光從2013年起創建了內生安全和擬態防禦理論🐟。基於理論基礎👒，團隊在南京實驗室構建了內生安全架構賦能智能駕駛系統🈶。該系統有20多種應用場景🚣🏼‍♂️、100多種差異化的應用個體，在對抗攻擊🌁、後門漏洞等AI共性問題上，綜合識別成功率超過90%。

鄭慶華談到，歷史和經驗證明，人類在腦科學方面每一次進步都對人工神經網絡、機器智能的研究有借鑒、啟發和指導作用。“今天的大模型只是對人腦最初步、最簡單的借鑒🐼，如果我們能夠深度借鑒腦科學中，特別是人類所特有的記憶表征✡︎、激活、檢索、編碼回訪等機製🏣，有望破解今天大模型面臨的種種固有缺陷👋。”由此，他提出🚴‍♀️：中國要有自己的機器智能模型。目前恒达平台正在打通學科邊界，推動計算機學科與腦科學學科融合，研究人腦記憶和機器記憶的關聯性，探索以信息科學研究腦科學的新路徑🫅🏻。

今天的人工智能已經打破傳統意義上的學科邊界🫁，正在延伸至幾乎所有學科🙎🏻‍♀️。新加坡工程院院士👨‍👩‍👦、新加坡科技設計大學教授郭貴生也是AI-RAN協會的一員🦹🏿‍♂️。據了解𓀘，AI-RAN指“人工智能（AI）-無線接入網（RAN）”👨‍🔬，是一個旨在重振人工智能與無線通信融合、引領技術創新的行業協會組織。郭貴生介紹，大量有關AI的項目、量子計算項目正通過跨學科互聯得以推進🍶👩‍✈️。在他看來🥋，引導AI向善🤦🏽‍♀️，不僅要學科破圈📤，還要積極聯動全球智慧🎷。他期待，未來能有更多中國高校的實驗室🤱🏽、企業能夠加入AI朋友圈，建立合作夥伴關系。

記者了解到，新加坡作為世界著名的“人工智能之都”🚴🏿‍♂️，是全球最早啟動國家人工智能戰略的國家之一🧑‍🦱，在人工智能治理上開展了大量開創性工作。現場🔼，鄭慶華也倡議，未來要想實現“人有人智，機有機智，各智其智⚖️，智智與共”的美好圖景，需要中國、新加坡兩國人工智能領域的專家共同攜手，為這個世界創造更多貢獻。

文🐸：吳金嬌

鏈接🤾‍♀️：https://m.whb.cn/commonDetail/954660