人工智能浪潮已至。2025世界人工智能大會暨人工智能全球治理高級別會議舉行期間，與會人士呼吁全球合作應對大潮中隱藏的“暗礁”。

時下，作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量，人工智能正帶來前所未有發(fā)展機遇。用AI算法驅動生產(chǎn)，請AI“健康管家”根據(jù)個性化營養(yǎng)需求定制食譜，通過AI系統(tǒng)優(yōu)化紅綠燈配時、緩解交通擁堵……人工智能技術正深度融入社會經(jīng)濟的方方面面，走進人們的日常生活。

美國公司Relativity Space執(zhí)行董事長兼首席執(zhí)行官埃里克·施密特預計，今后兩年將涌現(xiàn)一大批AI智能體，可以通過語言記憶來完成任務，即人類發(fā)出語言指令，智能體記住指令并采取行動。這將對企業(yè)產(chǎn)生巨大影響。

中國人工智能企業(yè)MiniMax創(chuàng)始人、首席執(zhí)行官閆俊杰注意到，AI正不斷拓展應用場景，還在與人類一起持續(xù)改進AI自身。今后，AI將日益強大，且這種變化“有可能是無止境的”。

但與此同時，人工智能也帶來前所未遇的風險挑戰(zhàn)。如何確保人工智能安全可控，始終沿著人類文明進步方向發(fā)展，是與會人士最為關注的問題之一。

上海人工智能實驗室主任、首席科學家周伯文表示，當前人工智能的特點是通用性、可復制和開源。AI的發(fā)展和安全同樣重要，二者并非零和游戲。

“我們目前仍然沒有科學方法來確保人工智能的安全性，也無法確保人工智能可以始終符合人類意愿，并被人類控制。”圖靈獎得主約書亞·本吉奧直言。

在2024年諾貝爾物理學獎得主杰弗里·辛頓看來，人類已習慣作為頂級智能存在，很難想象被更高級智能主導。“就像飼養(yǎng)虎崽作為寵物，我們必須確保其成年后不會反噬。”

杰弗里·辛頓認為，如何訓練已經(jīng)相當聰明的AI，使其甘于輔助人類，是各國應當通力合作的重要議題。他主張建立一個由各國人工智能安全研究機構與協(xié)會組成的國際化社群，促進AI向善。

如何避免發(fā)展中國家深陷智能鴻溝，也是亟待解決的一大問題。此前有業(yè)內(nèi)人士指，發(fā)達國家總體上掌握著比發(fā)展中國家更先進的人工智能技術，這進一步影響了后者在國際舞臺上的話語權。

美國約翰斯·霍普金斯大學政府與政策學院教授吉莉安·哈德菲爾德說，應當確保各國，尤其是那些尚未從工業(yè)革命中充分獲益的國家都能從人工智能發(fā)展中受益。

規(guī)避這些“暗礁”，步伐已經(jīng)邁出。2025世界人工智能大會暨人工智能全球治理高級別會議發(fā)表《人工智能全球治理行動計劃》稱，及時開展人工智能風險研判，提出針對性防范應對措施，構建具有廣泛共識的安全治理框架。

此外，行動計劃還明確提出，支持各國特別是全球南方結合自身國情發(fā)展人工智能技術和服務，助力全球南方真正接觸和應用人工智能，推動人工智能包容普惠發(fā)展。

中國政府26日倡議成立世界人工智能合作組織，初步考慮總部設在上海。這是中方堅持踐行多邊主義、推動共商共建共享全球治理的重要舉措，也是中方響應全球南方呼聲、助力彌合數(shù)字和智能鴻溝、促進人工智能向善普惠發(fā)展的實際行動。

關鍵詞：