今年7月，中央政治局召開會議，分析研究當前經(jīng)濟形勢，部署下半年經(jīng)濟工作。會議強調(diào)，要推動數(shù)字經(jīng)濟與先進制造業(yè)、現(xiàn)代服務(wù)業(yè)深度融合，促進人工智能安全發(fā)展。圍繞人工智能安全發(fā)展的一系列問題，學習時報高端智庫版組織了此次三方筆談。 

 

做好人工智能發(fā)展的風險防范

中國科學技術(shù)信息研究所黨委書記、所長 科技部新一代人工智能發(fā)展研究中心主任 趙志耘

 

　　當前，ChatGPT類大模型加速了數(shù)字世界和物理世界的深度融合，引領(lǐng)人工智能進入新的發(fā)展階段。與此同時，人工智能固有的不確定性、不透明性、難以解釋、事實性錯誤等能力局限，對經(jīng)濟發(fā)展、國際政治和全球治理等方面帶來深遠影響，引發(fā)了全球?qū)Υ竽Ｐ蛷V泛應用安全風險的熱議。如何應對人工智能風險并把握人工智能發(fā)展的戰(zhàn)略主動，有效保障國家安全，已成為我國國家安全治理的重要議題。

 

　　大模型技術(shù)引發(fā)新的安全風險和治理挑戰(zhàn)。隨著技術(shù)的更新迭代，人工智能的應用門檻持續(xù)降低，伴隨著誤用濫用情況的增加，經(jīng)濟社會領(lǐng)域的多重安全風險也在交織疊加。

 

　　一是放大隱私信息泄露風險。當前，人工智能開發(fā)者和服務(wù)提供者可能利用用戶數(shù)據(jù)進行優(yōu)化訓練，但相關(guān)服務(wù)條款卻并未對數(shù)據(jù)使用做出解釋說明，可能涉及在用戶不知情情況下收集個人信息、商業(yè)秘密等，安全風險較為突出。為保護個人信息安全，部分歐洲國家對大模型進行了嚴格監(jiān)管和審查，甚至考慮禁止ChatGPT等人工智能應用。

 

　　二是輿論引導與文化滲透風險。在輿論和文化領(lǐng)域，人工智能技術(shù)可被用于算法引導、平臺滲透、網(wǎng)絡(luò)監(jiān)控、內(nèi)容生成等信息處理環(huán)節(jié)，由大模型驅(qū)動的文本創(chuàng)作工具可能產(chǎn)生頗具影響力或說服力的信息，使得虛假信息不易被識破，負面輿情傳播速度加快，進而導致侵犯他人合法權(quán)益、擾亂經(jīng)濟秩序和社會秩序，甚至危害國家安全和社會公共利益。

 

　　三是情報軍事領(lǐng)域應用的新威脅。人工智能的自動生成代碼功能使黑客技術(shù)的習得過程更為容易，使網(wǎng)絡(luò)攻防的更新頻率大幅提升。利用ChatGPT類大模型可以幫助機器學習識別更加復雜的文本及實體，或?qū)U大無人軍用智能無人裝備的應用，增大軍事對峙摩擦，對國家安全帶來嚴峻挑戰(zhàn)。

 

　　加快推進人工智能安全治理。面對人工智能技術(shù)快速發(fā)展、風險持續(xù)蔓延的形勢，增強人工智能的安全性成為國際組織、各國政府及產(chǎn)業(yè)界等共同關(guān)注的議題。

 

　　我國高度重視人工智能安全問題，不斷加強人工智能發(fā)展的潛在風險研判和防范，建立健全人工智能安全治理體系，對人工智能技術(shù)本身所致的內(nèi)生安全、人工智能應用中的衍生安全以及影響和決定人工智能前景的發(fā)展安全問題進行系統(tǒng)性治理，確保人工智能安全、可靠、可控。

 

　　2017年，國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，對人工智能治理工作進行了專門部署，并要求建立人工智能安全監(jiān)管和評估體系。我國不斷完善數(shù)據(jù)安全、網(wǎng)絡(luò)安全、人工智能等相關(guān)法律制度建設(shè)，為新技術(shù)的快速應用奠定法律基礎(chǔ)。研究制定算法推薦、深度合成、生成式人工智能等領(lǐng)域的管理規(guī)定，對人工智能發(fā)展進行引導和規(guī)范，保障相關(guān)技術(shù)產(chǎn)品的有序發(fā)展。先后發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》《新一代人工智能倫理規(guī)范》，為人工智能技術(shù)的開發(fā)和應用設(shè)定道德約束，促使人工智能更好地服務(wù)于人類。此外，我國也積極參與全球人工智能治理，堅持倫理先行、和平利用、安全可控等治理原則，呼吁加強對人工智能軍事應用的監(jiān)管，以負責任的態(tài)度促進人工智能安全治理。

 

　　推動形成人工智能安全治理的強大合力。盡管已開展一系列治理行動，但人工智能安全治理還面臨諸多全球共性難題。人工智能技術(shù)目前并不具備較強的可解釋性、準確性和真實性，難以完全實現(xiàn)人工智能治理所倡導的透明度、可靠性和安全性。如何在創(chuàng)新發(fā)展和有效監(jiān)管之間取得平衡也是各國普遍面臨的問題。既要避免過度監(jiān)管阻礙技術(shù)發(fā)展，也要防止管理力度不夠而引發(fā)嚴重問題。

 

　　當前，人工智能影響下的國際科技、經(jīng)濟及政治領(lǐng)域發(fā)生沖突的可能性日益增大。我國正處在人工智能技術(shù)快速發(fā)展的階段，必須堅持貫徹總體國家安全觀，構(gòu)建多元參與、協(xié)同共治的人工智能治理機制，調(diào)動各主體參與治理的積極性，促進人工智能與經(jīng)濟社會健康有序融合，以高水平科技安全保障國家總體安全。一是建立健全人工智能安全治理機制。堅持審慎監(jiān)管、開放包容原則，強化風險研判和監(jiān)測預警，完善科技倫理審查和監(jiān)管制度。二是增強法治保障能力。加快推進人工智能立法，開展生成式人工智能、信息安全利用等法律問題研究，建立追溯和問責機制，清晰界定人工智能相關(guān)主體權(quán)利、義務(wù)及責任邊界，從而保障各類群體的合法權(quán)益。三是增強人工智能技術(shù)治理能力。強化人工智能數(shù)據(jù)安全、隱私保護等技術(shù)研發(fā)，強化對人工智能算法和模型的審計監(jiān)管和對人工智能系統(tǒng)安全性測試評估，增強抗系統(tǒng)性風險能力。四是增強國際安全合作能力。倡導以人為本、智能向善理念，在《中國關(guān)于規(guī)范人工智能軍事應用的立場文件》等基礎(chǔ)上，發(fā)揮聯(lián)合國、G20、上合組織等多邊機制的作用，拓展人工智能安全共識，避免人工智能濫用帶來的安全風險。

 

推進大模型賦能數(shù)智化應用健康發(fā)展

中國科學院自動化研究所副所長 曾大軍

 

　　近年來，大模型技術(shù)飛速發(fā)展，極大提升了全球人工智能技術(shù)發(fā)展和應用迭代速度，被認為是“邁向通用人工智能的里程碑技術(shù)”。面對新一輪大模型引領(lǐng)的人工智能變革，加快推進大模型賦能數(shù)智化應用健康發(fā)展具有重要意義。

作為最成功的一類大模型，大語言模型是一種包含大規(guī)模參數(shù)、使用大量文本數(shù)據(jù)訓練出來的深度學習模型，展現(xiàn)了大模型的能力和基本技術(shù)框架。目前，這一技術(shù)思路和框架已被用來處理圖像、視頻等多模態(tài)數(shù)據(jù)，并被推廣應用于機器人控制與智能決策等場景。各類大模型正處于迅猛發(fā)展之中，眾多高科技企業(yè)紛紛投身大模型建設(shè)，圍繞大模型已經(jīng)形成相對成熟的技術(shù)框架，但產(chǎn)品和生態(tài)尚在發(fā)展形成之中?？傮w而言，大模型的技術(shù)發(fā)展歷程相比以往任何人工智能技術(shù)都更迅猛，其影響力也是史無前例的。

 

　　大模型的“大”主要體現(xiàn)在3個方面，即模型參數(shù)規(guī)模大、訓練數(shù)據(jù)規(guī)模大和算力消耗需求大。模型參數(shù)方面，當前主流大模型的參數(shù)規(guī)模通常在千億甚至萬億級別，遠遠大于以往的各類深度學習模型。訓練數(shù)據(jù)方面，大模型在前期訓練階段和后期調(diào)優(yōu)階段都需要海量的數(shù)據(jù)支撐，例如引爆大模型范式的聊天機器人ChatGPT，預訓練數(shù)據(jù)量達到了45TB，其研發(fā)公司還在拉丁美洲等地區(qū)招募了約1000名員工，專門從事與大模型相關(guān)的訓練數(shù)據(jù)標注工作。算力需求方面，根據(jù)有關(guān)市場調(diào)查機構(gòu)估計，ChatGPT的運行需要上萬片最先進的圖形處理芯片同時工作，耗電量巨大。

 

　　大模型已經(jīng)展現(xiàn)出驚人的能力，基于大語言模型的聊天機器人是以人機對話為接口的高效信息獲取、智能處理和內(nèi)容生成工具，能夠?qū)崿F(xiàn)高質(zhì)量的信息整合、翻譯和簡單的問題求解與規(guī)劃。其受到全社會廣泛關(guān)注，主要是它已經(jīng)初步具備通用人工智能的部分特性，包括通順的自然語言生成、全領(lǐng)域的知識體系覆蓋、跨任務(wù)場景的通用處理模型、通暢的人機交互接口。當然，聊天機器人只是大模型的起點，大模型未來的發(fā)展趨勢也已初見端倪。

 

　　第一，大模型有望引領(lǐng)諸多行業(yè)的數(shù)智化創(chuàng)新發(fā)展。大模型的學習模式類似人類大腦，通過學習不同的數(shù)據(jù)，能夠形成多樣化的能力，不需要按照任務(wù)開發(fā)定制化的算法。通過自然的人機交互，智能化地解決復雜問題和實現(xiàn)輔助決策，推動各行業(yè)體系變革和生態(tài)發(fā)展。例如，未來的信息系統(tǒng)可以由領(lǐng)域用戶通過與大模型的交互直接搭建和維護，“用戶即程序員”，顛覆信息系統(tǒng)研發(fā)和應用范式。

 

　　第二，領(lǐng)域?qū)Ｓ煤洼p量化大模型是當前技術(shù)研究的重點。大模型雖然已經(jīng)展現(xiàn)出諸多優(yōu)勢，但依然存在可靠性差、訓練數(shù)據(jù)依賴、因果推理能力弱、搭建成本高等短板，在部分領(lǐng)域深度應用上的表現(xiàn)弱于專用小模型。為了更充分地發(fā)揮大模型優(yōu)勢，金融、教育、醫(yī)療等領(lǐng)域?qū)Ｓ么竽Ｐ鸵讶〉昧穗A段性成果，有望促進各項專業(yè)能力的涌現(xiàn)。

 

　　第三，大模型有望發(fā)展成為更加通用的人工智能。大模型起步于文本信息處理，現(xiàn)已涵蓋圖片、音視頻等多模態(tài)數(shù)據(jù)。在不久的將來，大模型將超越信息域，結(jié)合硬件設(shè)施，發(fā)展成為與物理和人類世界互動的具象智能，逐步縮小與真正的“通用人工智能”的差距。

 

　　雖然大模型展現(xiàn)的能力已經(jīng)讓全社會看到了通用人工智能的曙光，但當前大模型也有一定的局限性。一方面，由于大模型自身結(jié)構(gòu)和機制漏洞，有被惡意攻擊的風險；另一方面，大模型自身的知識表達和學習模式還存在缺陷，導致其回答中經(jīng)常出現(xiàn)“幻覺”，如常識性錯誤、杜撰內(nèi)容等。

 

　　推進大模型賦能數(shù)智化應用健康發(fā)展，應堅持規(guī)劃引領(lǐng)、需求帶動、應用導向、安全為基，引導、扶持和監(jiān)督大模型在更廣泛的領(lǐng)域應用中長計遠慮、扎實落地、穩(wěn)步推進。

 

　　首先，掌握技術(shù)主動權(quán)，加快自主可控的國產(chǎn)大模型全鏈條建設(shè)。依托我國現(xiàn)有的人工智能人才基礎(chǔ)，構(gòu)建面向大模型與通用人工智能技術(shù)的平臺和隊伍。加大芯片、大數(shù)據(jù)、人工智能等產(chǎn)業(yè)的投入與整合力度，保障“海量數(shù)據(jù)”“頂尖人才”“算力支撐”的落地，推進我國全階段自主可控大模型建設(shè)，掌握大模型技術(shù)發(fā)展的主動權(quán)和話語權(quán)。大力支持國產(chǎn)大模型的下游技術(shù)攻關(guān)和產(chǎn)品推廣，促進國產(chǎn)大模型產(chǎn)品的應用落地和迭代升級。

 

　　其次，深化大模型應用生態(tài)建設(shè)，構(gòu)建“通用大模型+專用小模型”的成熟應用生態(tài)。早在大模型產(chǎn)生之前，基于領(lǐng)域經(jīng)驗歸納和業(yè)務(wù)知識構(gòu)建的“小模型”已經(jīng)廣泛應用于各行業(yè)。應充分認識并應用好大模型和傳統(tǒng)小模型各自的特性，在推廣大模型產(chǎn)品的同時進一步推進小模型技術(shù)的升級和應用，發(fā)揮好小模型輕量級、高效率、善于解決特定問題的優(yōu)勢，逐步推進大小模型融合的應用生態(tài)。

 

　　最后，建立健全大模型安全審查制度與法律體系，從源頭規(guī)避大模型發(fā)展風險。推動建立行之有效的數(shù)據(jù)審查機制和接入許可規(guī)范，從源頭把控大模型內(nèi)容安全性，并主動參與全球人工智能模型使用規(guī)范的標準制定。同時，對于大模型可能產(chǎn)生的風險進行合理評估與審核，如歧視、仇恨言論、私人信息泄露、虛假信息、協(xié)助犯罪等。

 

鍛長補短 打造人工智能產(chǎn)業(yè)新優(yōu)勢

安徽省合肥市人大常委會副主任，合肥高新區(qū)黨工委書記、管委會主任 宋道軍

 

　　隨著國內(nèi)外大模型相繼發(fā)布，全球掀起了人工智能發(fā)展新浪潮，開啟了通用人工智能賦能千行百業(yè)的路徑，引領(lǐng)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展。我國人工智能發(fā)展在產(chǎn)業(yè)規(guī)模、應用場景等方面具有一定競爭優(yōu)勢，但算法、算力、數(shù)據(jù)和安全方面存在明顯短板。

近年來，合肥充分發(fā)揮人才、科創(chuàng)和產(chǎn)業(yè)融合發(fā)展優(yōu)勢，堅持創(chuàng)新驅(qū)動、平臺支撐、開放共享、生態(tài)賦能，人工智能創(chuàng)新能力領(lǐng)先、產(chǎn)業(yè)聚鏈成群、綜合實力躋身全國前列。接下來，推進人工智能安全發(fā)展，將以創(chuàng)新引領(lǐng)、鍛長補短為主線，全力打造國內(nèi)領(lǐng)先、國際一流的人工智能創(chuàng)新策源、要素供給、場景應用和安全治理高地。

 

　　打造創(chuàng)新策源高地，迸發(fā)產(chǎn)業(yè)動能。我國人工智能領(lǐng)域核心技術(shù)創(chuàng)新較少，大模型研發(fā)所用的算法及相關(guān)核心技術(shù)絕大部分仍來自國外，國內(nèi)自研訓練工具與國際主流相比仍存在一定差距，需在技術(shù)創(chuàng)新上取得新突破，打造產(chǎn)業(yè)發(fā)展核心動力和競爭力。一是不斷集聚和依托來自中國科大、國家實驗室、綜合性國家科學中心等戰(zhàn)略科技力量的人工智能高能級創(chuàng)新平臺和高層次領(lǐng)軍人才團隊，聚焦基礎(chǔ)理論研究、關(guān)鍵核心技術(shù)、核心支撐部件等領(lǐng)域，推動核心算法、GPU芯片、云計算等關(guān)鍵技術(shù)突破，構(gòu)建自主可控大模型技術(shù)體系。二是推動類腦智能技術(shù)突破，研究神經(jīng)網(wǎng)絡(luò)學習、知識推理等創(chuàng)新計算模型和方法，構(gòu)建新的通用人工智能發(fā)展路徑。三是推動量子計算技術(shù)研發(fā)，突破量子比特操控、量子模擬加速、量子編譯等核心技術(shù)，推動量子計算商用進程。

 

　　打造要素供給高地，強化產(chǎn)業(yè)支撐。我國智能算力基礎(chǔ)薄弱，GPU芯片面臨“卡脖子”難題，可用于人工智能計算的智能算力嚴重不足，分布分散且異構(gòu)嚴重，統(tǒng)一調(diào)度難度大，缺乏大規(guī)模公益性開放算力平臺；訓練數(shù)據(jù)供給不足，中文語音、詞匯和語法多樣復雜，數(shù)據(jù)量雖大但數(shù)據(jù)質(zhì)量參差不齊，數(shù)據(jù)清洗和數(shù)據(jù)標注難度較高，需在算力和數(shù)據(jù)支撐上開展統(tǒng)籌建設(shè)和有效積累。一是支持相關(guān)龍頭企業(yè)聯(lián)合攻關(guān)，構(gòu)建千P智能算力集群，實現(xiàn)國產(chǎn)算力訓練性能完全對標國際領(lǐng)先企業(yè)，突破大模型訓練算力底座的“卡脖子”難題。二是推動大規(guī)模高質(zhì)量多渠道數(shù)據(jù)資源獲取、無監(jiān)督預訓練數(shù)據(jù)清洗、人機協(xié)同的多模態(tài)眾包數(shù)據(jù)標注平臺研發(fā)，構(gòu)建100TB以上超大規(guī)模多模態(tài)多語種數(shù)據(jù)資源，爭創(chuàng)國家級數(shù)據(jù)訓練基地。三是推動國產(chǎn)GPU、自然語言處理、數(shù)據(jù)挖掘、深度學習等領(lǐng)域企業(yè)集聚，構(gòu)建自主可控產(chǎn)業(yè)鏈體系。

 

　　打造場景應用高地，提升產(chǎn)業(yè)能級。龐大人口基數(shù)產(chǎn)生的海量數(shù)據(jù)和背后的巨大市場需求，是我國人工智能產(chǎn)業(yè)發(fā)展得天獨厚的優(yōu)勢，需加速全時全域場景探索應用。一是推動“科研探索+”應用示范，充分發(fā)揮人工智能技術(shù)在文獻數(shù)據(jù)獲取、實驗預測、結(jié)果分析等方面的作用，支持域內(nèi)高校院所與人工智能企業(yè)聯(lián)合設(shè)立科研合作專項，研發(fā)科學智能計算模型，充分挖掘分析實驗數(shù)據(jù)，學習、模擬、預測和發(fā)現(xiàn)各種現(xiàn)象與科學規(guī)律，爭取在量子信息、可控核聚變、深空探測等領(lǐng)域?qū)崿F(xiàn)創(chuàng)新突破。二是推動“千行百業(yè)+”應用示范，推動國產(chǎn)大模型賦能地域聚力發(fā)展的產(chǎn)業(yè)地標，在相關(guān)重點產(chǎn)業(yè)開展大模型應用示范，推出新能源和智能網(wǎng)聯(lián)汽車、工業(yè)互聯(lián)網(wǎng)、智能家居等行業(yè)大模型，并形成一批可復制推廣的細分領(lǐng)域應用解決方案和標桿型示范應用案例。

 

　　打造安全治理高地，優(yōu)化產(chǎn)業(yè)環(huán)境。當前，我國人工智能安全監(jiān)管面臨一些挑戰(zhàn)。數(shù)據(jù)保護方面，用戶信息泄露和濫用涉及的網(wǎng)絡(luò)和數(shù)據(jù)安全技術(shù)有待突破，數(shù)據(jù)保護相關(guān)法律制度不完善；算法安全方面，對算法偏見、算法設(shè)計公正性和普適性的監(jiān)管仍存在不足，需堅持統(tǒng)籌發(fā)展和安全，加強風險防控。一是高水平、高標準建設(shè)“中國（合肥）安全谷”，爭取在AI大模型網(wǎng)絡(luò)、數(shù)據(jù)安全、算法安全、云安全等關(guān)鍵技術(shù)領(lǐng)域取得重大突破，形成一批具有全國競爭力的網(wǎng)絡(luò)與數(shù)據(jù)安全核心產(chǎn)品和解決方案，全面提升網(wǎng)絡(luò)和數(shù)據(jù)安全防護能力。二是完善風險防控和處置機制，遵守人工智能發(fā)展有關(guān)法律法規(guī)、倫理規(guī)范和技術(shù)標準，實行設(shè)計問責和應用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，防范和打擊數(shù)據(jù)濫用、侵犯用戶隱私等行為。

 

　　總之，打造人工智能產(chǎn)業(yè)新優(yōu)勢，需在技術(shù)、要素、場景和安全等多方面充分整合調(diào)度資源，各方合力推進。國家層面應重點支持大模型領(lǐng)域重大研發(fā)攻關(guān)項目，適度超前布局綠色智能的多層次算力設(shè)施體系，加強數(shù)據(jù)標準體系建設(shè)和完善數(shù)據(jù)交易機制，加快制定人工智能安全領(lǐng)域標準規(guī)范，鼓勵地方和企業(yè)積極探索創(chuàng)新通用人工智能場景應用，推動我國人工智能產(chǎn)業(yè)發(fā)展形成新優(yōu)勢、取得新進步。

 

原標題：人工智能如何發(fā)展更安全
學習時報
責任編輯：鄭繼民
頁面編輯：蘇偉