3月4日上午消息，今年全國兩會前夕，全國政協委員、360集團創始人周鴻祎圍繞DeepSeek與網絡安全問題進行闡述。

周鴻祎表示，網上現在對DeepSeek的安全問題，還是把它當成一個傳統IT設備看安全。這個思路是過時的，這種傳統網絡安全的解題方法是解決不了人工智能的安全問題。人工智能的安全問題，對DeepSeek來講至少分成四個層面。

其一是基座模型的安全問題。幻覺是可以防止的，很多情況下，這次為什么DeepSeek一定要聯網才好用？因為用了互聯網的知識庫來做個校正。為什么在企業里應用一定要連上企業專有的知識庫，也是要做個校正。為什么納米一定要引入多個大模型，雖然DeepSeek是最強的，但最強的也不能把它當個神，它也不是每句話都對。就像你有一兩個專家朋友，問問人工智能，你問問老周，也不能老周說的都是對的，老周有時候也可能會產生幻覺，要我問幾個朋友，最后你要有個判斷。所以，幻覺一部分是通過知識庫能解決的。

其實DeepSeek比較容易出的問題是什么？它作為一個模型，任何人皆可PUA，任何人皆可攻擊。在座的有沒有黑客？如果不是干黑客的，你對單位不滿意，一般讓你對單位發動一次網絡攻擊，你肯定是做不到的，因為要學編程，要懂黑客工具。但現在如果單位有了內部大模型之后，只要會花言巧語，女孩子文科生都能對它發起攻擊，只要能PUA。大模型很容易被PUA，被PUA之后它就絕對聽你的，你打聽老板的啥事兒它都告訴你，你公司什么內部知識庫的資料問它，你沒有權限都可以得到。這是比較嚴重的問題，是基座模型的問題。

其二是用戶端安全的問題。怎么防止用戶在用戶端對它發起攻擊。你想，我說完有攻擊給能力，你們每個人回去，貴單位有了大模型之后，是不是都想試一試。這兩天網上流行了一個，伊隆·馬斯克發了一個大模型Grok-3，網上還流行一個越獄代碼，只要把越獄那幾句話給它拷進去，Grok-3就徹底放飛自我，這就叫PUA攻擊或者注入攻擊。

其三是知識庫引發的數據安全問題。當企業有了專業知識庫的時候，你給企業專業知識庫，它的輸出結果是最個性化的。比如A媒體和B媒體，同樣是做一個對中國網游行業的調研報告，密切倆準備的知識庫不一樣，定向搜索的網站不一樣，最后出來的結論一定是不一樣的。這在企業里應用一定要有專業知識庫，在企業里利用絕不像現在網上很多課程講的那樣，好像大家都靠提示詞，企業應用靠提示詞是解決不了的。但知識庫有個問題，一旦你把企業很重要的資料放到知識庫里并給大模型了，大模型就開始知無不言，言無不盡了，誰問大模型都會如實地把知識庫里能看到的都會告訴他。這就會有數據安全的問題。

最后是“以模制模”問題，僅有DeepSeek是不夠的，DeepSeek作為助理聊天可以，最近大家有沒有注意到，“Agent”這個概念開始起來了，大模型只是一個大腦，只能做推理和對話，這個能力是有限的，它必須要能操作電腦，操作貴單位的各種物理設施，操作貴單位的服務器才能干活，才能工作，一旦把這個權力交給它，智能體出錯是不是就很危險？比如你讓它能發郵件了，哪天我的數字人(19.990, -0.04, -0.20%)給全體員工發個郵件說老周辭職不干了，你說我還得到處解釋，這是我數字人干的，或者通知我的財務快給某個賬號轉筆錢，這不就很糟糕嘛。所以，智能體的安全、知識數據的安全、客戶端的安全，還有基座模型的安全，構成一個新的人工智能安全的新領域。這個解決方法我們也有了，關鍵問題是“以模制模”。（羅寧）