作為全國政協委員,360集團創始人周鴻祎今年第八年參加全國兩會。他關注的方向是人工智能和安全兩大主題。
周鴻祎認為,人工智能將重塑所有行業,企業應該從找場景、打造專業知識庫、打造智能體、接入辦公流程等四個方面擁抱人工智能。他呼吁,國家對大模型發展實行柔性監管,更加包容審慎。對于人工智能發展同步伴生的安全問題,周鴻祎認為,傳統網絡安全已經無法應對新挑戰,應由既懂安全又懂AI的企業牽頭,以模制模,通過打造安全大模型來解決大模型的應用安全問題。
企業擁抱AI“四步走”
在周鴻祎看來,人工智能將重塑所有行業,每個行業都能找到降本增效的地方;對個人來說,則可以擁有自己的專業助手。“過去我們軟件、APP經常是接收指令,完成一個功能。未來人工智能的模式,會像跟一個顧問一樣交流,傾訴問題,表達想法,通過多輪討論,幫個人找到答案或啟發。”
產業層面的改變會更大。他以醫療醫藥產業舉例分析說,醫院運營等傳統行業,人工智能可以通過加速數字化改造和智能化升級,來提升效率,比如使病人候診的時間縮短很多倍。生物制造等新興產業,用人工智能可以成為研究工具和范式。基因抗癌等領域則屬于AI for Science(科學智能),用大模型這種算法模式套到生物學里,變成生物學研究的工具。
“AI的應用范圍非常多,成為個人助理只用到它5%的功能;更重要的是和產業結合。”
周鴻祎建議,企業應該從四個方面擁抱人工智能。第一,找場景,需要大模型來解決效率低、成本高、體驗差的問題。第二,需要打造專業知識庫,在企業的數據庫里、老板的腦子里、大家的開會記錄里,都有很多隱藏的知識。第三,要打造智能體,比照數字員工。第四,通過企業的工作流軟件把智能體接到企業的OA辦公流程里,企業應用才能做起來。
今年春節期間,DeepSeek在全球異軍突起,成為了AI發展史上的重要里程碑。在周鴻祎看來,DeepSeek最大的成果不僅是讓中國大模型在技術上趕上了美國大模型,同時在中國用戶、企業和政府中做了一次人工智能的普及教育。由于DeepSeek免費、開源等特性,政府企業紛紛開始采用DeepSeek在內部降本增效,加速了中國爆發AI產業革命的步伐。
“DeepSeek對中國AI產業帶來最大的影響,是讓產業玩家各自歸位,否則大家一窩蜂地‘百模大戰’,等于都在造輪子。倘若都希望做通用大模型,都做AGI,誰的卡也不夠,誰的數據也不足。”周鴻祎說,如今,連騰訊、百度都宣布引入DeepSeek。DeepSeek做得好,就由它來做基座模型;其他廠商就不用重復造輪子,不用重復耗費算力;云服務商也不用自己開發算力,可以直接用DeepSeek做服務,而且價格可以做得很便宜,因為沒有研發成本。他判斷,未來很多小應用都會做起來。
周鴻祎呼吁,就像“避風港原則”曾帶給互聯網巨大的產業發展機會,國家對大模型發展實行柔性監管,更加包容審慎,這樣中國人工智能才能借助DeepSeek的機會實現更長遠的發展。
“以模制模”應對安全挑戰
今年兩會提案中,周鴻祎還關注到“硬幣的另一面”。
“DeepSeek作為基座模型,存在著幻覺、提示注入攻擊等問題。同時,大模型要在企業內部真正發揮作用,還需要連上企業的專業知識庫、打造智能體,調用企業各種IT系統,這進一步加劇了安全風險。”
當大模型滲透率提升時,應用安全問題也迫在眉睫。周鴻祎認為,網上現在對DeepSeek等大模型安全問題,還是當成一個傳統IT設備看待。這個思路是過時的,傳統網絡安全的解題方法解決不了人工智能的安全問題。
因此,他建議,應由既懂安全又懂AI的企業牽頭,以模制模,通過打造安全大模型來解決大模型的應用安全問題。
在周鴻祎看來,人工智能的安全問題包括多個層面。比如,基座模型的安全問題,是如何在AI領域防止幻覺。“DeepSeek用互聯網的知識庫來做校正、企業里應用連上專有知識庫校正等,一部分幻覺可以通過知識庫來解決。同時,大模型很容易被PUA,這是比較嚴重的問題,是基座模型的問題。”
再比如,大模型應用需要建立知識庫,尤其在企業應用,單靠提示詞是解決不了的。而一旦把企業很重要的資料放到知識庫里喂給大模型了,大模型又會如實地把知識庫里能看到的資料告訴任何人,這就會存在數據安全問題。
智能體的安全、知識數據的安全、客戶端的安全、基座模型的安全,構成人工智能安全的新領域。周鴻祎認為,解決的關鍵問題是“以模制模”——專門做安全大模型,用聰明的大模型智力能力去管理知識庫的使用,去管理智能體的調用,去管理基座模型的“胡說八道”和對人的“PUA攻擊”。
“幻覺是一把雙刃劍,是大模型具備真智能的體現,是走向AGI的基礎,它讓大模型體現出更多的創造性和想象力,能夠在科研領域發揮重要作用。”周鴻祎強調,大模型幻覺很難消除,但已經通過多個大模型交叉驗證、搜索矯正以及企業知識庫比對等方式進行了糾正。在大模型產業高速發展的過程中,不發展是最大的不安全,所以不能因為大模型的幻覺問題就因噎廢食。
讓技術轉化為新質生產力
“應該正確認識AI安全問題,不能夸大也不能忽視。”周鴻祎強調,不發展是最大的不安全,必須要抓住AI這次工業革命的機會,提升生產力,包括讓科技普惠在每個人身上。
對于網信安全產業競爭格局,周鴻祎表示,一直以來,我國安全行業內卷嚴重,很多廠商只是一味的賣硬件軟件,客戶也無法得到想要的安全服務,致使行業面臨普遍性經營困境,造成客戶和廠商雙輸的局面。同時,各種高級別攻擊日益嚴重,企業不只需要一個“安全盒子”,更需要高級網絡安全專家協助進行數據分析研判、數據追蹤及事件處置。
為了解決這個困境,周鴻祎認為,通過SaaS的方式來為更多企業提供安全服務,企業不僅可以直接體驗安全服務的效果,投入成本也降到了五分之一甚至十分之一。因此,周鴻祎在今年兩會上也會呼吁國家從政策上支持采購安全服務,特別是鼓勵采購SaaS化安全服務,實現安全的普惠。
“筑牢網絡安全根基,是為大模型發展鋪路;而解決AI應用安全與幻覺問題,則是讓技術真正轉化為新質生產力。”周鴻祎表示。
在記者采訪中,周鴻祎還談到了對360AI產品的未來規劃。
他介紹,自己一直都有危機感,搜索本來就是一個巨頭林立的賽道,公司要想辦法把納米AI搜索做得比DeepSeek好。“公司產品引入了DeepSeek以及國內其他16家一共50種模型,通過這些模型的協作,有的擅長改寫,有的擅長總結,有的擅長推理和分解任務。DeepSeek春節期間7天新增用戶級別以億計算,我們15天漲了2000萬手機用戶。現在PC端360的產品流量很大,我們會耐心地把PC上再轉出來至少上千萬用戶。有了很好的基礎之后,剩下的問題就是要仔細打磨用戶的體驗和把各種深度的工具做好。”