在人類的口述傳統和古代文獻中彌漫著這樣一種主題：一場巨浪或洪水席卷一切，隨之而來的是世界的重塑和重生。這些巨浪的力量已經深深地烙印在我們的集體意識之中，它們似乎勢不可擋、無法駕馭、難以遏制。技術的崛起與傳播一直以改變世界的浪潮之姿出現。目前，人類社會正在經歷著新一次的技術浪潮，這場浪潮由人工智能和合成生物學兩大核心技術所定義。它們將共同開啟人類的新黎明，創造出前所未有的繁榮和富足；但它們的迅速擴散帶來了不可忽視的威脅，當技術的使用成本足夠低時，可能會使得各種惡意行為者有能力在難以想象的范圍和規模上制造混亂、動蕩、甚至災難。
任何事情都具有多面性，技術也不例外。微軟人工智能CEO、DeepMind聯合創始人穆斯塔法·蘇萊曼（Mustafa Suleyman）和作家、數字出版人邁克爾·巴斯卡爾（Michael Bhaskar）合著的《浪潮將至：技術、權力與未來的沖擊》深入探討了人工智能為人類社會帶來的巨大好處背后所隱藏的威脅與挑戰。人工智能所帶來的積極影響正在逐步凸顯，但其潛在的破壞性也若隱若現，而且有些已經變為現實。作者認為，這是一本關于技術失敗以及如何遏制技術失敗的書，技術失敗可以指普通意義上的技術故障，但在本書中，技術失敗是指技術背離了初衷和承諾，對人類社會產生了非常嚴重的負面影響。例如，在人工智能和合成生物學的助力下，很快就可能有人制造出比自然界中的任何病原體都更具傳染性和致命性的新型病原體，這些合成病原體可以規避人類已知的對策，以無癥狀的方式傳播，或具有對抗治療的內置能力。一個人就可能具有威脅很多人生命的能力，而他所需要的僅僅是一個動機。
人工智能與合成生物學技術浪潮
人工智能并不是一個新概念，早在1956年由美國部分計算機科學家編撰的《達特茅斯人工智能夏季研究項目提案》就已經提出“人工智能”這一術語，這份提案呼吁舉辦一次非正式的研討會，探討如何通過計算機編程來完成類似人類的推理、感知和知識概括等活動。彼時，人工智能更像是一個遙遠的愿景，而非一個可以馬上實現的概念。以計算機視覺為例，盡管多年來人類一直努力讓計算機識別物體和場景，但實際進步遠未達到預期。在人工智能概念提出之后的半個世紀里，其發展進程更多是在蹣跚之中探索，在不斷積累量變。直到以AlphGo和ChatGPT為代表的模型橫空出世，才意味著人工智能發展實現了質的飛躍，也預示著人工智能走上了快車道。如果說在5年之前有人還對人工智能的發展前景持疑慮態度，那么現在這種態度應該煙消云散了，現在要思考的是如何趕上人工智能這趟高速列車。目前，人工智能技術的應用已經深入到了各個領域，我認真觀察了一下，我現在寫作所用的這款軟件就有AI幫我寫、幫我改等功能。
此次技術浪潮中另外一個核心技術就是合成生物學。在我們所生活和居住的這顆星球上，至少到現在為止，生命都是以緩慢、自主、無序的方式悄然進化。曾經，適者生存主導了生命的演化，但這種狀況正在發生改變。生物學的神秘面紗逐漸被揭開，蛻變為一種強大的工具。生命的故事瞬間被重寫，進化的步伐突然加速。在DNA測序和解碼技術的加持下，科學家可以創造出全新的DNA鏈，從而實現對生命的改造。人類通過有針對性的干預，將生命數千萬年的緩慢進化歷程壓縮并簡化。
人工智能和合成生物學兩股浪潮洶涌匯聚，形成前所未有的巨浪。在某種程度上，人工智能與合成生物學甚至可以互換概念。畢竟，迄今為止所有的智能都源于生命。稱之為合成智能或人工生命，其本質并無二致，這兩個領域都致力于重新創造、設計這些基礎且相互關聯的概念，它們是人類兩大核心屬性的體現。換個角度看，它們其實是一個整體。
人工智能技術浪潮的四個特征
每一次大的技術浪潮都具有獨特的特征。以鐵路為例，鐵路縮小了空間距離，降低了運輸成本，給經濟社會發展帶來了非常大的正面效應，但由于鐵路投資巨大，所以鐵路這種技術只有國家或大型企業才可以進行投資，普通人只能被動地享受鐵路帶來的便利。對于普通人來說，鐵路的影響是對稱的。人工智能浪潮也具有一些與以往技術浪潮不同的特性，作者在書中指出，人工智能浪潮具有四個固有特征：
首先是技術的高度非對稱性。非對稱性是指你與對方不必力量相當、規模相當，即使雙方對比懸殊。技術使那些看似強大的勢力暴露出以前難以想象的弱點和破綻。例如，大炮的出現意味著一小隊力量就可以摧毀城堡，消滅整支軍隊；蒸汽動力的出現使得單個工廠的生產能力可以匹敵整個城鎮。非對稱性可能意味著權力或能力的大規模轉移，從傳統的國家或大型企業轉向任何有能力且有意愿部署和使用這些技術的個體或組織。例如，一次病原體實驗就能觸發全球大流行病；一個人工智能程序就可以撰寫出與人類所有文本作品規模相匹敵的巨量文字；上述兩種情形并不需要多大的投入，較少的幾個人甚至一個人就可以實現。
其次是技術的超級進化性。在之前的技術發展進程中，有些技術可以產生非常大的影響，但進化或改進速度較慢。以汽車為例，汽車發明至今已經超過一個世紀了，但汽車技術的進展較為緩慢，現在的汽車與100年前的汽車并沒有本質的不同，只是在舒適性上有了很大進步。汽車較為緩慢的發展進程也給人們足夠的時間來引入各種安全標準，控制其負面影響。人工智能技術的發展卻具有超級進化性，近兩年的經驗顯示，人工智能的發展速度已經超乎了人類的想象，不斷刷新我們對這一技術的認識。說是認識，實際上大多數人已經不太能很好地認識這一技術的發展了。這帶來一種尷尬的情況，我們甚至還不太理解人工智能新的發展，更何談遏制其負面效應。
再次是技術的通用性。通用性是指一種技術可以在多個領域應用。電力、互聯網就是通用技術的很好例子。人工智能也是一種通用技術，可以應用在經濟、金融、醫療、軍事等很多方面。這也意味著，相較于那些受限的、單一任務的技術，管控人工智能的難度將與日俱增。
最后是技術的自主性。迄今為止，持續的人類參與、監督與管理一直是技術運行的默認模式，技術在不同程度上始終受到人類的控制，而完全的自主性則在本質上與之前的技術截然不同。人工智能的一個突出特點就是自主性，持續的人為干預和監督將變得越發不必要，甚至人類并不理解人工智能的決策過程。實際上，人工智能技術的每一次進步，都實現了更大的自主性。人工智能的自主性正持續挑戰人類的認知邊界，也使得人類無法預測自主系統的后續發展軌跡。
雖然作者沒有將另外一個特性，即快速擴散性，作為人工智能技術的第五個特征，但在書中對這個特點也進行了闡述。對于一般人來說，人工智能模型背后的技術較難理解，但其使用門檻并不高，尤其是以智能手機等設備作為媒介，很多人工智能程序在手機上就可以使用，這也決定了人工智能技術具有非常強的擴散性。實際上，正是擴散性導致了上面所說的高度非對稱性。當技術不斷擴散，越來越多的人能夠使用、修改，并按自己的喜好來塑造它時，就會觸及一連串錯綜復雜、難以預料的因果鏈條。
人工智能技術浪潮背后的驅動力
技術持續進步的驅動力來自那些原始的、與人性緊密相關的因素。只要人們有足夠的動力去研發和應用技術，技術便會應運而生。作者認為，驅動人工智能技術浪潮的因素主要有三方面：一是大國競爭；二是源于現有的研究生態系統；三是巨大的經濟利益。
從大國競爭來看，技術是“國之重器”，是某些國家能夠領先于世界的關鍵因素，這幾乎是每個國家都信奉的原則。誰擁有先進的技術，對國際秩序和國際競爭至關重要。當前，技術已經成為一個國家最重要的戰略資產之一，21世紀的大國競爭本質上是關于技術優勢的較量，誰能掌控這次人工智能技術浪潮，誰就能在未來的國際競爭中占據先機，這幾乎是各國決策者公認的事實。
從現有的研究生態系統來看，純粹的好奇心、對真理的追求、開放的精神，以及以證據為基礎的同行評審，這些要素共同構成了科學技術研究的核心價值觀。其中，人類對真理的追求或者說好奇心發揮著重要作用。以曼哈頓計劃（即美國利用核裂變來研制原子彈的計劃）的兩位參與者為例，羅伯特·奧本海默曾說：“當你面對技術上十分美妙的東西時，你會義無反顧地研究它，只有在取得技術成功之后，你才會考慮拿它來做什么。”奧本海默的同事約翰·馮·諾伊曼也指出：“我們正在創造的東西是個怪物，它將改變歷史——假如還有歷史留存的話。但無論后果多么可怕，我們都不能不去探索它，這不僅是因為軍事需要，更是因為從科學家的角度來看，知道某條路徑可行卻不去探索，是違背科學道德的。”
從經濟利益來看，利潤是人工智能浪潮最持久、最根深蒂固、最強大的驅動力。在技術發展史上，偶然性發揮著非常重要的作用，但拋開偶然性不談，有目的的研發基本上都受利潤動機驅使。人類需求、欲望的多樣性和非饜足性，以及由此產生的無數商機，是推動人工智能技術進步的核心力量，利潤動機也必將在未來持續推動人工智能技術的發展及走向。
人工智能浪潮所帶來的威脅
任何一項技術都應該是為了放大人類的優點，而不是尋找人類的弱點并借此對其進行攻擊。斯坦福大學計算機科學教授、著名人工智能專家李飛飛在其自傳體著作《我看見的世界》一書中也提到了對于人工智能無序發展的擔憂，她指出：“新一代人工智能所能做的一切，無論是好是壞，無論是在預期之內，還是在預期之外，都因其設計本身缺乏透明度而變得復雜……由此帶來的后果特別令人擔憂，即一種被稱為‘對抗攻擊’（adversarial attack）的新型威脅。在對抗攻擊中，輸入內容的唯一目的是迷惑機器學習算法，以達到反直覺甚至破壞性目的。”
實際上，可以從三個方面來看待人工智能的負面效應。首先，在利用人工智能積極作用時所帶來的副作用，這個副作用只能由使用者做好自我控制，趨利避害。其次，人工智能對人類智能形成替代，導致特定人群失業，沖擊現有就業秩序。再次，是從惡意的角度來使用人工智能，這就涉及如何推動技術向善，以及在技術發展中有效控制其脫離正軌的問題。
我們先來看一下第一個負面效應。以學術研究為例，人工智能技術在學術領域已經進行了廣泛應用，人工智能就如之前的搜索引擎，可以極大地提高研究效率。但這里面也存在一個邊界問題，利用人工智能協助研究在何種程度上是合適的？如果什么工作都讓人工智能來完成，那么對于研究者來說，其存在的意義將逐漸削減。尤其是完全依靠人工智能來完成論文寫作等任務，實際上就是學術造假。英國劍橋大學已經在2023年出臺了一份關于學術性的指導文件，文件指出，學生可以利用AI幫助進行某項研究，但不能利用AI代替自主思考以及將AI生成的內容直接用于論文寫作。包括我國很多高校在內的高等教育機構都已經對AI協助研究做出了類似的規定。這是人工智能帶來副作用的一個非常實際的例子。
人工智能帶來的另外一個負面效應就是對現有的就業秩序造成沖擊。現在的人工智能模型已經能夠在文字撰寫、文案構思、視頻生成、書籍翻譯等很多方面做得非常好，甚至超越人類了。隨著人工智能技術的進一步發展，可以想象，如果企業有意愿，上述幾項工作都可以由人工智能來完成，這就很可能產生結構性失業問題。從社會發展的角度來說，并不是所有利用技術代替人工都會產生合意的結果。就如李飛飛在書中所說：“在科學和工業領域，推動人工智能發展的動機是什么，這個問題非常重要。我認為這個動機必須明確地以人的利益為中心。”
還有一個極大的危害就是使用人工智能的目的就是造成混亂。最明顯的一個例子是將人工智能應用于軍事領域，并制造出一系列致命的軍事武器，這可能使恐怖分子的破壞力急劇提升。即使正常的國家將人工智能應用于軍事上，對抗形勢也會呈現出新的表現，并對世界帶來新的安全威脅。
遏制人工智能浪潮的負面效應
談到“遏制”這個詞，我們很容易想到1940年代美國的外交官喬治·凱南，他賦予了這個詞獨特的政治含義。1947年夏天，凱南在《外交》季刊發表了《蘇聯行為的根源》一文，文章指出，“美國對蘇聯的要旨在于，它必須是一種長期的、耐心而又堅定的、警覺地遏制蘇聯對外擴張的傾向。”
任何技術都有可能出錯，而且往往是以一種與初衷背道而馳的方式出錯。理解技術，在某種程度上就是要嘗試理解其意料之外的后果。遏制技術發展主要是指我們可以控制技術的發展速度，以及其所產生的負面影響，這樣社會就有足夠的時間和空間來適應和理解它。“遏制”是一種至關重要的能力，涵蓋了控制、限制以及必要時在技術的任何發展階段暫停技術的能力。例如，在GPT-4發布幾天后，鑒于人工智能研究和發展似乎陷入了失控狀態，數千名人工智能科學家聯名發表了一封公開信，呼吁最先進的人工智能模型研究暫停6個月；不久之后，意大利政府就決定禁止使用ChatGPT。
作者認為，技術遏制可以簡單分為三個層次：首先，第一個層次是指在實驗室或研發設施中進行的一系列操作，這個階段主要涉及研究人員和開發者。其次，技術遏制還涉及圍繞技術創造和傳播所形成的價值觀與文化，這些價值觀和文化支持技術邊界的設定、治理層級的構建，同時幫助我們警惕潛在的危害和意外后果。最后，技術遏制還包括國家和國際層面的法律機制，也就是對技術的監管。
在人類歷史進程中，對于任何事物，如果有負面影響，我們首先想到的是政府是否可以對其進行有效監管，甚至會將不良后果的責任歸咎于政府沒有做好監管。作者認為，在人工智能領域僅靠監管是不夠的。有幾方面原因：首先，監管一般涉及在多方利益之間進行權衡，任何形式的監管都錯綜復雜、困難重重。其次，即使是人工智能領域的技術專家和研究人員，也難以跟上技術變革的步伐，那么，對資源更為有限的監管機構來說，它們又有多少勝算呢？再次，技術發展日新月異，但出臺一部監管立法卻需要數月甚至數年時間，可以說，技術進步的速度是在“奔跑”，而監管卻在“蠕行”。從上述這幾個角度看，遏制人工智能的負面效應，僅僅依靠監管是無法做到的，需要多方共同付出極大的努力才能取得效果。
邁向遏制的十個關鍵步驟
我們有理由對科學的力量保持樂觀，但要安全、公平、可持續地利用這一力量，需要多方位建立一個確保技術安全的體系。在書中，作者構建了遏制人工智能負面影響的十個步驟，或者說是十項舉措，包括技術安全、審查、爭取時間、開發者、“利潤+使命”、政府監管、國際監管聯盟、文化、公眾的力量、整體協調等。
技術安全是指采取具體措施降低人工智能的潛在風險，并保持對技術走向的有效掌控。審核是指要確保技術的透明度和問責制，尤其是透明度，這是一個必選項，必須要有定義明確的途徑來審查新技術在開發過程中、代碼層面、實驗室、工廠或各類實際應用場景的情況。爭取時間是指利用技術命門（即關鍵的技術控制節點，如芯片生產者和關鍵企業）來放慢技術發展速度，從而為監管機構以及開發防御技術爭取一定的反應時間。開發者是指從事技術工作的人需要更加努力地解決人工智能所面臨的問題，構建正確的技術，掌握能夠改變技術進程的實用手段，積極地展示如何做出改變。“利潤+使命”是指企業在開發人工智能并獲得利潤的同時，也要關注社會責任和使命，企業在社會中生存和經營，除了追求利潤，還要關注獲得利潤的過程給社會帶來的影響。政府監管是指政府相關部門要投身于技術發展進程、技術標準制定以及內部能力的培養，在這次技術浪潮中，政府不能當旁觀者，而是要作為有力量的引導者和監管者。國際聯盟是指通過精心構建的聯盟和國際合作，合力遏制人工智能技術的破壞性影響。文化是指人工智能領域要逐漸形成一種遏制風險的審慎文化氛圍，特別是要坦誠一項新技術可能帶來的風險。公眾的力量是指需要公眾在各個層面的積極參與，包括對某項技術以及技術發展的各個環節施加必要的壓力，從而確保相關各方承擔相應的責任；當公眾共同要求變革，真正的改變就會發生。整體協調是確保上述九項措施能夠切實發揮作用。“遏制”是一個各項措施相互強化、形成良性循環的過程。通過精心構建并彼此銜接的反制措施，“遏制”會更加有力有效。
當然，上述十項措施只是作者的一家之言，具體到實踐之中，哪些措施可以實施、哪些措施有效還要具體觀察。但毋庸置疑的是，人工智能浪潮在重塑人類社會發展進程的同時，也帶來了迫在眉睫的挑戰。能否有效應對挑戰，決定了此次技術浪潮是否誤入歧途。
雖然這本書的名字是“浪潮將至”，但實際上浪潮已至！我們正處于這浪潮之中，對于很多人來說，現在的感受似乎更多是這個浪潮所帶來的心理沖擊和新奇，尤其是人工智能帶給我們非常大的便利，我們也傾向于忽略其缺陷。現階段，技術猶如一根誘人的“胡蘿卜”，我們要關注技術是否會由“胡蘿卜”變為“大棒”。在發明、應用技術的同時，更要注意其破壞性力量，確保技術能夠造福人類和我們所居住的星球。
孫樹強/文
