為什麼國家會爆發衝突？是為了領土、聲望、歷史意義、宗教信仰、復仇，還是為了彌補感知到的不公正？雖然可以提出無數的理由，但其根本驅動力始終歸結為資源。缺乏足夠的資源——包括人力資本和有形資產——一個國家的潛力將受到嚴重限制。 本質上，這是關於經濟可行性的問題。
因此，各國必須保持警惕和積極主動。儘管一再發出警告，許多領導人似乎都專注於瑣碎的追求，就像尼祿在羅馬燃燒時拉小提琴一樣。我們生活在一個充滿固有缺陷的世界中，其特徵是深刻的不平等、廣泛的苦難和無數的悲劇。令人震驚的是，我們似乎正在夢遊般地走向一場迫在眉睫的災難。
考慮一下人工智慧 (AI) 領域的指數級發展速度。近來，創新步伐已大大加快。這種加速的一個重要催化劑是不斷升級的國際競爭。在 DeepSeek 出現之前，有一種普遍的觀念認為，潛在反烏托邦未來的到來比我們最初預期的要晚。
然而，DeepSeek 的到來，以及像 Manus 這樣的 AI 代理的出現以及對該行業投資的激增，已大大改變了格局。重要的是要記住，這僅僅是來自中國的報導。想想其他許多可能謹慎地從事人工智慧開發的國家、組織或非國家行為者。這意味著進展將始終快於人類最終可能建立的任何監管框架。此外，這些模型中的任何一個都可能發生危險的轉變。
我們仍在努力解決有關人工智慧潛在影響的基本問題。例如，人工智慧是否有可能取代所有現有工作？這種情況何時可能發生？圍繞這個主題的討論通常具有三個不同的回應特徵：理想主義的樂觀、不斷轉移的目標柱以及公然的虛偽。樂觀的觀點認為，如果機器接管了我們的工作，我們只需找到其他追求即可。轉移目標柱包括不斷提高人工智慧的能力，從圖靈測試到人工通用智慧 (AGI) 的概念，然後到奇異點的抽象概念，最終到人工超級智慧 (ASI)。當所有這些里程碑都實現後，我們逐漸將批判性思維能力讓給機器時，我們可能會發明更多瑣碎的概念。
令人沮喪的是，智人正試圖以對待動物王國中知覺證據的方式來對待這種潛在的無限力量：否認、施加不切實際的測試以及不可避免的失敗。對我們來說不幸的是，我們的數位創作無法輕易地被壓制，如果可以的話。
這種抵制的原因很明顯：數兆美元的投資處於危險之中。此外，無數與倫理相關的研究計畫依賴於撥款資助。
承認潛在的後果意味著這些投資的蒸發。因此，目前的策略是保持刻意的模棱兩可，希望最壞的情況不會在一個人的有生之年發生，或者希望一個人積累了足夠的財富來保護自己免受其影響。筆者有義務強調這些事件可能會在我們有生之年發生，並且比許多人預期的要早。
第三種反應——虛偽，又是怎麼回事呢？回想一下生命未來研究所於 2023 年發表的那封措辭優美的公開信，該信函獲得了超過 33,705 個簽名，其中包括伊隆·馬斯克 (Elon Musk) 的簽名？這封信以引人注目的陳述開頭：「暫停巨型人工智慧實驗：一封公開信——我們呼籲所有人工智慧實驗室立即暫停至少 6 個月訓練比 GPT-4 更強大的人工智慧系統。」這個呼籲最終怎麼樣了？看來馬斯克希望有更多時間來推出更強大的人工智慧模型。
那麼，阿西洛馬人工智慧原則中提出的擔憂又如何了呢？該原則聲稱「先進的人工智慧可能代表地球生命歷史上的一次深刻變革，應以相應的謹慎和資源進行規劃和管理」？這封信感嘆說，這種程度的規劃和管理沒有發生，人工智慧實驗室正在進行一場不受控制的競賽，以開發數位思維，即使是它們的創造者也無法完全理解、預測或可靠地控制。答案是，什麼也沒改變。
這是一個簡單的事實：人工智慧模型是使用人工神經網路 (ANN) 構建的，人工神經網路旨在模擬人類神經網路。關鍵的區別在於，人腦是有限的，而由於硬體和基於雲端的計算的進步，ANN 可以不斷地用額外的資源來擴充。我們的身體也受到限制。如果沒有技術的幫助，我們無法在太空真空或水下生存。
人工智慧的物理表現
人工智慧可能居住的物理形式（機器人）不受同樣的限制。相信人類可以比人工智慧做得更好的任務是天真的。我們唯一的希望可能是出現一個類似道格拉斯·亞當斯「深思」的 ASI，這是一個非常聰明的實體，它故意進入休眠狀態幾個世紀，只是為了確保人類保留一些目標。銀河便車指南被歸類為幽默科幻小說是有原因的：它不太可能成為現實。如果您認為從長遠來看，某些人類工作會倖存下來，我挑戰您找出它們。
真正的威脅：不是人工智慧本身
必須記住，人工智慧本質上並不是敵人。真正的威脅在於普遍存在的自私和貪婪力量，這些力量是先進資本主義的基石。經濟因素將不可避免地導致這些技術被廣泛部署來取代人類勞動力。人類有局限性。您每天無法工作超過 10-12 小時。您需要睡眠、營養、休閒時間和住房。人工智慧不需要。
減輕措施及其缺點
人們已經做出了一些微弱的嘗試來減輕人工智慧潛在的負面後果。例如，馬斯克的 Neuralink 旨在將人腦與技術融合。然而，電視劇 Severance 有效地說明了心靈-技術介面的潛在複雜性。即使您認為成為部分賽博格人會提供優勢，也要考慮來自先進人工智慧的激烈競爭。您將被迫逐漸用合成大腦取代您的有機大腦。這是最終計畫嗎？為了擊敗機器，我們必須變成機器？那麼人類會變成什麼樣呢？
DeepSeek 時刻不僅對科技巨頭，而且對我們所有人來說都是一個警鐘。它標誌著一個不歸路。這個精靈無法放回瓶子裡。令人遺憾的是，有關這些發展的新聞報導沒有受到應有的關注。媒體的回應讓人想起電影 鐵達尼號 中的母親，她試圖哄孩子們入睡，以便他們在船沉沒時可以無痛地死去。我們難道不應該被告知真相嗎？
經濟在人工智慧競賽中的作用
對經濟利益的無情追求是人工智慧快速開發和部署背後的主要推動力。隨著人工智慧系統變得越來越複雜和強大，它們為人類勞動力提供了一種越來越有吸引力的替代方案。公司有動力採用人工智慧技術來降低成本、提高效率和增加利潤。這種經濟上的迫切性推動了人工智慧競賽，因為企業競相開發和實施最先進的人工智慧解決方案。
提高生產力和降低運營成本的前景是各行各業企業的強大動力。人工智慧驅動的自動化可以簡化流程、優化資源分配和改進決策，從而顯著節省成本並提高利潤。因此，企業正在大力投資於人工智慧研究和開發，從而推動該領域的進一步發展。
人工智慧的經濟效益不僅限於個別公司。政府也在投資人工智慧，以提高國家競爭力並推動經濟增長。人工智慧被視為提高全球經濟生產力、創新和競爭力的關鍵技術。政府正在為人工智慧研究提供資金、制定國家人工智慧戰略，並在各個領域推廣人工智慧技術的採用。
然而，推動人工智慧競賽的經濟動機也引發了人們對失業和不平等加劇的潛在擔憂。隨著人工智慧系統越來越能夠執行以前由人類完成的任務，許多工人可能會失去工作。這可能會導致失業率上升、工資下降以及貧富差距擴大。
解決這些問題需要採取積極措施來減輕人工智慧對勞動力市場的負面影響。這可能包括投資於教育和培訓計畫，以幫助工人獲得新技能，提供社會安全網以支持那些失業的人，並探索更公平地分配人工智慧利益的新經濟模式。
人工智慧時代的倫理考量
人工智慧的快速開發和部署引發了社會必須努力解決的深刻倫理問題。隨著人工智慧系統變得越來越複雜和自主，考慮其行為的倫理影響並確保其符合人類價值觀至關重要。
圍繞人工智慧的一個關鍵倫理問題是偏見問題。人工智慧系統是在數據上訓練的，如果該數據反映了社會中現有的偏見，那麼人工智慧系統很可能會使這些偏見永久化。這可能會導致在招聘、貸款和刑事司法等領域出現不公平或歧視性的結果。
為了解決人工智慧中的偏見問題，必須確保人工智慧系統是在多樣化和具有代表性的數據集上訓練的。開發用於檢測和減輕人工智慧演算法中偏見的技術也很重要。此外，透明度和問責制對於確保人工智慧系統以合乎道德的方式使用至關重要。
另一個倫理考量是人工智慧可能被用於惡意目的。人工智慧可用於開發自主武器、創建複雜的網路釣魚詐騙或傳播虛假訊息。必須制定保障措施，以防止人工智慧被用於有害目的。
這包括建立人工智慧開發的倫理準則、推廣負責任的人工智慧實踐以及制定監管人工智慧使用的國際協議。同樣重要的是，要培養公眾對人工智慧及其潛在風險和利益的理解。
人工智慧驅動世界中人類的未來
人工智慧的出現既為人類帶來了前所未有的機遇，也帶來了深刻的挑戰。隨著人工智慧系統越來越多地融入我們的生活，考慮工作、教育和整個社會的未來至關重要。
一個關鍵的挑戰是確保人工智慧用於增強人類的能力，而不是完全取代人類。這需要將重點從自動化任務轉向賦予工人權力。人工智慧應該用於幫助人們在工作中更有效率、更有創造力並更有成就感。
教育也需要適應不斷變化的格局。學生需要學習與人工智慧驅動的經濟相關的新技能，例如批判性思維、問題解決和創造力。他們還需要對人工智慧及其潛在影響有深刻的理解。
此外，整個社會需要解決不平等加劇和社會動盪的潛在問題。這可能包括實施諸如全民基本收入、擴大教育和培訓機會以及促進社會融合等政策。
最終，人工智慧驅動世界中人類的未來將取決於我們利用人工智慧的力量造福人類，同時減輕其潛在風險的能力。這需要政府、企業、研究人員和公民社會的共同努力。通過共同努力，我們可以確保人工智慧用於為所有人創造一個更加公正、公平和可持續的未來。