參議院聽證會揭露關聯
在美國參議院的聽證會上，Meta前高管Sarah Wynn-Williams揭露了Meta與中國的技術合作細節。她的證詞引發了關於Meta開放原始碼策略及其對國家安全潛在風險的爭議。參議員Josh Hawley進一步強調了情況的嚴重性，警告說Meta的行動可能無意中助長中國軍事AI的發展，對美國構成重大威脅。
Wynn-Williams特別指出，Meta的Llama模型不僅被中國研究團隊廣泛採用，還與DeepSeek模型存在直接的技術聯繫，後者於2024年末推出。DeepSeek是中國AI領域的一顆冉冉升起的新星，其R1模型因在成本效益和效率方面可與OpenAI的o1相媲美而獲得了全球認可。Wynn-Williams表示，DeepSeek的成功部分歸功於Meta的Llama模型，該模型為中國的AI發展奠定了基礎。
從開放原始碼到軍事應用
Llama被中國軍方採用的影響尤其令人擔憂。有報告顯示，中國人民解放軍（PLA）一直在利用Llama進行軍事AI的開發。據報導，PLA軍事科學院（AMS）的研究人員基於Llama 13B模型開發了一種名為’ChatBIT’的AI工具，專為情報收集和作戰決策而設計。此外，中國航空工業集團公司（AVIC）一直在使用Llama 2來訓練電子戰干擾策略。這些例子表明，Meta的開放原始碼模型正在被重新用於軍事應用，遠遠超出了其預期的商業和學術用途。
Meta與中國的合作：追求市場准入
Wynn-Williams的證詞進一步顯示，Meta早在2015年就開始向中國共產黨官員介紹其AI技術，目的是通過技術合作確保進入中國市場。Wynn-Williams引用的Meta內部文件顯示，該公司試圖通過強調其’幫助中國提升其全球影響力’和’促進中國夢’的潛力來說服中國當局。這一策略突顯了Meta對商業利益的追求及其對地緣政治風險的明顯漠視。
國家安全隱憂：協助中國軍事AI發展
參議員Hawley的嚴厲警告強調，Meta的行動不僅促進了技術外流，還無意中協助了中國軍事AI的發展，從而增強了其戰略影響力。他認為，這個問題超越了商業考量，對美國國家安全構成重大威脅。在美國和中國之間持續的科技競爭背景下，美國對AI晶片實施了嚴格的出口限制，以阻礙中國的技術進步。然而，Meta的開放原始碼策略無意中為中國提供了一個繞過這些限制的漏洞，從而破壞了美國的戰略努力。
關於開放原始碼AI的辯論：創新與安全
Llama和DeepSeek之間的聯繫重新點燃了關於開放原始碼AI的安全隱患的辯論。Meta首席AI科學家Yann LeCun等開放原始碼的支持者認為，它促進了全球合作和創新。他們將DeepSeek的成功視為開放原始碼模型的證明，而不是中國超越美國的證據。LeCun指出，DeepSeek利用了包括Llama在內的開放原始碼資源，並將其與自身的創新相結合，實現了技術突破，使全球研究人員受益。
儘管Meta為Llama制定了使用限制，明確禁止將其用於軍事、戰爭、核工業或間諜活動，但該模型的開放性使得這些限制在很大程度上無效。中國研究機構似乎無視了Meta的條款，並將Llama應用於軍事領域，而Meta缺乏有效手段來阻止這種濫用。這凸顯了與開放原始碼AI相關的監管和執法挑戰，促使美國決策者重新評估創新與安全之間的平衡。
DeepSeek的崛起：對美國的警鐘
DeepSeek的崛起表明，即使資源有限，中國也有能力實現突破，這對美國來說是一個警鐘。Meta試圖以開放原始碼的’不可控’性為由推卸責任，但由於其早先與中國的技術合作為當前的爭議奠定了基礎，因此這種說法站不住腳。
前進之路：駕馭開放原始碼AI格局
在美國和中國之間日益激烈的技術競爭背景下，美國必須正視與開放原始碼AI相關的國家安全隱憂，並採取更強有力的監管和保護措施。像Llama軍事化這樣的案例可能會激增，對全球安全和技術秩序構成更大的挑戰。
重新思考開放原始碼AI治理
Llama-DeepSeek案例凸顯了重新評估開放原始碼AI治理的迫切需要。決策者必須探索確保開放原始碼模型不被用於惡意目的的機制，特別是在軍事領域。
加強出口管制
美國應加強對AI技術的出口管制，以防止其未經授權轉讓給構成國家安全風險的國家。這包括解決允許開放原始碼模型規避現有限制的漏洞。
促進安全的AI開發
美國應投資於不易被濫用的安全AI技術的研發。這包括探索優先考慮安全和控制的替代AI開發範例。
加強國際合作
美國應與其盟友合作，為負責任的AI開發和使用建立國際規範和標準。這包括促進開放原始碼AI生態系統的透明度和問責制。
培養符合倫理的AI創新
美國應培養一個鼓勵符合倫理的AI創新的環境。這包括促進對AI安全和一致性的研究，以及制定AI開發和部署的倫理準則。
決策者的關鍵考量
Meta-DeepSeek事件為決策者帶來了一系列複雜的挑戰。它需要一種細緻的方法，既要平衡開放原始碼AI的好處，又要保護國家安全。一些關鍵考量包括：
- 風險評估： 對開放原始碼AI模型進行徹底的風險評估，以識別潛在的漏洞和濫用情景。
- 透明度： 促進開放原始碼AI模型的開發和部署的透明度，包括披露用於訓練它們的數據和演算法。
- 問責制： 建立明確的問責制界限，以應對開放原始碼AI模型的濫用，包括追究開發者和用戶的責任。
- 執法： 開發有效的執法機制，以防止開放原始碼AI模型的濫用，包括制裁和其他懲罰。
- 公眾意識： 提高公眾對開放原始碼AI的潛在風險和好處的認識，以及負責任的AI開發和使用的重要性。
科技公司的角色
科技公司在應對開放原始碼AI帶來的挑戰方面也發揮著至關重要的作用。他們應該：
- 實施強有力的安全措施： 實施強有力的安全措施，以防止其開放原始碼AI模型的濫用。這包括建立明確的使用限制，以及開發監控和執行合規性的工具。
- 合作進行安全研究： 與研究人員和決策者合作，制定安全AI開發和部署的最佳實踐。
- 投資於AI安全研究： 投資於AI安全和一致性的研究，以確保AI系統與人類的價值觀和目標保持一致。
- 促進符合倫理的AI開發： 通過採納倫理準則並培訓員工倫理考量來促進符合倫理的AI開發。
- 與決策者互動： 與決策者互動，制定有效的開放原始碼AI法規和政策。
駕馭開放原始碼AI的未來
開放原始碼AI的未來將取決於我們如何有效地應對它帶來的挑戰。通過採取積極措施來降低風險並促進負責任的開發，我們可以在保障國家安全和倫理價值觀的同時，利用開放原始碼AI的好處。
Llama-DeepSeek案例提醒我們，面對快速發展的AI技術，我們需要保持警惕和合作。通過共同努力，決策者、科技公司和研究人員可以創造一個AI造福全人類的未來。