人工智慧（AI）革命仍處於早期階段，但 AI 已經在創造更多 AI 方面發揮了重要作用。領先的 AI 研究公司 Anthropic 揭示了一個令人著迷的發現，展示了他們的 AI 模型 Claude 參與自身開發的程度。Anthropic 的首席工程師 Boris Cherny 表示，實際上，Claude 的程式碼有很大一部分是由 Claude 自己編寫的。
Claude 的程式碼：自我創作的傑作
Cherny 在 Latent Space 播客中透露，Anthropic 的 Command Line Interface（CLI）代理 Claude Code 大約 80% 的程式碼是由 Claude Code 自己生成的。這突顯了 AI 的卓越能力，它不僅可以執行訓練的任務，還可以為自身的進化和完善做出貢獻。
雖然這可能看起來像一個純粹自動化的過程，但 Cherny 迅速強調了人工監督的關鍵作用。他解釋說，有一個人工程式碼審查流程來確保 AI 生成程式碼的品質、準確性和安全性。這種人工干預起到了一種保障作用，防止潛在的錯誤，並確保 AI 的輸出與預期的目標一致。
共生關係：AI 和人工協作
Cherny 進一步闡述了 AI 和人工參與之間的動態關係，指出某些程式碼編寫任務更適合 AI，而其他任務則需要人工專業知識。他強調了辨別哪些任務應委派給 AI，哪些應手動處理的重要性。正如他所說的，「知道選擇哪一個的智慧」正在成為 AI 輔助開發時代中日益重要的技能。
Anthropic 的典型工作流程包括 Claude 首先嘗試程式碼編寫任務。如果 AI 生成的程式碼令人滿意，它才會進入審查流程。但是，如果程式碼有缺陷或需要複雜的調整，人工工程師就會介入。Cherny 提到，對於像資料模型重構這樣的複雜任務，他更喜歡手動處理，因為他有強烈的意見，並且發現直接進行實驗比試圖向 Claude 解釋他的理由更有效率。
這種 AI 生成的程式碼和人工技藝的結合展示了一種共生關係，AI 協助人類加速開發過程，而人類提供必要的指導和監督。這是一種協作努力，利用了 AI 和人工智慧的優勢。
AI 構建 AI 的影響
Cherny 的觀察突顯了開發領域的一個重大範式轉變。AI 不再只是一個產品；它正在成為開發過程本身不可或缺的一部分。這種「AI 構建 AI」的範式，即使在其目前的 AI 輔助形式中，也具有深遠的影響。
其中一個最重要的影響是 AI 進展的潛在指數級加速。由於 AI 模型變得更有能力為它們自身的進化和最佳化做出貢獻，因此進展的速度可能會大幅提高。這可能會導致各個領域的突破，因為 AI 模型變得更強大、更有效率和更具適應性。
在競爭激烈的 AI 環境中，從 AI 協同駕駛自身開發中獲得的效率提升可能代表著一個重要的競爭優勢。能夠有效利用 AI 來加速其開發週期並提高其 AI 模型品質的公司可能會比其競爭對手獲得決定性的優勢。
軟體工程師不斷演變的角色
AI 在軟體開發中越來越多的參與也在改變人工軟體工程師的角色。雖然人工監督仍然至關重要，但大部分的初始程式碼生成可以轉移到 AI。這正在將工程師的角色轉變為架構師、細緻的審閱者和專業的提示者。
工程師現在負責引導 AI、完善其輸出，並確保 AI 生成的程式碼符合所需的標準。他們還負責處理需要人工創造力和專業知識的更複雜和細緻的任務。這種轉變要求工程師培養新的技能，例如有效地與 AI 溝通、了解其局限性以及利用其優勢的能力。
正如 Cherny 所說的，「知道選擇哪一個的智慧」在這個新時代變得更加關鍵。工程師需要能夠評估 AI 的能力，識別它可以有效處理的任務，並確定何時需要人工干預。這需要對 AI 和軟體開發原則有深入的了解。
隨著像 Claude 這樣的 AI 模型變得更加複雜，它們參與自身創建的可能性會越來越大。這種趨勢將進一步模糊工具和創造者之間的界線，預示著軟體和 AI 開發的新篇章。這是一個 AI 和人類以史無前例的方式一起工作，突破可能的界限的未來。
AI 驅動程式碼生成的細微差別
雖然 AI 編寫自己的程式碼的前景令人興奮，但了解這個過程的細微差別和局限性至關重要。像 Claude 這樣的 AI 模型是在大量的程式碼資料集上訓練的，這使它們能夠根據它們學到的模式和範例生成新的程式碼。但是，AI 並不具真正的理解或創造力。它依賴於模仿和模式識別來產生程式碼。
這意味著 AI 生成的程式碼有時可能缺乏原創性或包含錯誤。人工工程師必須仔細審查和驗證 AI 的輸出，確保它符合所需的品質和功能標準。人工監督對於防止 AI 將漏洞或偏差引入程式碼也至關重要。
此外，AI 驅動的程式碼生成對於定義明確且重複的任務最有效。對於複雜或新穎的任務，人類的創造力和解決問題的能力仍然是必不可少的。AI 可以通過生成初始程式碼草稿或建議潛在的解決方案來協助完成這些任務，但人工工程師需要提供整體方向並確保最終產品符合所需的規格。
AI 驅動程式碼生成的有效性還取決於訓練資料的品質。如果訓練資料有偏差或不完整，AI 模型可能會產生反映這些偏差或局限性的程式碼。確保訓練資料多樣化、具有代表性且沒有錯誤至關重要。
AI 開發的未來：協作夥伴關係
儘管存在挑戰，但 AI 開發的未來無疑與「AI 構建 AI」的範式交織在一起。隨著 AI 模型變得更加強大和複雜，它們在開發過程中的作用將繼續擴大。這將導致效率提升、開發週期加快，並可能在各個領域取得轉型突破。
但是，重要的是要認識到 AI 並不能取代人工智慧。相反，它是一種可以增強人工能力並加速進步的強大工具。最成功的 AI 開發團隊將是那些擁抱 AI 和人類之間的協作夥伴關係，利用兩者的優勢來實現共同目標的團隊。
在這種協作模型中，AI 處理重複且定義明確的任務，使人工工程師可以集中精力處理需要創造力、批判性思維和解決問題能力的高階任務。人工工程師還提供必要的監督和指導，以確保 AI 的輸出準確、安全並與預期目標保持一致。
這種協作方法需要一種思維方式的轉變，將 AI 視為合作夥伴而不是競爭對手。它還要求工程師培養 AI 溝通、提示工程和 AI 驗證等領域的新技能。通過擁抱這種協作模型，我們可以釋放 AI 的全部潛力，並創造一個 AI 和人類共同努力解決世界上一些最緊迫的挑戰的未來。
倫理考量：確保負責任的 AI 開發
隨著 AI 越來越多地參與到自身的開發中，考慮這個過程的倫理影響至關重要。其中一個關鍵的倫理問題是 AI 持續和擴大現有偏差的可能性。如果 AI 模型在有偏差的資料上進行訓練，它可能會生成反映這些偏差的程式碼，從而導致歧視性的結果。
另一個倫理問題是 AI 被用於惡意目的的可能性。如果 AI 可以編寫自己的程式碼，它可能會被用於創建自我複製的惡意軟體或其他有害的應用程式。開發保護措施以防止 AI 被用於此類目的至關重要。
為確保負責任的 AI 開發，必須建立清晰的倫理準則和法規。這些準則應涵蓋諸如偏差、透明度、問責制和安全性等問題。同時，提高對 AI 倫理影響的教育和認識也很重要。
此外，讓不同的利益相關者參與到 AI 開發過程中至關重要，這包括倫理學家、決策者和公眾成員。通過納入廣泛的觀點，我們可以確保 AI 以符合人類價值觀並促進共同利益的方式進行開發。
「AI 構建 AI」的範式代表了人工智慧領域的一個重大飛躍。它提供了提高效率、加快開發週期和實現轉型突破的潛力。但是，以謹慎的態度對待這種範式，並確保 AI 以負責任和合乎道德的方式進行開發至關重要。通過擁抱 AI 和人類之間的協作夥伴關係並建立清晰的倫理準則，我們可以釋放 AI 的全部潛力，同時減輕其風險。隨著 AI 不斷發展，它與自身程式碼創建的整合標誌著不是一個結束，而是一個轉型轉變，突破界限並重新定義技術的未來。