AI（人工智慧）的崛起無疑已改變了我們的世界，成為各個領域不可或缺的工具，包括軟體開發。儘管AI提供了許多好處，並已成為現代開發實踐中不可或缺的一部分，但我們必須考慮過度使用AI的潛在後果，尤其是對開發者而言。
本文深入探討我對開發和AI的哲學反思，探索AI日益普及可能對開發者環境產生的深刻影響。
AI的誘惑
我們應該將AI視為威脅我們生計的惡勢力嗎？我不這麼認為。
自ChatGPT 3.0問世以來，我已經密切關注AI相關的文章三年多了。這種持續的興趣源於該領域的快速發展，每天都有新的發展和新聞出現。
可以想像，AI未來可能會在諾貝爾獎中佔據主導地位，而世界已經被ChatGPT的能力所吸引。
AI正在呈指數級發展，似乎正處於實現人工通用智慧（AGI）的風口浪尖。雖然大型語言模型（LLM）目前正引領AI的發展，但生成式AI的崛起遵循了早期機器學習（ML）和深度學習（DL）突破中觀察到的模式，這些模式在圖像和視訊處理中展現了巨大的潛力。
在此之前，網際網路的廣泛採用開啟了資訊時代。
在此之前，機器的普及引發了工業革命。
而在那之前很久，工具的引入導致了農業革命。
至關重要的是，要批判性地檢驗這些轉變是否是無縫的，並且對所有人都有利。
（注意：後面對AI的引用將特別指基於LLM的生成式AI。）
工業革命的回聲
工業革命給我們留下了什麼遺產？
創新製成品的加速生產、改善的工作條件以及巨大的財富。
由於工業革命，我們今天享受著許多好處。但是，生活在那個時代的人們是否也分享了這些好處呢？
進步的陰暗面
隨著機器的引入，工作條件是否立即得到改善？
在許多情況下，曾經需要大量體力的任務被簡化為基本的機器操作，導致成年工人被兒童取代。工廠開始全天候運營以最大限度地提高效率，由此產生的財富不成比例地集中在工廠所有者（資產階級）手中。工人是否被動地接受了這種情況？沒有。這引發了盧德運動。
儘管存在這些挑戰，我們是否相信機器的引入最終改變了人們的生活，使其變得更好？
我認為答案是肯定的。這些變化絕大多數是積極的。
等等，你已經描繪了工業革命的負面形象，那麼為什麼你突然說它是積極的？
雖然我們的生活無可否認地得到了改善，但與工業革命相關的許多問題源於未能預見和減輕機器快速引入所造成的社會破壞。如果建立了社會安全網，受苦的人會更少，負面後果也會被最小化。
好吧，但這一切與AI有什麼關係？
AI：第二次工業革命
美國前總統唐納·川普宣布計劃向軟銀和OpenAI等AI公司投資700兆韓元。
LLM需要大量的電力。產生這種電力的公司正在穩步增長，而開發用於計算的AI晶片的Nvidia已經實現了全球最高的市值。
這些公司將投資在哪裡？當然，他們會投資在可以賺錢的地方。
而世界目前投資在哪裡？在AI。
AI的盈利能力
但是，AI的盈利能力將從何而來？
AI不生產產品。AI不經營工廠。
然而，AI可以通過自動執行目前由人類執行的任務來潛在地降低公司的勞動力成本。
從經濟角度來看，單個員工的成本是多少？假設平均職業生涯為30年（從30歲到60歲），平均年薪為4500萬韓元，一家公司將在其職業生涯中向一名員工支付13.5億韓元。
換句話說，一家公司正在以13.5億韓元的價格’購買’一名員工。一家擁有300多名員工的公司將在30年內在勞動力上花費4000億韓元。
你仍然認為AI不盈利嗎？你仍然看不出世界為什麼要投資AI嗎？
AI驅動的勞動力裁員將為公司帶來可觀的利潤。這是AI投資的起點和終點。
AI的局限性
AI不保證100%的成功或100%的失敗。
我曾經展示過一個用於檢測疲勞駕駛的深度學習模型。雖然該模型最終將某些情況分類為’疲勞駕駛’，但我們作為開發者，將其定義為’疲勞駕駛的高概率’。
讓我重申：AI不提供絕對成功或失敗的保證。
幻覺是一個類似的概念。由於模型會進行推斷，因此它們可能會生成不正確的答案。這既是AI發展的潛在途徑，也是一個缺點。
如果模型錯誤地將我識別為疲勞，而我並非如此，誰來負責？
責任在於我們，即定義模型標準的團隊。
AI不承擔責任。我們是根據AI提供的答案做出決策的人。
所以呢？我們現在應該怎麼做？這是否意味著AI會搶走我們的工作？
接近AI
是的，沒錯。AI會搶走我們的工作。
世界正在激烈地競爭，利用AI來搶走我們的工作。
我認為這是不可避免的，’第二次工業革命’即將到來。
我們應該做些什麼來確保平穩過渡？
我們需要對AI感興趣，使用它，並保持積極和批判的視角。
在認真考慮了這些資訊之後，許多人可能會對生活感到失望。我知道我曾經這樣。
如果我最終會被AI取代，我為什麼還要費心發展自己並學習開發？
AI可以為我開發程式碼，那我為什麼要自己做？
在這一點上，我們需要考慮人文主義。
超越人文主義
為了從宗教統治國家的神權社會過渡到’國王’可以利用宗教的時代，必須有一些東西超越’上帝’。國王利用宗教，但擁有生產資料的資產階級卻缺乏類似的工具。他們開始宣揚人類本身的重要性，這就產生了’人文主義’。人文主義反過來又導致了資本主義、共產主義、法西斯主義和其他意識形態的出現。
換句話說，人文主義是一種擺脫神權社會的上帝的努力。
一些試圖逃離這個宗教社會的人被貼上了異端和巫婆的標籤，並被認為是可怕的罪犯。我們從目前的角度如何看待他們？我們難道不認為他們是對的嗎？
‘AI比人類更好（或者，更狹隘地說，比我更好）’的想法是一種超越人文主義的行為。
也許這是一種自然的思維方式。我相信我們目前正處於一個過渡時期，AI的發展正在導致我們逐漸擺脫人文主義。這是自然的，但我希望我們能將由此產生的恐慌降到最低。
我們應該怎麼做？
如上所述，我們應該簡單地自然地使用AI，享受它，保持批判的視角，最重要的是，做我們想做的事。
在這個過程中可能會有一些負面影響。以下章節將最終解釋’為什麼我想停止在開發中使用AI’。
開發中的AI
AI無可否認地提高了生產力。
我們使用的語言是程式設計語言。正如我們使用韓語來撰寫此部落格一樣，我們使用程式設計語言來開發程式。
基於LLM的生成式AI擅長寫作。因此，它自然會在編寫程式設計語言方面有效。那麼，我們應該在程式設計中使用AI嗎？當然！
但是，如果你是一名’學習’的開發者，你應該考慮如何使用它。
由於以下原因，我已決定不使用AI，至少在學習過程中不使用。
AI竊取我的錯誤筆記
我們通常在什麼時候使用AI？我在除錯時經常使用它。
為什麼這個不起作用？ → 錯誤程式碼，複製程式碼 → 貼到ChatGPT中
問題是什麼？厭倦了錯誤和除錯的開發者是否會始終仔細檢查、理解和使用ChatGPT提供的程式碼？在許多情況下，他們會簡單地複製和粘貼程式碼而不加思考，如果它不起作用，他們會再次使用AI。
使用者提示：這不起作用，我收到這個錯誤。
ChatGPT：哎呀，我的錯，讓我修改程式碼。
我是否永遠不會再犯這個錯誤？我極有可能再次犯同樣的錯誤並再次尋求AI的幫助。內化知識並從錯誤中學習的可能性大大降低。
如果我知道99%的計算過程，但無法達到最後的1%，我是否編寫得很好？我只是因為太累了才將我的大腦委託給AI。我將最重要的部分，我不知道也做不到的部分，委託給AI。
剝奪程式碼友好的、無意識的環境
世界上有很多開發者。極有可能地球另一端的開發者遇到了和我相同的錯誤。但是，該開發者是否在完全相同的情況下遇到了該錯誤？他們編寫的程式碼是否與我編寫的程式碼相同？它會有所不同。相同的錯誤可能發生在完全不同的情況下。
AI阻止了對周圍環境資訊的訪問。它只對我發送的程式碼進行除錯，並提供有關該程式碼的資訊，但不顯示編寫該程式碼所需的過程。
‘當然，你可以使用提示工程來要求詳細的解釋，對吧？’
把你的手放在你的心上，想想你有多經常太累了，只是複製和粘貼了程式碼。
要搜尋和調查錯誤，你需要先前的知識。我是否清楚地了解有關此先前知識的一切？此部落格解釋了不同的情況，而該部落格解釋了不同的情況。我是否理解所有這些情況？在Google上搜尋時，你必須能夠閱讀和理解’啊〜這與我的情況不同’才能找到其他資訊。
即使這個簡單的搜尋行為也可以使開發者更加程式碼友好。
ChatGPT不是一樣的嗎？如果你在編碼時一直使用它，那不是一樣的嗎？
無意識環境的重要性
無意識環境的最佳範例是家庭環境。
這裡有兩個孩子。他們在不同的家庭中長大。孩子看到一隻鳥飛過，並問他們的父母：
‘媽媽（爸爸），那是什麼鳥？’
父母的答案不同：
- 喜鵲。
- 我很好奇那是什麼鳥，所以我查了一下。它可能是喜鵲或烏鴉，但它看起來像喜鵲。
第一個家庭提供直接答案並提出實際的解決方案。
第二個家庭提供間接答案並提出一種創造性的方法來探索答案。
如果這些孩子在這些不同的環境中長大，他們會如何成長？
第一個家庭的孩子會有效地找到正確的答案，但可能無法有效地處理答案不容易獲得的問題。→ ChatGPT
第二個家庭的孩子可能需要更長的時間才能找到一個簡單的答案，但會更輕鬆地思考答案不容易獲得的問題。→ 搜尋和學習（Google）
無意識的環境以這種方式形成，並用於日常生活的各個方面。
你認為開發是什麼？我認為是後者，但我會將選擇權留給每個人。
以上是佛洛伊德的冰山模型圖片。我們無意識地受到我們周圍的人和我們接觸到的一切的影響。即使我們不注意路人說’最近A食物很好吃’，它也會植入一種淺薄的意識，即’A食物很好吃’。當我們稍後看到A食物時，我們可能會比它實際更美味地食用它，或者如果它沒有達到我們的期望，我們可能會更加失望。與沒有聽到路人的話相比，這產生了顯著的差異。
即使我在勤奮地搜尋有關開發的資訊時遇到的少量資訊——我沒有有意識地看到的資訊——最終也會成為一項資產。無意識的影響比我們想像的要大得多。
結論：我的開發哲學
我的結論是’在學習時應盡可能避免使用LLM，但在進行生產性活動時可以使用它們。’
我們必須適應後AI時代，學習如何使用AI，親身體驗其影響，並對AI保持積極但批判的視角。我們必須認識到AI最終會搶走我們的工作，並且始終考慮它除了搶走我們的工作之外可能產生的其他影響。讓我們反思一下我們使用AI的方式是否有助於我們的生活和我們的思維，並避免將我們的大腦委託給AI。
經過長時間的困惑，我終於確立了我的開發哲學：
在每一行程式碼中注入我的想法。讓我們不僅僅是創建簡單的字母或句子，而是將我的哲學和思想注入其中。
這就是AI和我之間的區別。
祝大家好運！
額外內容：治療意志力薄弱，阻止LLM網站
意志力薄弱是一種疾病。使用意志力來治療意志力薄弱是不合邏輯的，意志力薄弱是由於缺乏意志力造成的。引入其他行動來戒菸、戒酒或其他類似的習慣是正確的。
同樣，我認為阻止LLM網站對我的心理健康有益。以下是我在Mac上阻止的方法：
在終端機中輸入以下程式碼：
按i切換到插入模式。就像下圖一樣，將以下內容添加到127.0.0.1主機。輸入位址後按Tab鍵。
按ESC退出插入模式，然後輸入:wq儲存。這使用DNS（網域名稱系統），’127.0.0.1 chatGPT.com’表示在位址列中輸入chatGPT.com將訪問127.0.0.1（我電腦的伺服器主機）。
讓我們一起治癒我們薄弱的意志力！