Нарастването на Изкуствения Интелект (AI) безспорно трансформира нашия свят, превръщайки се в незаменим инструмент в различни области, включително разработката на софтуер. Въпреки че AI предлага множество ползи и се е превърнал в неразделна част от съвременните практики за разработка, от решаващо значение е да се обмислят потенциалните последици от прекомерната му употреба, особено за разработчиците.
Тази статия се задълбочава във моите философски размисли за разработката и AI, изследвайки дълбокото въздействие, което нарастващото присъствие на AI може да има върху сферата на разработчиците.
Привлекателността на AI
Трябва ли да гледаме на AI като на злонамерена сила, която застрашава препитанието ни? Аз не мисля така.
От появата на ChatGPT 3.0, следя отблизо статии, свързани с AI, повече от три години. Този траен интерес произтича от бързата еволюция на областта, с нови разработки и новини, появяващи се ежедневно.
Възможно е AI да доминира в Нобеловите награди в бъдеще, и светът вече е запленен от възможностите на ChatGPT.
AI напредва експоненциално, сякаш е на ръба да постигне Изкуствен Общ Интелект (AGI). Въпреки че Големите Езикови Модели (LLMs) понастоящем са водещи в развитието на AI, възходът на генеративния AI следва модел, наблюдаван в по-ранни пробиви в машинното обучение (ML) и дълбокото обучение (DL), които демонстрираха огромен потенциал в обработката на изображения и видео.
Преди това широкото приемане на интернет въведе Информационната Ера.
Преди това разпространението на машините предизвика Индустриалната Революция.
И много преди това въвеждането на инструменти доведе до Селскостопанската Революция.
От съществено значение е критично да се проучи дали тези преходи бяха безпроблемни и универсално полезни.
(Забележка: Последващите препратки към AI ще се отнасят конкретно до генеративен AI, захранван от LLM.)
Ехо от Индустриалната Революция
Какво наследство ни остави Индустриалната Революция?
Ускорено производство на иновативни промишлени стоки, подобрени условия на труд и огромно богатство.
Това са сред многото ползи, на които се радваме днес благодарение на Индустриалната Революция. Но дали хората, живеещи през тази епоха, споделяха тези ползи?
Тъмната Страна на Прогреса
Дали условията на труд се подобриха незабавно с въвеждането на машини?
В много случаи задачи, които някога са изисквали значителна физическа сила, бяха опростени в основни операции с машини, което доведе до замяната на възрастни работници с деца. Фабриките започнаха да работят денонощно, за да максимизират ефективността, и произтичащото богатство беше непропорционално концентрирано в ръцете на собствениците на фабрики (буржоазията). Дали работниците пасивно приеха тази ситуация? Не. Това доведе до възникването на движението на лудитите.
Въпреки тези предизвикателства, вярваме ли, че въвеждането на машини в крайна сметка е преобразило живота на хората към по-добро?
Бих твърдял, че отговорът е “да”. Промените са били предимно положителни.
Почакайте, вие нарисувахте негативна картина на Индустриалната Революция, така че защо изведнъж казвате, че е била положителна?
Въпреки че животът ни безспорно се е подобрил, много от проблемите, свързани с Индустриалната Революция, произтичат от неспособността да се предвидят и смекчат социалните сътресения, причинени от бързото въвеждане на машини. Ако беше въведена социална предпазна мрежа, по-малко хора щяха да страдат и отрицателните последици щяха да бъдат сведени до минимум.
Добре, но какво общо има всичко това с AI?
AI: Втората Индустриална Революция
Бившият президент на САЩ Доналд Тръмп обяви планове да инвестира 700 трилиона вона в AI компании като SoftBank и OpenAI.
LLMs изискват значителни количества енергия. Компаниите, които генерират тази енергия, непрекъснато растат, а Nvidia, която разработва AI чипове за изчисления, постигна най-високата пазарна капитализация в света.
Къде ще инвестират тези компании? Естествено, те ще инвестират там, където могат да печелят пари.
И къде светът в момента инвестира? В AI.
Рентабилността на AI
Но откъде ще дойде рентабилността на AI?
AI не произвежда продукти. AI не управлява фабрики.
Въпреки това AI може потенциално да намали разходите за труд за компаниите чрез автоматизиране на задачи, които понастоящем се изпълняват от хора.
От икономическа гледна точка, каква е цената на един служител? Ако приемем средна кариерна продължителност от 30 години (от 30 до 60 години) и средна годишна заплата от 45 милиона вона, компанията ще плати на един служител 1,35 милиарда вона през кариерата му.
С други думи, компанията “купува” един служител за 1,35 милиарда вона. Компания с над 300 служители ще похарчи 400 милиарда вона за труд за 30 години.
Все още ли вярвате, че AI не е рентабилен? Все още ли не виждате защо светът инвестира в AI?
Намаляването на работната сила, задвижвано от AI, ще генерира значителни печалби за компаниите. Това е алфата и омегата на AI инвестициите.
Ограниченията на AI
AI не гарантира 100% успех или 100% провал.
Веднъж демонстрирах модел за дълбоко обучение за откриване на сънливо шофиране. Въпреки че моделът в крайна сметка класифицира определени ситуации като “сънливо шофиране”, ние, като разработчици, го определихме като “висока вероятност за сънливо шофиране”.
Позволете ми да повторя: AI не предлага гаранции за абсолютен успех или провал.
Халюцинациите са подобна концепция. Тъй като моделите правят заключения, те могат да генерират грешни отговори. Това е едновременно потенциален път за AI развитие и недостатък.
Ако моделът неправилно ме идентифицира като сънлив, докато не съм, кой е отговорен?
Отговорността е на нас, екипът, който определи критериите на модела.
AI не поема отговорност. Ние сме тези, които вземаме решения въз основа на отговорите, предоставени от AI.
И какво от това? Какво трябва да направим сега? Това означава ли, че AI ще ни отнеме работата?
Приближаване към AI
Да, точно така. AI ще ни отнеме работата.
Светът ожесточено се конкурира да използва AI, за да ни отнеме работата.
Вярвам, че това е неизбежно и че на хоризонта е “Втора Индустриална Революция”.
Какво трябва да направим, за да осигурим плавен преход?
Трябва да се интересуваме от AI, да го използваме и да поддържаме както позитивна, така и критична перспектива.
Много хора могат да се разочароват от живота, след като сериозно обмислят тази информация. Знам, че аз го направих.
Защо трябва да си правя труда да се развивам и да изучавам разработка, ако просто ще бъда заменен от AI?
AI може да разработва код за мен, така че защо трябва аз?
В този момент трябва да обмислим хуманизма.
Отвъд Хуманизма
За да се премине от теократично общество, където религията управлява нацията, към ера, където “кралете” могат да експлоатират религията, нещо трябваше да надмине “бог”. Кралете използваха религията, но буржоазията, която притежаваше средствата за производство, нямаше сравним инструмент. Те започнаха да популяризират идеята, че самото човечество е важно, и това доведе до възникването на “хуманизма”. Хуманизмът от своя страна доведе до появата на капитализма, комунизма, фашизма и други идеологии.
С други думи, хуманизмът е усилие да се освободим от бога на теократичното общество.
Някои, които се опитаха да избягат от това религиозно общество, бяха заклеймени като еретици и вещици и бяха считани за ужасни престъпници. Как ги виждаме от нашата настояща перспектива? Не виждаме ли, че са били прави?
Идеята, че “AI е по-добър от хората, (или, по-конкретно,) по-добър от мен” е акт на надминаване на хуманизма.
Може би това е естествен начин на мислене. Вярвам, че в момента сме в преходен период, в който AI развитието ни кара постепенно да се освобождаваме от хуманизма. Това е естествено, но се надявам, че можем да минимизираме произтичащата паника.
Какво Трябва да Направим?
Както споменахме по-горе, трябва просто да използваме AI естествено, да му се наслаждаваме, да поддържаме критична перспектива и преди всичко да правим това, което искаме да правим.
В този процес може да има негативни аспекти. Следващите раздели най-накрая ще обяснят “защо искам да спра да използвам AI в разработката”.
AI в Разработката
AI безспорно повишава производителността.
Езиците, които използваме, са програмни езици. Точно както използваме корейски, за да напишем този блог, използваме програмни езици, за да разработваме програми.
Генеративният AI, базиран на LLM, е специализиран в писането. Следователно той естествено ще бъде ефективен в писането на програмни езици. И така, трябва ли да използваме AI в програмирането? Абсолютно!
Въпреки това, ако сте разработчик, който “учи”, трябва да обмислите как да го използвате.
Поради следните причини реших да не използвам AI, поне по време на процеса на обучение.
AI Краде Моите Бележки за Грешки
Кога обикновено използваме AI? Често го използвах при отстраняване на грешки.
Защо това не работи? → Код за грешка, копирайте кода → Поставете в ChatGPT
Какъв е проблемът? Дали разработчиците, които са уморени от грешки и отстраняване на грешки, винаги внимателно ще проучват, разбират и използват кода, предоставен от ChatGPT? В много случаи те просто ще копират и поставят кода, без да мислят, и ако не работи, ще използват AI отново.
Подкана от потребителя: Това не работи, получавам тази грешка.
ChatGPT: Опа, моя грешка, позволете ми да преразгледам кода.
Дали никога повече няма да допусна тази грешка? Много е вероятно да допусна същата грешка отново и да потърся помощ от AI отново. Възможността за интернализиране на знанията и учене от грешката е значително намалена.
Ако знам 99% от процеса на изчисление, но не мога да достигна последния 1%, дали съм кодирал добре? Аз просто делегирам мозъка си на AI, защото съм уморен. Поверявам на AI най-критичната част, частта, която не знам и не мога да направя.
Ограбване на Кодо-приятелската, Несъзнателна Среда
Има много разработчици по света. Много е вероятно разработчик от другата страна на света да е преживял същата грешка като мен. Но дали този разработчик е преживял грешката в същата ситуация? Дали кодът, който са написали, е същият като кода, който съм написал аз? Ще бъде различен. Същата грешка може да възникне в напълно различни ситуации.
AI блокира достъпа до информация за заобикалящия контекст. Той отстранява грешки само в кода, който изпращам, и предоставя информация за този код, но не показва процеса, необходим за писане на кода.
“Разбира се, можете да използвате инженерство на подкани, за да поискате подробно обяснение, нали?”
Поставете ръка на сърцето си и помислете колко често сте били твърде уморени и просто сте копирали и поставяли кода.
За да търсите и разследвате грешка, ви трябват предварителни знания. Дали ясно знам всичко за тези предварителни знания? Този блог обяснява различни ситуации, а този блог обяснява различни ситуации. Дали разбирам всички тези ситуации? Когато търсите в Google, трябва да можете да прочетете и разберете “А~ различно е от моята ситуация”, за да намерите друга информация.
Дори този прост акт на търсене може да направи разработчиците по-кодо-приятелски.
Не е ли ChatGPT същото? Ако продължавате да го използвате, докато кодирате, не е ли същото нещо?
Важността на Несъзнателната Среда
Най-добрият пример за несъзнателна среда е домашната среда.
Ето две деца. Те растат в различни семейства. Детето вижда птица да лети и пита родителите си:
“Мамо (Тате), каква е тази птица?”
Отговорите на родителите се различават:
- Сврака.
- Любопитен бях какъв вид птица е, затова я потърсих. Може да е сврака или врана, но изглежда като сврака.
Първото семейство предоставя директен отговор и представя практично решение.
Второто семейство предоставя косвен отговор и предлага творчески подход за проучване на отговора.
Как ще пораснат тези деца, ако бъдат отгледани в тези различни среди?
Детето от първото семейство ще бъде ефективно в намирането на правилния отговор, но може да не е ефективно в справянето с проблеми, където отговорът не е лесно достъпен. → ChatGPT
Детето от второто семейство може да отнеме повече време, за да намери прост отговор, но ще се чувства по-комфортно да мисли за проблеми, където отговорът не е лесно достъпен. → Търсене и Обучение (Googling)
Несъзнателната среда се формира по този начин и се използва във всички аспекти на ежедневния живот.
Какво мислите, че е разработката? Аз мисля, че е последното, но ще оставя избора на всеки индивид.
Горе е картина на модела на айсберга на Фройд. Ние сме несъзнателно повлияни от хората около нас и от всичко, с което влизаме в контакт. Дори ако не обърнем внимание на някой, който минава и казва: “Храната А е вкусна в наши дни”, това засажда плитко осъзнаване, че “Храната А е вкусна”. Когато видим храна А по-късно, може да ядем по-вкусно, отколкото е в действителност, или може да бъдем по-разочаровани, ако не отговаря на очакванията ни. Това създава значителна разлика в сравнение с това да не чуем думите на минувача.
Дори малката част от информацията, която съм срещнал, докато усърдно търся информация за разработка - информация, която не съм видял съзнателно - в крайна сметка ще се превърне в актив. Несъзнателното има много по-голямо въздействие, отколкото си мислим.
В Заключение: Моята Философия за Разработка
Моето заключение е, че “LLMs трябва да се избягват колкото е възможно повече, когато учите, но могат да се използват за продуктивни дейности”.
Трябва да се адаптираме към ерата след AI, да се научим как да използваме AI, да изпитаме пряко въздействието му и да поддържаме позитивна, но критична перспектива към AI. Трябва да признаем, че AI в крайна сметка ще ни отнеме работата и винаги да обмисляме какви други въздействия може да има, освен да ни отнеме работата. Нека помислим дали начинът, по който използваме AI, е полезен за живота ни и мисленето ни, и да избягваме да делегираме мозъците си на AI.
След много объркване, най-накрая установих своята философия за разработка:
Влейте всяка линия код с моите мисли. Нека не създаваме просто прости букви или изречения, а по-скоро да ги пропием с моята философия и мислене.
Това е разликата между AI и мен.
Успех на всички!
Допълнително: Третиране на Слаба Воля, Блокиране на LLM Сайтове
Слабата воля е болест. Нелогично е да използвате воля, за да излекувате слаба воля, която е причинена от липса на воля. Правилно е да се въведат други действия за спиране на пушенето, пиенето или други подобни навици.
По същия начин, помислих, че ще бъде добре за психичното ми здраве да блокирам LLM сайтове. Следното е моят метод за блокиране на Mac:
Въведете следния код в терминала:
Натиснете i, за да превключите в режим на вмъкване. Добавете следното към хоста 127.0.0.1, точно както на изображението по-долу. Tab след въвеждане на адреса.
Натиснете ESC, за да излезете от режим на вмъкване, и въведете :wq, за да запазите. Това използва DNS (Domain Name System), и ‘127.0.0.1 chatGPT.com’ означава, че въвеждането на chatGPT.com в адресната лента ще има достъп до 127.0.0.1 (хоста на сървъра на моя компютър).
Нека излекуваме нашата слаба воля заедно!