Взлет искусственного интеллекта (ИИ) неоспоримо преобразил наш мир, став незаменимым инструментом в различных областях, включая разработку программного обеспечения. Хотя ИИ предлагает многочисленные преимущества и стал неотъемлемой частью современной разработки, крайне важно учитывать потенциальные последствия его чрезмерного использования, особенно для разработчиков.
В этой статье рассматриваются мои философские размышления о разработке и ИИ, исследуется глубокое влияние растущего присутствия ИИ на ландшафт разработчиков.
Очарование ИИ
Следует ли нам рассматривать ИИ как злонамеренную силу, угрожающую нашему существованию? Я думаю, что нет.
С момента появления ChatGPT 3.0 я внимательно слежу за статьями, связанными с ИИ, уже более трех лет. Этот устойчивый интерес обусловлен стремительной эволюцией этой области, когда новые разработки и новости появляются ежедневно.
Вполне возможно, что ИИ сможет доминировать на церемониях вручения Нобелевской премии в будущем, и мир уже очарован возможностями ChatGPT.
ИИ прогрессирует экспоненциально, казалось бы, находится на пороге достижения общего искусственного интеллекта (AGI). Хотя большие языковые модели (LLM) в настоящее время возглавляют достижения в области ИИ, рост генеративного ИИ следует закономерности, наблюдаемой в более ранних прорывах в машинном обучении (ML) и глубоком обучении (DL), которые продемонстрировали огромный потенциал в обработке изображений и видео.
До этого широкое распространение Интернета открыло Информационную Эру.
До этого распространение машин вызвало Промышленную Революцию.
И задолго до этого внедрение инструментов привело к Сельскохозяйственной Революции.
Важно критически изучить, были ли эти переходы плавными и общепринятыми.
(Примечание: последующие ссылки на ИИ будут конкретно относиться к генеративному ИИ на основе LLM.)
Эхо Промышленной Революции
Какое наследие оставила нам Промышленная Революция?
Ускоренное производство инновационных промышленных товаров, улучшенные условия труда и огромное богатство.
Это одни из многих преимуществ, которыми мы пользуемся сегодня благодаря Промышленной Революции. Но разделяли ли люди, жившие в ту эпоху, эти преимущества?
Темная Сторона Прогресса
Улучшились ли условия труда сразу же с внедрением машин?
Во многих случаях задачи, которые когда-то требовали значительной физической силы, были упрощены до простых машинных операций, что привело к замене взрослых работников детьми. Фабрики начали работать круглосуточно, чтобы максимизировать эффективность, и полученное богатство было непропорционально сосредоточено в руках владельцев фабрик (буржуазии). Пассивно ли рабочие приняли эту ситуацию? Нет. Это дало начало движению луддитов.
Несмотря на эти проблемы, верим ли мы, что внедрение машин в конечном итоге изменило жизнь людей к лучшему?
Я бы сказал, что ответ “да”. Изменения были в подавляющем большинстве положительными.
Подождите, вы нарисовали негативную картину Промышленной Революции, так почему вы внезапно говорите, что она была положительной?
Хотя наша жизнь, несомненно, улучшилась, многие из проблем, связанных с Промышленной Революцией, возникли из-за неспособности предвидеть и смягчить социальные потрясения, вызванные быстрым внедрением машин. Если бы была создана система социальной защиты, меньше людей пострадало бы, и негативные последствия были бы сведены к минимуму.
Хорошо, но какое отношение все это имеет к ИИ?
ИИ: Вторая Промышленная Революция
Бывший президент США Дональд Трамп объявил о планах инвестировать 700 триллионов вон в компании, занимающиеся ИИ, такие как SoftBank и OpenAI.
LLM требуют значительного количества энергии. Компании, которые производят эту энергию, неуклонно растут, а Nvidia, которая разрабатывает чипы ИИ для вычислений, достигла самой высокой рыночной капитализации в мире.
Куда будут инвестировать эти компании? Естественно, они будут инвестировать туда, где они могут заработать деньги.
И куда в настоящее время инвестирует мир? В ИИ.
Прибыльность ИИ
Но откуда возьмется прибыльность ИИ?
ИИ не производит продукты. ИИ не управляет фабриками.
Однако ИИ может потенциально снизить затраты на рабочую силу для компаний за счет автоматизации задач, которые в настоящее время выполняются людьми.
С экономической точки зрения, какова стоимость одного сотрудника? Предполагая средний карьерный стаж в 30 лет (с 30 до 60 лет) и среднюю годовую зарплату в 45 миллионов вон, компания заплатит одному сотруднику 1,35 миллиарда вон за его карьеру.
Другими словами, компания “покупает” одного сотрудника за 1,35 миллиарда вон. Компания с более чем 300 сотрудниками потратит 400 миллиардов вон на рабочую силу в течение 30 лет.
Вы все еще верите, что ИИ не прибылен? Вы все еще не понимаете, почему мир инвестирует в ИИ?
Сокращение рабочей силы, обусловленное ИИ, принесет значительную прибыль компаниям. Это альфа и омега инвестиций в ИИ.
Ограничения ИИ
ИИ не гарантирует 100% успеха или 100% неудачу.
Однажды я продемонстрировал модель глубокого обучения для обнаружения сонливости за рулем. Хотя модель в конечном итоге классифицировала определенные ситуации как “сонливость за рулем”, мы, как разработчики, определили ее как “высокую вероятность сонливости за рулем”.
Позвольте мне повторить: ИИ не предлагает гарантий абсолютного успеха или неудачи.
Галлюцинации - это аналогичная концепция. Поскольку модели делают выводы, они могут генерировать неправильные ответы. Это одновременно и потенциальный путь для развития ИИ, и недостаток.
Если модель неправильно идентифицирует меня как сонного, когда я не сплю, кто несет ответственность?
Ответственность лежит на нас, команде, которая определила критерии модели.
ИИ не берет на себя ответственность. Мы принимаем решения на основе ответов, предоставленных ИИ.
И что? Что мы должны делать сейчас? Означает ли это, что ИИ собирается отнять у нас работу?
Подход к ИИ
Да, это верно. ИИ собирается отнять у нас работу.
Мир ожесточенно конкурирует за использование ИИ, чтобы забрать наши рабочие места.
Я считаю, что это неизбежно, и что “Вторая Промышленная Революция” уже не за горами.
Что мы должны сделать, чтобы обеспечить плавный переход?
Мы должны интересоваться ИИ, использовать его и сохранять как позитивный, так и критический взгляд.
Многие люди могут разочароваться в жизни, серьезно обдумав эту информацию. Я знаю, что я был.
Зачем мне утруждать себя развитием и изучением разработки, если меня просто заменят ИИ?
ИИ может разрабатывать код для меня, так зачем мне?
В этот момент нам нужно рассмотреть гуманизм.
Преодоление Гуманизма
Чтобы перейти от теократического общества, где религия управляла нацией, к эпохе, когда “короли” могли эксплуатировать религию, что-то должно было превзойти “бога”. Короли использовали религию, но буржуазия, владевшая средствами производства, не имела сопоставимого инструмента. Они начали продвигать идею о том, что само человечество важно, и это дало начало “гуманизму”. Гуманизм, в свою очередь, привел к возникновению капитализма, коммунизма, фашизма и других идеологий.
Другими словами, гуманизм - это попытка вырваться из бога теократического общества.
Некоторые, кто пытался сбежать из этого религиозного общества, были заклеймены как еретики и ведьмы и считались ужасными преступниками. Как мы смотрим на них с нашей нынешней точки зрения? Разве мы не видим, что они были правы?
Идея о том, что “ИИ лучше людей, (или, в более узком смысле,) лучше меня” - это акт преодоления гуманизма.
Возможно, это естественный образ мышления. Я считаю, что мы в настоящее время находимся в переходном периоде, когда развитие ИИ заставляет нас постепенно освобождаться от гуманизма. Это естественно, но я надеюсь, что мы сможем свести к минимуму возникающую панику.
Что Мы Должны Делать?
Как упоминалось выше, мы должны просто использовать ИИ естественно, наслаждаться им, сохранять критический взгляд и, прежде всего, делать то, что мы хотим делать.
В этом процессе могут быть негативные аспекты. В следующих разделах, наконец, будет объяснено, “почему я хочу перестать использовать ИИ в разработке”.
ИИ в Разработке
ИИ, несомненно, повышает производительность.
Языки, которые мы используем, - это языки программирования. Точно так же, как мы используем корейский язык для написания этого блога, мы используем языки программирования для разработки программ.
Генеративный ИИ на основе LLM специализируется на написании. Поэтому он, естественно, будет эффективен в написании языков программирования. Итак, должны ли мы использовать ИИ в программировании? Абсолютно!
Однако, если вы разработчик, который “учится”, вам следует подумать о том, как его использовать.
По следующим причинам я решил не использовать ИИ, по крайней мере, в процессе обучения.
ИИ Крадет Мои Заметки об Ошибках
Когда мы обычно используем ИИ? Я часто использовал его при отладке.
Почему это не работает? → Код ошибки, скопируйте код → Вставьте в ChatGPT
В чем проблема? Будут ли разработчики, уставшие от ошибок и отладки, всегда тщательно изучать, понимать и использовать код, предоставленный ChatGPT? Во многих случаях они будут просто копировать и вставлять код, не думая, и если это не сработает, они снова будут использовать ИИ.
Запрос пользователя: Это не работает, я получаю эту ошибку.
ChatGPT: Ой, моя ошибка, позвольте мне исправить код.
Совершу ли я когда-нибудь снова эту ошибку? Очень вероятно, что я снова совершу ту же ошибку и снова обращусь за помощью к ИИ. Возможность усвоить знания и извлечь уроки из ошибки значительно снижается.
Если я знаю 99% процесса вычисления, но не могу достичь последних 1%, хорошо ли я закодировал? Я просто делегирую свой мозг ИИ, потому что я устал. Я доверяю ИИ самую важную часть, ту часть, которую я не знаю и не могу сделать.
Ограбление Кодо-Дружелюбной, Бессознательной Среды
В мире много разработчиков. Очень вероятно, что разработчик на другом конце мира испытал ту же ошибку, что и я. Но испытал ли этот разработчик ошибку в той же ситуации? Совпадает ли код, который они написали, с кодом, который написал я? Это будет по-другому. Одна и та же ошибка может возникать в совершенно разных ситуациях.
ИИ блокирует доступ к информации об окружающем контексте. Он отлаживает только код, который я отправляю, и предоставляет информацию об этом коде, но он не показывает процесс, необходимый для написания кода.
“Конечно, вы можете использовать инженерию запросов, чтобы попросить подробное объяснение, верно?”
Положите руку на сердце и подумайте о том, как часто вы были слишком уставшими и просто копировали и вставляли код.
Чтобы найти и исследовать ошибку, вам нужны предварительные знания. Знаю ли я ясно все об этих предварительных знаниях? Этот блог объясняет разные ситуации, а этот блог объясняет разные ситуации. Понимаю ли я все эти ситуации? При поиске в Google вы должны уметь читать и понимать “Ах~ это отличается от моей ситуации”, чтобы найти другую информацию.
Даже этот простой акт поиска может сделать разработчиков более кодо-дружелюбными.
Разве ChatGPT не то же самое? Если вы продолжаете использовать его во время кодирования, разве это не то же самое?
Важность Бессознательной Среды
Лучший пример бессознательной среды - домашняя среда.
Вот двое детей. Они растут в разных семьях. Ребенок видит пролетающую мимо птицу и спрашивает родителей:
“Мама (Папа), что это за птица?”
Ответы родителей различаются:
- Сорока.
- Мне было интересно, что это за птица, поэтому я поискал это. Это может быть сорока или ворона, но похоже на сороку.
Первая семья дает прямой ответ и представляет практическое решение.
Вторая семья дает косвенный ответ и предлагает творческий подход к изучению ответа.
Как вырастут эти дети, если их воспитывают в этих разных средах?
Ребенок из первой семьи будет эффективно находить правильный ответ, но может не быть эффективным в решении проблем, где ответ не является легкодоступным. → ChatGPT
Ребенку из второй семьи может потребоваться больше времени, чтобы найти простой ответ, но ему будет удобнее думать о проблемах, где ответ не является легкодоступным. → Поиск и Обучение (Googling)
Бессознательная среда формируется таким образом и используется во всех аспектах повседневной жизни.
Что вы думаете о разработке? Я думаю, что это последнее, но я оставлю выбор за каждым человеком.
Выше приведена картина модели айсберга Фрейда. Мы бессознательно находимся под влиянием окружающих нас людей и всего, с чем мы соприкасаемся. Даже если мы не обращаем внимания на кого-то, проходящего мимо и говорящего: “Эти дни вкусная еда”, это закладывает неглубокое осознание того, что “Еда А вкусная”. Когда мы увидим Еду А позже, мы можем съесть ее вкуснее, чем она есть на самом деле, или мы можем быть более разочарованы, если она не оправдает наших ожиданий. Это создает существенную разницу по сравнению с тем, чтобы не слышать слова прохожего.
Даже небольшой фрагмент информации, с которым я столкнулся, усердно ища информацию о разработке - информацию, которую я не видел сознательно - в конечном итоге станет активом. Бессознательное оказывает гораздо большее влияние, чем мы думаем.
В Заключение: Моя Философия Разработки
Мой вывод заключается в том, что “LLM следует избегать как можно больше при обучении, но их можно использовать для продуктивной деятельности”.
Мы должны адаптироваться к пост-ИИ эпохе, научиться использовать ИИ, испытать его влияние на собственном опыте и поддерживать позитивный, но критический взгляд на ИИ. Мы должны признать, что ИИ в конечном итоге отнимет у нас работу, и всегда думать о том, какие другие последствия он может иметь, помимо отъема наших рабочих мест. Давайте подумаем, полезно ли то, как мы используем ИИ, для нашей жизни и нашего мышления, и избегаем делегирования наших мозгов ИИ.
После долгих размышлений я, наконец, установил свою философию разработки:
Наполните каждую строку кода своими мыслями. Давайте не будем просто создавать простые буквы или предложения, а скорее наполним их моей философией и мышлением.
В этом разница между ИИ и мной.
Удачи всем!
Дополнительно: Лечение Слабой Силы Воли, Блокировка Сайтов LLM
Слабая сила воли - это болезнь. Нелогично использовать силу воли для лечения слабой силы воли, которая вызвана недостатком силы воли. Правильно внедрять другие действия, чтобы бросить курить, пить или другие подобные привычки.
Точно так же я подумал, что было бы полезно для моего психического здоровья заблокировать сайты LLM. Ниже приведен мой метод блокировки на Mac:
- Введите следующий код в терминале: