Тролль, который обманул ИИ
Мир социальных сетей NBA, известный своей бдительностью и юмором, нашел новую мишень для своего коллективного остроумия: Grok от xAI. Инструмент искусственного интеллекта, призванный быть источником информации, стал объектом всеобщих насмешек после того, как попался на заведомо вводящий в заблуждение твит от известного пародийного аккаунта.
NBA Centel, аккаунт в X (платформе, ранее известной как Twitter), известный своими сатирическими и часто неверными сообщениями, создал твит, который вызвал волну в онлайн-баскетбольном сообществе. В понедельник аккаунт ложно заявил, что Кевин Дюрант обогнал Шая Гилджес-Александра и занял восьмое место в списке лучших игроков по количеству реализованных штрафных бросков за всю историю регулярного сезона.
Хотя это правда, что Дюрант недавно обогнал Дирка Новицки и занял это место с 7244 успешными штрафными бросками, включение Гилджес-Александра было явной выдумкой. Звезда ‘Оклахома-Сити Тандер’, набравший 2692 штрафных броска за карьеру, даже не входит в топ-200 в истории лиги.
Очевидная ошибка Grok
Настоящее веселье, однако, вызвала реакция Grok. Чат-бот с искусственным интеллектом, разработанный xAI Илона Маска, уверенно подтвердил заведомо ошибочный твит. Эта вопиющая оплошность не осталась незамеченной, и фанаты NBA быстро воспользовались возможностью посмеяться над ошибкой ИИ.
Реакция хлынула потоком, от игривых подшучиваний до откровенных насмешек. Этот инцидент послужил еще одним напоминанием об ограничениях современных технологий искусственного интеллекта, особенно о его восприимчивости к дезинформации, особенно когда она представлена в уверенной и, казалось бы, авторитетной манере.
Вот как отреагировали некоторые фанаты:
Один фанат сказал:
Другой фанат добавил:
Реакции продолжались:
Grok от xAI: работа в процессе?
Приобретение Илоном Маском Twitter за ошеломляющие 44 миллиарда долларов в октябре 2022 года ознаменовало значительный сдвиг в ландшафте социальных сетей. Год спустя, в ноябре 2023 года, xAI представила Grok, рекламируя его как революционный инструмент, способный ответить «практически на все» и даже предлагать вопросы, которые пользователи могут захотеть задать.
Однако первоначальная версия, Grok-1, сразу же подверглась критике за неточности и недостатки. Это побудило выпустить Grok-1.5 в середине декабря того же года с обещаниями улучшенной производительности и надежности.
Несмотря на эти достижения, Grok продолжает оставаться объектом пристального внимания. Критики указывают на многочисленные случаи, когда ИИ спотыкался, предоставляя неверную или вводящую в заблуждение информацию. Один примечательный пример: фанат Тейлор Свифт спросил о значении названия альбома артистки ‘TTPD’ (The Tortured Poets Department). Grok уверенно дал неверный ответ, подчеркнув свои постоянные проблемы с точностью.
Фактическое положение Шая Гилджес-Александра по штрафным броскам
Сфабрикованная статистика, касающаяся Шая Гилджес-Александра, еще больше подчеркнула уязвимость Grok. Среди действующих игроков молодая звезда ‘Тандер’ далеко не на вершине списка лучших по штрафным броскам за все время. Он отстает от таких игроков, как Карл-Энтони Таунс (2768) и Кавай Леонард (2792), и в настоящее время занимает 28-е место среди действующих игроков. Этот резкий контраст с утверждением ИИ подлил масла в огонь онлайн-насмешек.
Не первое родео для NBA Centel
Это был не первый случай, когда NBA Centel успешно обманул Grok. Всего несколько дней назад пародийный аккаунт сообщил, что товарищ Кевина Дюранта по команде, Девин Букер, пожертвовал 20 000 долларов на кампанию GoFundMe для Hooters, утверждая, что сеть ресторанов столкнулась с «потенциальным банкротством». И снова Grok ответил, подтвердив, что отчет верен, еще больше укрепив свою репутацию легковерного.
(Временный) бан NBA Centel
Выходки NBA Centel не остались без последствий. 26 февраля X временно ограничил учетную запись, что вызвало реакцию фанатов, игроков и даже спортивных журналистов, таких как Стивен А. Смит. Решение платформы заблокировать учетную запись, хотя и временно, высветило сохраняющуюся напряженность между сатирой, дезинформацией и ответственностью платформ социальных сетей.
Модель дезинформации
После восстановления NBA Centel продолжил свою серию, успешно обманув Grok дважды за одну неделю. Эти инциденты вызвали более широкий разговор о надежности информационных инструментов на базе искусственного интеллекта и возможности их неправильного использования, преднамеренного или случайного. Повторяющиеся ошибки Grok ставят под сомнение его способность отличать достоверные источники от ненадежных, а также его восприимчивость к преднамеренно сфабрикованной дезинформации.
Этот инцидент также подчеркивает важный аспект развивающихся отношений между людьми и искусственным интеллектом. Хотя технологии искусственного интеллекта продолжают развиваться быстрыми темпами, очевидно, что человеческий надзор и критическое мышление остаются অপরিтемыми. Способность отличать факты от вымысла, выявлять предвзятость и сатиру, а также ставить под сомнение информацию, представленную инструментами искусственного интеллекта, важна как никогда.
Задача отличить сатиру от реальности
Для платформ социальных сетей задача состоит в том, чтобы сбалансировать свободу выражения мнений с необходимостью бороться с распространением дезинформации. Пародийные аккаунты, такие как NBA Centel, занимают серую зону, часто используя юмор и преувеличение, чтобы взаимодействовать со своей аудиторией. Однако их сообщения иногда могут стирать грань между сатирой и реальностью, потенциально вводя в заблуждение пользователей и, как видно из этого случая, даже чат-ботов с искусственным интеллектом.
Инцидент с Grok служит напоминанием о важности медиаграмотности в цифровую эпоху. Пользователи должны обладать навыками критической оценки информации, независимо от ее источника, и осознавать возможность как преднамеренной, так и непреднамеренной дезинформации. Это включает в себя понимание ограничений инструментов искусственного интеллекта и признание того, что они не являются непогрешимыми источниками истины.
Будущее ИИ и точность информации
Продолжающаяся разработка технологий искусственного интеллекта открывает как захватывающие возможности, так и серьезные проблемы. По мере того, как ИИ все больше интегрируется в нашу повседневную жизнь, его способность точно обрабатывать и распространять информацию будет иметь решающее значение. Инцидент с Grok подчеркивает необходимость дальнейшего совершенствования алгоритмов искусственного интеллекта, особенно в их способности обнаруживать и обрабатывать сатирический или вводящий в заблуждение контент.
Разработчики должны уделять первоочередное внимание разработке инструментов искусственного интеллекта, которые не только мощны и универсальны, но и надежны и заслуживают доверия. Это включает в себя внедрение механизмов проверки фактов, проверки источников и выявления потенциальных предубеждений. Это также требует приверженности прозрачности, позволяя пользователям понимать, как системы искусственного интеллекта приходят к своим выводам, и выявлять потенциальные источники ошибок.
Инцидент с NBA Centel и Grok — это лишь один пример проблем, которые предстоит решить. По мере того, как технологии искусственного интеллекта продолжают развиваться, будет важно решать эти проблемы заблаговременно, гарантируя, что ИИ служит инструментом для улучшения нашего понимания мира, а не способствует распространению дезинформации. Будущее ИИ зависит от его способности не только обрабатывать информацию, но и отличать правду от лжи, и делать это надежным и прозрачным образом. Смех, направленный на ошибку Grok, служит мощным напоминанием об этой продолжающейся проблеме.