ترولی که هوش مصنوعی را به دام انداخت
NBA Centel، یک حساب کاربری در X (پلتفرم که قبلاً به عنوان توییتر شناخته می شد) که به خاطر پست های طنز و اغلب نادرست خود شناخته شده است، توییتی را ایجاد کرد که موجی از واکنش ها را در جامعه آنلاین بسکتبال به راه انداخت. روز دوشنبه، این حساب کاربری به دروغ ادعا کرد که کوین دورانت از شای گیلجس-الکساندر برای جایگاه هشتم در لیست پرتاب‌های آزاد دوران حرفه‌ای فصل عادی لیگ، پیشی گرفته است.
در حالی که درست است که دورانت اخیراً با 7244 پرتاب آزاد موفق از دیرک نویتسکی عبور کرده و به آن جایگاه رسیده است، گنجاندن گیلجس-الکساندر یک جعل آشکار بود. ستاره اوکلاهاما سیتی تاندر، با 2692 پرتاب آزاد دوران حرفه‌ای، حتی در بین 200 نفر برتر تاریخ لیگ هم قرار ندارد.
اشتباه فاحش Grok
با این حال، سرگرمی واقعی از پاسخ Grok ناشی شد. این چت بات هوش مصنوعی که توسط xAI ایلان ماسک توسعه یافته است، با اطمینان توییت عمداً اشتباه را تأیید کرد. این اشتباه فاحش نادیده گرفته نشد و طرفداران NBA به سرعت از این فرصت برای تمسخر اشتباه هوش مصنوعی استفاده کردند.
واکنش‌ها سرازیر شد، از کنایه‌های بازیگوشانه تا تمسخر آشکار. این حادثه یادآور دیگری از محدودیت‌های فناوری فعلی هوش مصنوعی، به‌ویژه حساسیت آن به اطلاعات نادرست، به‌ویژه زمانی که به شیوه‌ای مطمئن و ظاهراً معتبر ارائه می‌شود، بود.
در اینجا نحوه واکنش برخی از طرفداران آمده است:
یکی از طرفداران گفت:
یکی دیگر از طرفداران اضافه کرد:
واکنش های بیشتر ادامه یافت:
Grok متعلق به xAI: یک کار در حال پیشرفت؟
خرید توییتر توسط ایلان ماسک به مبلغ هنگفت 44 میلیارد دلار در اکتبر 2022، نشان دهنده تغییر قابل توجهی در چشم انداز رسانه های اجتماعی بود. یک سال بعد، در نوامبر 2023، xAI از Grok رونمایی کرد و آن را به عنوان ابزاری انقلابی معرفی کرد که قادر به پاسخگویی به “تقریباً هر چیزی” است و حتی سوالاتی را که کاربران ممکن است بخواهند بپرسند، پیشنهاد می کند.
با این حال، نسخه اولیه، Grok-1، بلافاصله به دلیل نادرستی ها و نقص هایش با انتقاد مواجه شد. این امر باعث انتشار Grok-1.5 در اواسط دسامبر همان سال، با وعده بهبود عملکرد و قابلیت اطمینان شد.
با وجود این پیشرفت ها، Grok همچنان موضوع بررسی دقیق است. منتقدان به موارد متعددی اشاره می کنند که هوش مصنوعی در آنها دچار لغزش شده و اطلاعات نادرست یا گمراه کننده ای ارائه کرده است. یک مثال قابل توجه مربوط به یکی از طرفداران تیلور سویفت بود که در مورد معنای عنوان آلبوم این هنرمند، “TTPD” (The Tortured Poets Department) سوال کرد. Grok با اطمینان پاسخی نادرست ارائه داد که نشان دهنده مبارزات مداوم آن با دقت است.
جایگاه واقعی پرتاب آزاد شای گیلجس-الکساندر
آمار ساختگی مربوط به شای گیلجس-الکساندر، آسیب پذیری Grok را بیشتر نشان داد. در میان بازیکنان فعال، ستاره جوان تاندر فاصله زیادی با صدر لیست پرتاب های آزاد تاریخ دارد. او از بازیکنانی مانند کارل-آنتونی تاونز (2768) و کوای لئونارد (2792) عقب تر است و در حال حاضر در رتبه 28 در میان بازیکنان فعال قرار دارد. این تضاد آشکار با ادعای هوش مصنوعی، به آتش تمسخر آنلاین دامن زد.
اولین بار NBA Centel نیست
این اولین باری نبود که NBA Centel با موفقیت Grok را فریب می داد. چند روز قبل، این حساب کاربری طنز اعلام کرده بود که هم تیمی کوین دورانت، دوین بوکر، 20000 دلار به کمپین GoFundMe برای Hooters اهدا کرده است و ادعا می کرد که این رستوران زنجیره ای با “ورشکستگی بالقوه” روبرو است. بار دیگر، Grok با تأیید صحت این گزارش پاسخ داد و شهرت خود را به عنوان یک ابزار به راحتی فریب خورده، بیشتر تثبیت کرد.
ممنوعیت (موقت) NBA Centel
اقدامات NBA Centel بدون عواقب نبوده است. در 26 فوریه، X به طور موقت این حساب را محدود کرد، اقدامی که واکنش هایی را از سوی طرفداران، بازیکنان و حتی روزنامه نگاران ورزشی مانند استفن ای. اسمیت برانگیخت. تصمیم این پلتفرم برای ممنوعیت این حساب، هرچند موقت، تنش مداوم بین طنز، اطلاعات نادرست و مسئولیت های پلتفرم های رسانه های اجتماعی را برجسته کرد.
الگویی از اطلاعات نادرست
پس از بازگرداندن حساب، NBA Centel به روند خود ادامه داد و در عرض یک هفته دو بار با موفقیت Grok را فریب داد. این حوادث به گفتگوی گسترده تری در مورد قابلیت اطمینان ابزارهای اطلاعاتی مبتنی بر هوش مصنوعی و پتانسیل سوء استفاده از آنها، چه عمدی و چه تصادفی، دامن زده است. اشتباهات مکرر Grok سوالاتی را در مورد توانایی آن در تشخیص منابع معتبر از منابع غیرقابل اعتماد و حساسیت آن به فریب خوردن از اطلاعات نادرست عمداً ساخته شده، ایجاد می کند.
این حادثه همچنین جنبه مهمی از رابطه در حال تکامل بین انسان و هوش مصنوعی را برجسته می کند. در حالی که فناوری هوش مصنوعی با سرعت زیادی به پیشرفت خود ادامه می دهد، واضح است که نظارت انسانی و تفکر انتقادی همچنان ضروری است. توانایی تشخیص واقعیت از خیال، شناسایی سوگیری و طنز، و زیر سوال بردن اطلاعات ارائه شده توسط ابزارهای هوش مصنوعی، بیش از هر زمان دیگری اهمیت دارد.
چالش تشخیص طنز از واقعیت
برای پلتفرم های رسانه های اجتماعی، چالش در ایجاد تعادل بین آزادی بیان و نیاز به مبارزه با گسترش اطلاعات نادرست است. حساب های طنز مانند NBA Centel در یک منطقه خاکستری قرار دارند و اغلب از طنز و اغراق برای تعامل با مخاطبان خود استفاده می کنند. با این حال، پست های آنها گاهی اوقات می تواند مرز بین طنز و واقعیت را محو کند و به طور بالقوه کاربران و، همانطور که در این مورد دیده شد، حتی چت بات های هوش مصنوعی را گمراه کند.
حادثه Grok یادآور اهمیت سواد رسانه ای در عصر دیجیتال است. کاربران باید به مهارت هایی برای ارزیابی انتقادی اطلاعات، صرف نظر از منبع آن، و آگاهی از پتانسیل اطلاعات نادرست عمدی و غیرعمدی مجهز شوند. این شامل درک محدودیت های ابزارهای هوش مصنوعی و تشخیص اینکه آنها منابع خطاناپذیر حقیقت نیستند، می شود.
آینده هوش مصنوعی و دقت اطلاعات
توسعه مداوم فناوری هوش مصنوعی هم امکانات هیجان انگیزی و هم چالش های مهمی را ارائه می دهد. از آنجایی که هوش مصنوعی به طور فزاینده ای در زندگی روزمره ما ادغام می شود، توانایی آن در پردازش و انتشار دقیق اطلاعات بسیار مهم خواهد بود. حادثه Grok بر نیاز به پالایش مداوم الگوریتم های هوش مصنوعی، به ویژه در توانایی آنها برای شناسایی و رسیدگی به محتوای طنز یا گمراه کننده، تأکید می کند.
توسعه دهندگان باید توسعه ابزارهای هوش مصنوعی را که نه تنها قدرتمند و همه کاره هستند، بلکه قابل اعتماد و قابل اعتماد نیز هستند، در اولویت قرار دهند. این شامل ترکیب مکانیسم هایی برای بررسی واقعیت، تأیید منبع و شناسایی سوگیری های بالقوه است. همچنین مستلزم تعهد به شفافیت است، به کاربران اجازه می دهد تا نحوه رسیدن سیستم های هوش مصنوعی به نتیجه گیری های خود را درک کنند و منابع بالقوه خطا را شناسایی کنند.
حادثه NBA Centel و Grok تنها یک نمونه از چالش هایی است که در پیش است. از آنجایی که فناوری هوش مصنوعی به تکامل خود ادامه می دهد، رسیدگی پیشگیرانه به این مسائل ضروری خواهد بود و اطمینان حاصل شود که هوش مصنوعی به عنوان ابزاری برای افزایش درک ما از جهان عمل می کند، نه اینکه به گسترش اطلاعات نادرست کمک کند. آینده هوش مصنوعی به توانایی آن نه تنها در پردازش اطلاعات، بلکه در تشخیص حقیقت از دروغ، و انجام این کار به شیوه ای که هم قابل اعتماد و هم شفاف باشد، بستگی دارد. خنده ای که متوجه اشتباه Grok شد، یادآور قدرتمندی از این چالش مداوم است.