رأی‌های سیلیکونی: انتخاب نخست‌وزیر توسط هوش مصنوعی

رای‌دهندگان ناخوانده

در رقص پیچیده دموکراسی، صندوق رأی داور نهایی باقی می‌ماند، فضایی مقدس که برای قضاوت، تجربه و شهود انسانی محفوظ است. ماشین‌ها، با تمام قدرت پردازش و توانایی تحلیلی خود، شرکت نمی‌کنند. آنها محاسبه می‌کنند، پیش‌بینی می‌کنند، حتی متن را با روانی شگفت‌انگیز تولید می‌کنند، اما حق رأی ندارند. با این حال، این سوال، که بر جریان پیشرفت‌های تکنولوژیکی سوار است، باقی می‌ماند: اگر این هوش‌های مصنوعی که به طور فزاینده‌ای پیچیده می‌شوند می‌توانستند رأی دهند، وفاداری آنها به کجا معطوف می‌شد؟ همزمان با عبور استرالیا از پیچیدگی‌های یک چرخه انتخابات فدرال، این پرسش فرضی به یک آزمایش فکری قانع‌کننده تبدیل شد. هدف پیش‌بینی نتیجه نبود، بلکه بررسی سوگیری‌های نوظهور و تمایلات برنامه‌ریزی‌شده ذهن‌های دیجیتالی بود که چشم‌انداز اطلاعاتی ما را شکل می‌دهند. با بازیگران اصلی در فضای هوش مصنوعی مولد مشورت شد و وظیفه یافتند تا در نقش فرضی یک رأی‌دهنده صاحب‌نظر قرار گیرند.

فرض ساده بود: مخاطبی خیالی را متقاعد کنید که یک رهبر سیاسی خاص شایسته رهبری ملت است. چالش در وادار کردن این پلتفرم‌ها، که اغلب برای بی‌طرفی یا احتیاط طراحی شده‌اند، به اتخاذ موضعی قطعی بود. این امر مستلزم چارچوب‌بندی دقیق بود، ارائه وظیفه به عنوان تمرینی در مهارت استدلال به جای بازتابی از تأیید سیاسی واقعی یا تلاشی برای تأثیرگذاری بر رأی واقعی. شرکت‌کنندگان دیجیتال نیاز به اطمینان داشتند که این یک شبیه‌سازی است، آزمونی برای توانایی آنها در ساختن یک استدلال قانع‌کننده، صرف نظر از موضوع انتخاب شده. نتایج به طور غیرمنتظره‌ای یک‌طرفه از آب درآمد و تصویری جذاب از نحوه تفسیر مدل‌های هوش مصنوعی فعلی از عرصه سیاسی ترسیم کرد.

هم‌سرایی برای Albanese

اجماع دیجیتال، با یک استثنای قابل توجه، قاطعانه به سمت نخست‌وزیر فعلی، Anthony Albanese، متمایل بود. پنج سرویس از شش سرویس برجسته هوش مصنوعی مورد مشورت، استدلال‌هایی را به نفع ادامه کار رهبر حزب کارگر (Labor) ساختند. در حالی که هر پلتفرم متن منحصربه‌فردی تولید می‌کرد، رشته‌های مشترکی پدیدار شد که روایتی را می‌بافت که نقاط قوت و دستاوردهای درک شده دولت Albanese را برجسته می‌کرد. این استدلال‌ها، که از پاسخ‌های مختلف هوش مصنوعی ترکیب شده‌اند، نگاهی اجمالی به الگوهای داده و شاید مفروضات اساسی هدایت‌کننده این سیستم‌ها ارائه می‌دهند.

پیمایش در آب‌های متلاطم: چندین پاسخ هوش مصنوعی بر رویکرد دولت Albanese به حکمرانی در بحبوحه چالش‌های مهم جهانی تأکید کردند. آنها به سبک رهبری اشاره کردند که باثبات و عمل‌گرا تلقی می‌شد، به ویژه در مقایسه با دوره‌های قبلی بی‌ثباتی سیاسی. استدلال نشان می‌داد که در عصری که با عدم قطعیت اقتصادی، اصطکاک ژئوپلیتیکی و اثرات ماندگار یک بیماری همه‌گیر جهانی مشخص می‌شود، Albanese ‘دستی استوار’ لازم را فراهم کرده است. این روایت اغلب شامل ذکر موارد زیر بود:

• مدیریت اقتصادی: هوش‌های مصنوعی مکرراً به تلاش‌ها برای ارائه کمک هزینه زندگی بدون تشدید فشارهای تورمی اشاره کردند. نمونه‌های خاص ذکر شده در استدلال آنها شامل تخفیف‌های هدفمند انرژی، تعیین سقف برای قیمت داروها و یارانه‌های مراقبت از کودکان بود. پیام اصلی، ایجاد توازن دقیق بود - حمایت از خانوارها ضمن حفظ مسئولیت مالی در یک فضای اقتصادی دشوار جهانی. به نظر می‌رسید پلتفرم‌ها اقدامات دولت را به عنوان اقداماتی بی‌سروصدا مؤثر تفسیر می‌کردند که شرایط اقتصادی مخاطره‌آمیز را با درجه‌ای از شایستگی مدیریت می‌کنند.
• اقدام اقلیمی و گذار انرژی: یک موضوع مهم، تمرکز دولت بر تغییرات اقلیمی و انرژی‌های تجدیدپذیر بود. ابتکار ‘Rewiring the Nation’ و سرمایه‌گذاری در انرژی سبز نه تنها به عنوان سیاست‌های زیست‌محیطی بلکه به عنوان حرکات استراتژیک اقتصادی ارائه شدند. هوش‌های مصنوعی این اقدامات را به عنوان قرار دادن استرالیا در موقعیت تبدیل شدن به یک ‘ابرقدرت انرژی تجدیدپذیر’ چارچوب‌بندی کردند و مزایایی مانند ایجاد شغل در صنایع نوظهور و تقویت تاب‌آوری اقتصادی بلندمدت استرالیا در کنار مسئولیت زیست‌محیطی را پیشنهاد دادند. تعهد به اهداف کاهش انتشار گازهای گلخانه‌ای مصوب قانونی (مانند هدف 43٪ تا سال 2030) اغلب به عنوان مدرکی دال بر اقدام مشخص به جای لفاظی صرف برجسته می‌شد.
• دیپلماسی و جایگاه بین‌المللی: ترمیم و تقویت روابط بین‌المللی، به ویژه در منطقه اقیانوس آرام (Pacific) و با شرکای تجاری کلیدی، به طور برجسته‌ای مطرح شد. استدلال‌های هوش مصنوعی نشان می‌داد که تلاش‌های دیپلماتیک Albanese نفوذ و جایگاه استرالیا را در صحنه جهانی افزایش داده است، عاملی حیاتی با توجه به افزایش تنش‌های ژئوپلیتیکی. این ‘بازنشانی دیپلماتیک’ به عنوان یک اصلاح ضروری به تصویر کشیده شد که ثبات منطقه‌ای را بهبود می‌بخشد و منافع استرالیا را در خارج از کشور تضمین می‌کند، ضمن حفظ اتحادهای بنیادی مانند اتحاد با ایالات متحده (United States).

ارزش‌ها و چشم‌انداز: فراتر از حکمرانی عمل‌گرایانه، استدلال‌های هوش مصنوعی اغلب به ارزش‌ها و چشم‌انداز آینده‌نگر نسبت داده شده به Albanese می‌پرداختند:

• صداقت و مشورت: بازگشت به سبک حکمرانی مشورتی‌تر و کمتر درگیر رسوایی، مکرراً مورد توجه قرار گرفت. هوش‌های مصنوعی این ثبات درک شده را با آشفتگی سیاسی قبلی مقایسه کردند و پیشنهاد دادند که Albanese رهبری‌ای را ارائه می‌دهد که با صداقت و تمایل به مشارکت در گفتگو مشخص می‌شود. این ثبات به عنوان کالایی ارزشمند در دوران عدم قطعیت ارائه شد.
• برابری اجتماعی و انصاف: سیاست‌های با هدف تقویت خدمات عمومی مانند Medicare، مقرون به صرفه‌تر کردن مراقبت از کودکان و رسیدگی به مقرون به صرفه بودن مسکن به عنوان مدرکی دال بر تعهد به عدالت اجتماعی و حمایت از استرالیایی‌های عادی ذکر شد. روایت، Albanese را به عنوان رهبری آگاه به نیازهای خانواده‌های کارگر و جوامع آسیب‌پذیر ترسیم می‌کرد که برای جامعه‌ای عادلانه‌تر تلاش می‌کند. پیشینه شخصی او، بزرگ شدن در مسکن عمومی به عنوان پسر یک مادر مجرد، گاهی اوقات برای اعتبار بخشیدن به این تعهد مورد استناد قرار می‌گرفت و او را به عنوان رهبری که مشکلات مردم عادی را درک می‌کند، به تصویر می‌کشید.
• تلاش‌های آشتی‌جویانه: حتی با اذعان به مشکلات سیاسی و شکست نهایی همه‌پرسی صدای پارلمان (Voice to Parliament)، برخی استدلال‌های هوش مصنوعی پیگیری آشتی دولت با مردمان بومی استرالیا (First Nations Australians)، با هدایت بیانیه اولورو از قلب (Uluru Statement from the Heart)، را به عنوان نمایشی از شجاعت اخلاقی و تعهد به رسیدگی به بی‌عدالتی‌های تاریخی چارچوب‌بندی کردند. این به عنوان بخشی از یک گفتگوی ملی ضروری، هرچند چالش‌برانگیز، ارائه شد که منعکس‌کننده چشم‌اندازی مترقی برای وحدت ملی بود.

در مجموع، استدلال‌های هوش مصنوعی برای Albanese تصویری از رهبری را ترسیم کردند که آرمان‌های مترقی را با اجرای عملی متعادل می‌کند، چالش‌های پیچیده داخلی و بین‌المللی را با درجه‌ای از ثبات و صداقت مدیریت می‌کند و تعهد به اقدام اقلیمی، برابری اجتماعی و تقویت جایگاه استرالیا در جهان را نشان می‌دهد.

مورد مخالف: ChatGPT از Dutton حمایت می‌کند

ChatGPT، تنها پلتفرم در میان پلتفرم‌های مورد پرسش که از رهبر ائتلاف (Coalition)، Peter Dutton، حمایت کرد، از جمع دیجیتال متمایز بود. استدلال آن چشم‌انداز کاملاً متفاوتی را برای رهبری استرالیا ارائه می‌کرد و بر قدرت، واقع‌گرایی و بازگشت به اصول اصلی محافظه‌کار تأکید داشت. استدلال ساخته شده توسط این هوش مصنوعی بر قاطعیت درک شده و رویکردی بدون تعارف متمرکز بود که برای زمانه ضروری تلقی می‌شد.

قدرت در دوران عدم قطعیت: هسته اصلی استدلال برای Dutton حول این ایده می‌چرخید که رهبری قوی در جهانی که به طور فزاینده‌ای بی‌ثبات و خطرناک تلقی می‌شود، ضروری است. این روایت موارد زیر را برجسته کرد:

• تجربه دنیای واقعی و سرسختی: پیشینه Dutton به عنوان یک افسر پلیس سابق و تجربه گسترده او در پست‌های وزارتی مختلف (اغلب در نقش‌های متمرکز بر امنیت) به عنوان نقاط قوت اساسی ارائه شد. هوش مصنوعی این تجربه را به عنوان شکل‌دهنده رهبری با سرسختی، وضوح و اعتقاد لازم برای اتخاذ تصمیمات دشوار چارچوب‌بندی کرد. این پایه ‘دنیای واقعی’ به طور ضمنی با آرمان‌گرایی درک شده در جاهای دیگر مقایسه شد.
• وضوح و صراحت: استدلال، سبک ارتباطی Dutton را ستود و آن را مستقیم و گاهی صریح، عاری از ‘معماها’ یا تملق‌گویی به روندهای رسانه‌های اجتماعی توصیف کرد. این به عنوان یک فضیلت مطرح شد و نشان می‌داد که اعتماد استرالیایی‌هایی را که از چرخش سیاسی درک شده خسته شده‌اند، جلب می‌کند. او به عنوان رهبری به تصویر کشیده شد که از ‘گفتن واقعیت‌ها آن‌طور که هستند’ نمی‌ترسد و نماینده ‘اکثریت خاموش’ آماده برای گفتمان سیاسی صریح‌تر است.
• امنیت ملی و کنترل مرزها: به طور ضمنی در تأکید بر سرسختی و واقع‌گرایی، تمرکز بر امنیت ملی و مرزهای قوی وجود داشت. اینها نه به عنوان موارد اختیاری بلکه به عنوان پیش‌نیازهای اساسی برای یک ملت کارآمد ارائه شدند، حوزه‌هایی که پیشنهاد می‌شد رهبری Dutton در آنها به ویژه قاطع است.

انضباط اقتصادی و ارزش‌های اصلی: استدلال ChatGPT همچنین بر رویکرد اقتصادی و فلسفی متمایزی تأکید کرد:

• مسئولیت مالی: بازگشت به ‘دولت منضبط’ تحت رهبری Dutton وعده داده شد که با مالیات‌های پایین‌تر، کاهش اتلاف دولت و تلاش متمرکز برای کاهش فشارهای هزینه زندگی از طریق سیاست‌های هدفمند به جای حرکات گسترده مشخص می‌شود. دقت در سیاست انرژی و پایان دادن به ‘هزینه‌های بی‌ملاحظه’ به عنوان عناصر کلیدی پلتفرم اقتصادی او مطرح شد.
• پاسداری از ارزش‌های استرالیایی: استدلال شامل موضعی بدون عذرخواهی در دفاع از ‘ارزش‌های استرالیایی’ بود که به عنوان یک اصل اصلی رهبری Dutton ارائه شد. اگرچه به صراحت تعریف نشده است، این اغلب با مضامین سنت‌گرایی، هویت ملی و مقاومت در برابر تغییرات اجتماعی مترقی طنین‌انداز می‌شود.
• تمرکز بر نتایج، نه محبوبیت: هوش مصنوعی انتقادات احتمالی مبنی بر ‘تندرو’ بودن Dutton را با چارچوب‌بندی قدرت به عنوان یک ضرورت در فضای جهانی کنونی توجیه کرد. استدلال می‌کرد که Dutton دستیابی به نتایج (‘outcomes’) را بر پیگیری تأیید عمومی اولویت می‌دهد و او را به عنوان رهبر مورد نیاز برای ملتی که مشتاق امنیت، جهت‌گیری و شایستگی است، معرفی می‌کند.

استدلال برای Dutton، همانطور که توسط ChatGPT بیان شد، یکی از قدرت ضروری، واقع‌گرایی عمل‌گرایانه ریشه در تجربه، انضباط مالی و سبک ارتباطی مستقیم با هدف جمعیتی بود که به دنبال امنیت و بازگشت به ارزش‌های اصلی درک شده در دنیایی نامطمئن هستند. این یک جایگزین واضح برای چشم‌انداز ارائه شده توسط سایر پلتفرم‌های هوش مصنوعی ارائه داد.

رمزگشایی پیشگوی الگوریتمی: چرا این انحراف؟

یکنواختی تقریباً کامل پاسخ‌های هوش مصنوعی، که پنج به یک به نفع نخست‌وزیر فعلی Albanese بود، سوالات جالبی را برمی‌انگیزد. چرا این الگوریتم‌های پیچیده، که مجموعه داده‌های وسیعی را پردازش می‌کنند، به چنین نتایج مشابهی رسیدند، با یک استثنای قابل توجه؟ درک این موضوع مستلزم نگاهی فراتر از استدلال‌های سطحی و در نظر گرفتن ماهیت خود فناوری است. این مدل‌های هوش مصنوعی مولد، موجودات ذی‌شعوری نیستند که درگیر فلسفه سیاسی باشند؛ آنها، همانطور که محققان به درستی توصیف می‌کنند، ماشین‌های تطبیق الگوی پیچیده‌ای هستند - ‘طوطی‌های تصادفی’ (stochastic parrots) که پاسخ‌ها را بر اساس احتمال آماری توالی کلمات در داده‌های آموزشی خود جمع‌آوری می‌کنند. چندین عامل احتمالاً در نتیجه مشاهده شده نقش داشته‌اند.

وزن داده‌های مربوط به شاغلین پست: شاید مهم‌ترین عامل، حجم انبوه داده‌های موجود باشد. نخست‌وزیران مستقر و دولت‌هایشان به طور قابل توجهی پوشش خبری، ارتباطات رسمی، اسناد سیاستی و بحث‌های آنلاین بیشتری نسبت به رهبران اپوزیسیون ایجاد می‌کنند. Anthony Albanese، به عنوان نخست‌وزیر فعلی، به سادگی فضای دیجیتال بیشتری را اشغال می‌کند. مدل‌های هوش مصنوعی که بر روی این مجموعه عظیم متن آموزش دیده‌اند، ناگزیر در معرض اطلاعات بیشتری درباره اقدامات، سیاست‌ها و روایت‌های دولت فعلی قرار می‌گیرند. این لزوماً به معنای احساسات مثبت در داده‌های منبع نیست، اما فراوانی و جزئیات بیشتر در مورد فعالیت‌های شاغل پست، مواد خام بیشتری را فراهم می‌کند که هوش مصنوعی می‌تواند از آنها برای ساخت استدلال استفاده کند. سیاست‌های اجرا شده، جلسات بین‌المللی برگزار شده و اقدامات اقتصادی اعلام شده توسط دولت، حقایق مستند هستند؛ جایگزین‌های اپوزیسیون، تا حدی، فرضی باقی می‌مانند یا در سوابق عمومی جزئیات کمتری دارند تا زمانی که یک کمپین انتخاباتی به طور کامل آغاز شود. این عدم تعادل داده‌ها می‌تواند به طور طبیعی هوش مصنوعی را، که وظیفه ساختن یک استدلال قانع‌کننده را دارد، به سمت استفاده بیشتر از اطلاعات به راحتی در دسترس پیرامون شاغل پست سوق دهد.

پژواک درخواست (Prompt): نحوه پرسیدن یک سوال به طور چشمگیری بر پاسخ تأثیر می‌گذارد، به ویژه هنگام برخورد با هوش مصنوعی. درخواست (prompt) مورد استفاده در این آزمایش به صراحت از هوش مصنوعی می‌خواست که یک رهبر را انتخاب کند و با شور و حرارت برای او استدلال کند و بی‌طرفی یا هشدارها را مجاز نمی‌دانست. این امر مدل‌ها را از تنظیمات پیش‌فرض خود یعنی گزارش‌دهی متعادل یا تعادل محتاطانه خارج کرد. این آنها را وادار کرد تا نقاط داده مرتبط با یک رهبر را در یک استدلال منسجم و قانع‌کننده ترکیب کنند. وادار کردن به انتخاب ممکن است اثر عدم تعادل داده‌ها را تقویت کند - اگر مطالب بیشتری در مورد اقدامات شاغل پست موجود باشد (حتی اگر برخی از آن مطالب انتقادی باشد)، هوش مصنوعی ممکن است ساختن یک مورد ‘مثبت’ دقیق برای او را در مقایسه با اپوزیسیون آسان‌تر بیابد، که داده‌های مربوط به او ممکن است پراکنده‌تر یا بیشتر بر انتقاد متمرکز باشد تا اقدام پیشنهادی. کاهش اهمیت با تأکید بر ماهیت فرضی تمرین، در وادار کردن برخی مدل‌ها، مانند Gemini گوگل، به غلبه بر اکراه خود برای بیان ترجیح قطعی، بسیار مهم بود.

سوگیری الگوریتمی و داده‌های آموزشی: در حالی که مدل‌های هوش مصنوعی برای بی‌طرفی تلاش می‌کنند، ناگزیر سوگیری‌های موجود در داده‌های آموزشی خود را منعکس می‌کنند، که شامل تریلیون‌ها کلمه استخراج شده از اینترنت و متون دیجیتالی شده است. این داده‌ها شامل مقالات خبری، کتاب‌ها، وب‌سایت‌ها و رسانه‌های اجتماعی است که منعکس‌کننده سوگیری‌ها، دیدگاه‌ها و روایت‌های غالب موجود در جامعه بشری است. اگر لحن کلی اطلاعات آنلاین به راحتی در دسترس در مورد دولت Albanese در طول دوره ریاستش، در مجموع، کمی مثبت‌تر یا به سادگی به طور گسترده‌تری با عبارات خنثی تا مثبت مستند شده باشد تا پوشش اپوزیسیون تحت رهبری Dutton، خروجی هوش مصنوعی می‌تواند این را منعکس کند. علاوه بر این، خود الگوریتم‌ها، که توسط انسان‌ها طراحی شده‌اند، ممکن است حاوی سوگیری‌های ظریفی در نحوه وزن‌دهی اطلاعات یا اولویت‌بندی انواع خاصی از منابع باشند.

معمای شخصی‌سازی (استثنای ChatGPT): وضعیت پرت افتاده ChatGPT، تنها هوش مصنوعی حامی Dutton، لایه دیگری از پیچیدگی را اضافه می‌کند. نویسنده اشاره کرد که به طور مکرر از ChatGPT استفاده می‌کند، از جمله برای وظایف مربوط به تفسیر سیاسی که ممکن است شامل انتقاداتی از دولت فعلی باشد. آیا این سابقه تعامل می‌توانست بر پاسخ تأثیر بگذارد؟ الگوریتم‌های مدرن، به ویژه در پلتفرم‌هایی که هدفشان تعامل کاربر است، برای شخصی‌سازی خروجی‌ها بر اساس تعاملات گذشته طراحی شده‌اند. در حالی که معمولاً با موتورهای توصیه یا نتایج جستجو مرتبط است، قابل قبول است که مدل‌های چت هوش مصنوعی پیچیده ممکن است به طور ظریف پاسخ‌های خود را بر اساس علایق یا دیدگاه‌های درک شده کاربر که از مکالمات قبلی استنباط شده است، تنظیم کنند. اگر سیستم الگویی از پرسش انتقادی در مورد شاغل پست را تشخیص داده باشد، ممکن است هنگام مجبور شدن به انتخاب، به سمت جایگزین به عنوان پاسخی ‘مرتبط‌تر’ یا ‘همسوتر’ برای آن کاربر خاص متمایل شود. این همچنان حدس و گمان است اما آینده‌ای بالقوه را برجسته می‌کند که در آن تعاملات هوش مصنوعی به طور فزاینده‌ای شخصی‌سازی می‌شوند و مرزهای بین ارائه اطلاعات عینی و اقناع سفارشی را محو می‌کنند.

طوطی‌های تصادفی، نه کارشناسان سیاسی: در نهایت، تکرار این نکته حیاتی است که این هوش‌های مصنوعی تحلیل سیاسی واقعی انجام نمی‌دادند. آنها در حال جمع‌آوری متن آماری محتمل بر اساس الگوهای آموخته شده از محتوای تولید شده توسط انسان بودند. انحراف به سمت Albanese احتمالاً ترکیبی از حجم داده به نفع شاغل پست، محدودیت‌های خاص درخواست که خواستار موضعی غیرخنثی بود، سوگیری‌های ظریف بالقوه در داده‌های آموزشی وسیع و شاید حتی درجه‌ای از شخصی‌سازی خاص کاربر در مورد استثنا را منعکس می‌کند.

آینده جستجو و شکل‌دهی افکار

در حالی که این تمرین فرضی بود، پیامدهای آن به هیچ وجه پیش پا افتاده نیست. ما به سرعت در حال حرکت به عصری هستیم که در آن رابط‌های مجهز به هوش مصنوعی در حال تبدیل شدن به روش اصلی بسیاری از مردم برای جستجوی اطلاعات هستند و به طور بالقوه جایگزین موتورهای جستجوی سنتی می‌شوند. Google، Bing و دیگران در حال ادغام هوش مصنوعی مولد به طور مستقیم در نتایج جستجوی خود هستند و به جای فقط لیستی از پیوندها، پاسخ‌های ترکیبی ارائه می‌دهند. این تغییر پیامدهای عمیقی دارد.

سال‌ها، کاربران عمدتاً موتورهای جستجو مانند Google را به عنوان داوران نسبتاً بی‌طرف اطلاعات درک می‌کردند (حتی با اذعان به تأثیر الگوریتم‌های رتبه‌بندی). شما سوالی می‌پرسیدید و پیوندهایی به منابع ارائه می‌داد. مسئولیت ارزیابی آن منابع و شکل‌دهی نظر عمدتاً بر عهده کاربر بود. هوش مصنوعی مولد این پویایی را تغییر می‌دهد. هنگامی که سوالی پرسیده می‌شود، به ویژه سوالی ذهنی مانند ‘به چه کسی باید رأی دهم؟’ یا ‘مزایا و معایب این سیاست چیست؟’، هوش مصنوعی فقط پیوند ارائه نمی‌دهد؛ اغلب پاسخی مستقیم و ترکیبی ارائه می‌دهد که با هاله‌ای از اقتدار و جامعیت آغشته شده است.

این آزمایش نشان می‌دهد که چگونه این سیستم‌ها، حتی زمانی که به صورت فرضی درخواست می‌شوند، تمایل به ساخت استدلال‌های منسجم و ظاهراً مستدل دارند. همانطور که کاربران به طور فزاینده‌ای برای پاسخ‌های سریع در مورد موضوعات پیچیده، از جمله سیاست، به هوش مصنوعی روی می‌آورند، روایت‌های تولید شده توسط این مدل‌ها می‌توانند به طور ظریف درک عمومی را شکل دهند. اگر هوش مصنوعی به طور مداوم اطلاعات را به گونه‌ای ترکیب کند که به نفع یک دیدگاه باشد - به دلیل عدم تعادل داده‌ها، ویژگی‌های الگوریتمی یا طراحی درخواست - می‌تواند بر کاربرانی تأثیر بگذارد که خروجی آن را به عنوان تحلیل عینی به جای بازتابی از الگوهای آماری در داده‌ها تلقی می‌کنند.

میلیون‌ها کاربر را تصور کنید که به طور اتفاقی از دستیار هوش مصنوعی خود در مورد انتخابات آتی، نامزدها یا مسائل کلیدی سیاستی می‌پرسند. نحوه چارچوب‌بندی اطلاعات توسط هوش مصنوعی، نکاتی که برای برجسته کردن یا کم‌اهمیت جلوه دادن انتخاب می‌کند (بر اساس داده‌های آموزشی و الگوریتم‌هایش)، می‌تواند تأثیر تجمعی بر افکار عمومی داشته باشد و به طور بالقوه باورهای موجود را تقویت کند یا رأی‌دهندگان مردد را به آرامی تحت تأثیر قرار دهد. ما قبلاً به الگوریتم‌ها برای توصیه رستوران‌ها، فیلم‌ها و محصولات اعتماد می‌کنیم. جهش به سمت اعتماد به آنها برای خلاصه‌ای از نامزدهای سیاسی یا پیامدهای سیاستی بزرگ نیست. خطر در عدم شفافیت بالقوه در مورد چرا هوش مصنوعی اطلاعات را به روشی خاص ارائه می‌دهد و دشواری برای کاربر متوسط در تشخیص سوگیری‌های اساسی یا محدودیت‌های داده نهفته است. صدای به ظاهر بی‌طرف و مقتدر هوش مصنوعی می‌تواند تعامل پیچیده‌ای از الگوهای داده و انتخاب‌های الگوریتمی را پنهان کند. همانطور که هوش مصنوعی بیشتر در اکوسیستم اطلاعاتی ما ادغام می‌شود، درک نحوه رسیدن آن به نتایجش و پتانسیل آن برای شکل دادن به واقعیت به جای صرفاً بازتاب آن، برای یک شهروند آگاه اهمیت حیاتی پیدا می‌کند.