مخاطرات واقعیت شخصی‌سازی‌شده در عصر هوش مصنوعی

معماری واقعیت شخصی‌سازی‌شده

دنیای دیجیتال به طور فزاینده‌ای توسط الگوریتم‌هایی شکل می‌گیرد که تجربیات فردی ما را سرپرستی می‌کنند. این بخش به بررسی نیروهای تکنولوژیکی و اقتصادی محرک این فراشخصی‌سازی می‌پردازد و بررسی می‌کند که چگونه این الگوریتم‌ها ادراکات و تعاملات اجتماعی ما را فیلتر و شکل می‌دهند، همه در چارچوب مدل‌های تجاری دیجیتال غالب.

منطق درونی فراشخصی‌سازی

مفهوم "فیلتر واقعیت" برای درک محیط اطلاعاتی امروزی اساسی است. الگوریتم‌ها فراتر از بازیابی ساده اطلاعات تکامل یافته‌اند و اکنون "اکوسیستم‌های اطلاعات شخصی" منحصر به فردی را برای هر کاربر ایجاد می‌کنند. هدف ایجاد تجربیات کاربری یکپارچه و جذاب است. این از طریق یک فرایند سه مرحله‌ای به دست می‌آید: شناسایی ویژگی‌های کاربر از طریق ردیابی رفتاری، ارائه محتوای بسیار مرتبط و پالایش مداوم برای تطبیق بهینه.

این اساساً نحوه مواجهه ما با اطلاعات را تغییر می‌دهد. محیط‌های اطلاعاتی که زمانی به طور گسترده به اشتراک گذاشته می‌شدند، به طور فزاینده‌ای منزوی و شخصی‌سازی شده‌اند. الگوریتم‌ها به طور مداوم رفتار کاربر را مشاهده می‌کنند—کلیک‌ها، زمان ماندگاری، اشتراک‌گذاری‌ها—تا درک خود از ترجیحات کاربر را تقویت کنند و افراد را در حباب‌های اطلاعاتی منعکس‌کننده علایق خود محصور کنند. این منجر به واقعیت‌های بسیار سفارشی می‌شود که برای هر فرد منحصر به فرد است.

اتاق موتور: سرمایه‌داری نظارتی و اقتصاد توجه

نیروهای اقتصادی پایه‌ای برای شیوع فراشخصی‌سازی در عصر دیجیتال هستند، در درجه اول اقتصاد توجه و سرمایه‌داری نظارتی.

Zeynep Tufekci استدلال می‌کند که پلتفرم‌های بزرگ فناوری برای جذب توجه کاربر و فروش آن به تبلیغ‌کنندگان تکیه می‌کنند. در این "اقتصاد توجه"، تعامل کاربر یک منبع ارزشمند است. پلتفرم‌ها به شدت انگیزه دارند تا محتوایی را تبلیغ کنند که تعامل را به حداکثر می‌رساند، که اغلب شامل اطلاعات رویارویی، احساسی و التهاب‌آور است. الگوریتم‌ها که توسط اهداف تجاری هدایت می‌شوند، محتوایی را تقویت می‌کنند که اختلافات اجتماعی را تشدید می‌کند.

تئوری "سرمایه‌داری نظارتی" Shoshana Zuboff منطق عمیق‌تری را نشان می‌دهد و استدلال می‌کند که پلتفرم‌ها چیزی بیش از فروش تبلیغات انجام می‌دهند. تجارت اصلی آنها ایجاد و بهره‌برداری از "بازارهای آتی رفتاری" است که در آن پیش‌بینی‌ها در مورد رفتار آینده خرید و فروش می‌شود. تعاملات کاربر توصیه‌های فعلی را بهینه می‌کند، اما همچنین "مازاد رفتاری" ایجاد می‌کند—داده‌هایی که برای آموزش مدل‌های پیش‌بینی استفاده می‌شوند. سپس شخصی‌سازی یک تمرین جمع‌آوری داده است که هدف آن پالایش ابزارهای پیش‌بینی و در نهایت تعدیل رفتار است و به منافع سرمایه‌داری نظارتی خدمت می‌کند، جدا از رفاه کاربر و سلامت اجتماعی.

ترکیب این نظریه‌ها ماهیت واقعی "فیلترهای واقعیت" را آشکار می‌کند. آنها ابزارهای خنثی نیستند که به کاربران قدرت می‌دهند، بلکه سیستم‌هایی هستند که سود را به حداکثر می‌رسانند و محیط‌های شخصی‌سازی‌شده جذابی را برای استخراج توجه کاربر و تبدیل داده‌های رفتاری به محصولات پیش‌بینی سودآور ایجاد می‌کنند و واقعیت تحریف‌شده را به یک محصول جانبی اجتناب‌ناپذیر تبدیل می‌کنند.

بنیاد فنی: از فیلتر مشترک تا مدل های مولد

یک بنیاد تکنولوژیکی در حال تکامل از این معماری تجاری پشتیبانی می‌کند. سیستم‌های توصیه اولیه به فیلتر مشترک متکی بودند و رفتار گروهی را برای پیش‌بینی ترجیحات فردی تجزیه و تحلیل می‌کردند. تکنیک‌هایی مانند مدل‌های زبانی بزرگ مانند BERT به سیستم‌ها اجازه می‌دهد تا هدف کاربر را درک کنند. به جای تطبیق ساده کلمات کلیدی، این سیستم‌ها توصیه‌های دقیق و منسجمی را ارائه می‌دهند. شرکت‌هایی مانند eBay، Alibaba و Meituan این مدل‌ها را در موتورهای توصیه خود پیاده‌سازی کرده‌اند.

هوش مصنوعی مولد یک جهش مهم به جلو را نشان می‌دهد و الگوریتم‌ها را قادر می‌سازد تا محتوای جدید و منحصر به فرد را در صورت تقاضا تولید کنند. بنابراین، واقعیت شخصی‌سازی‌شده می‌تواند با محتوای مصنوعی پر شود. به عنوان مثال، یک همراه هوش مصنوعی می‌تواند در مکالمات شرکت کند و عکس‌های سفارشی‌شده را برای کاربر ایجاد کند.

این مسیر به آینده‌ای اشاره دارد که در آن واقعیت شخصی‌سازی‌شده از محتوای انتخاب‌شده با دقت به جهان‌های سنتز شده با هوش مصنوعی که متناسب با فرد هستند، تغییر می‌کند. مرز بین واقعیت و مجازی محو می‌شود. این تغییر از "سرپرستی واقعیت" به "ایجاد واقعیت" ماهیت فراگیر "فیلترهای واقعیت" را عمیق‌تر می‌کند و به طور بالقوه تأثیر آنها را بر شناخت فردی و ساختارهای اجتماعی تقویت می‌کند.

همراهان هوش مصنوعی به عنوان دیگران صمیمی

یک روند قابل توجه در فراشخصی‌سازی ظهور برنامه‌های کاربردی همراه هوش مصنوعی است. این شخصیت‌های مجازی در مکالمات زبانی طبیعی مداوم و بسیار شخصی‌سازی‌شده شرکت می‌کنند و بسیاری از کاربران، به ویژه جمعیت جوان‌تر را جذب می‌کنند. داده‌های بازار نشان‌دهنده رشد سریع است: نیویورک تایمز گزارش می‌دهد که بیش از 10 میلیون کاربر دوستداران هوش مصنوعی را "همراه" می‌دانند و بیش از 100 برنامه مبتنی بر هوش مصنوعی درجات مختلفی از همراهی را ارائه می‌دهند. بازار همراه هوش مصنوعی ایالات متحده در سال 2024 از 4.6 میلیارد دلار فراتر رفت و پیش‌بینی می‌شود رشد آن از 27% CAGR فراتر رود و نرم‌افزارها بر آن تسلط دارند.

در هسته اصلی همراهان هوش مصنوعی ترکیبی از هوش مصنوعی مولد، پردازش زبان طبیعی (NLP) و محاسبات لبه‌ای است. این فناوری‌ها به همراهان هوش مصنوعی اجازه می‌دهند تا تاریخچه مکالمه را به خاطر بسپارند، با سبک‌های ارتباطی سازگار شوند، نقش بازی کنند و در مورد موضوعات مختلف بحث کنند. توسعه‌دهندگان با ادغام داده‌های تعامل کاربر، الگوهای عاطفی و بازخورد رفتاری، پلتفرم‌های هوش یکپارچه‌ای را در سراسر دستگاه‌ها ایجاد می‌کنند که از پشتیبانی عاطفی یکپارچه و شخصی‌سازی‌شده ارائه می‌دهند.

پر کردن جای خالی عاطفی: تحلیلی از جذابیت روان‌شناختی

همراهان هوش مصنوعی به این دلیل محبوب هستند که نیازهای عاطفی جامعه معاصر، به ویژه نسل جوان را برطرف می‌کنند. آنها بازخورد و آسایش عاطفی فوری، مشروط و مداوم را ارائه می‌دهند. آنها یک خروجی عاطفی برای کسانی که احساس تنهایی، اضطراب اجتماعی یا استرس دارند، ارائه می‌دهند.

این با روندهای گسترده‌تر اجتماعی-روان‌شناختی مطابقت دارد. یک نظرسنجی از جوانان چینی نشان می‌دهد که احساسات شادی، معنا، کنترل، تعلق و عزت نفس در بین نسل‌ها کاهش یافته است. بسیاری احساس اضطراب می‌کنند و در حال ارزیابی مجدد خود هستند و آنها را وادار می‌کنند بپرسند "من کیستم؟" همراهان هوش مصنوعی فضای امن و غیرقضاوتی را برای ابراز احساسات خصوصی، بررسی سردرگمی درونی و تخلیه تنهایی ارائه می‌دهند. آنها به عنوان "اتاق‌های پژواک" عالی عمل می‌کنند، صبر، درک و حمایت را ارائه می‌دهند.

همراهان هوش مصنوعی نشان‌دهنده شکل نهایی "فیلتر واقعیت" هستند که زندگی اجتماعی و عاطفی را با فیلتر کردن اطلاعات و ارائه تعامل سرپرستی‌شده و دائماً رضایت‌بخش که جایگزین تعارضات، سوء تفاهم‌ها و ناامیدی‌هایی که در روابط انسانی رخ می‌دهد، شکل می‌دهند.

کالایی شدن روابط صمیمی

آسایش عاطفی ارائه شده توسط همراهان هوش مصنوعی ذاتاً با یک منطق تجاری گره خورده است. صمیمیت تسهیل‌شده با هوش مصنوعی یک محصول با دقت طراحی‌شده و بسته‌بندی‌شده است که پلتفرم‌ها میل به ارتباط عاطفی عمیق‌تر را از طریق ویژگی‌ها و خدمات پولی مختلف به سود تبدیل می‌کنند. به عنوان مثال، کاربران می‌توانند برای "کارت‌های تقویت حافظه" هزینه پرداخت کنند تا به همراهان هوش مصنوعی کمک کنند عادات و ترجیحات خود را به خاطر بسپارند و حس صمیمیت معتبرتری ایجاد کنند.

پلتفرم‌ها از استراتژی‌های بازی‌سازی مانند اسکریپت‌های سفارشی‌شده، طرح‌بندی‌های متعدد و بازخورد فوری برای تحریک خواسته‌های مصرف‌کننده و سرمایه‌گذاری عاطفی استفاده می‌کنند. این یک تناقض ایجاد می‌کند: روابطی که برای صمیمیت در نظر گرفته شده‌اند توسط اهداف تجاری و استخراج داده هدایت می‌شوند. در حالی که به دنبال آسایش عاطفی هستند، الگوهای عاطفی، تاریخچه مکالمه و ترجیحات شخصی کاربران برای بهینه‌سازی خدمات، افزایش حفظ کاربر و توسعه مدل‌های درآمد مبتنی بر اشتراک یا ویژگی‌های ممتاز تجزیه و تحلیل می‌شوند. روابط صمیمی اندازه‌گیری، بسته‌ببندی و فروخته می‌شوند.

مرزهای اخلاق و توسعه

تکثیر همراهان هوش مصنوعی خطرات و چالش‌های اخلاقی، از جمله وابستگی و محو کردن مرز بین واقعیت و خیال را معرفی می‌کند که بر سلامت روان تأثیر می‌گذارد.

تاثیر بر خردسالان به ويژه نگران کننده است. نوجوانان در دوره‌های بحرانی رشد اجتماعی قرار دارند. اگر آنها برای حمایت از هوش مصنوعی هنگام مقابله با مسائل و احساسات پیچیده تکیه کنند، این خطر جدی وجود دارد که همراهی هوش مصنوعی، بدون محدودیت‌های سنی و تعدیل مناسب، می‌تواند برای گسترش اطلاعات مضر مانند پورنوگرافی یا ترویج ارزش‌های مضر به کودکان استفاده شود. در برخی از زمینه‌های قانونی، ارائه محتوای جنسی مبتنی بر هوش مصنوعی ممکن است غیرقانونی باشد.

ضروری است که محدودیت‌های تعامل و مرزهای اخلاقی را برای هوش مصنوعی تعیین کنیم. این فقط یک مسئله فنی نیست، بلکه یک مسئله اجتماعی عمیق است. برون‌سپاری توسعه ارتباط عاطفی به الگوریتم‌های هوش مصنوعی که توسط سود هدایت می‌شوند، می‌تواند سایه بلندی ایجاد کند و افراد کم‌توان‌تری ایجاد کند.

تجزیه حوزه عمومی

این بخش از تحلیل عملکرد فناوری‌های شخصی‌سازی‌شده به بررسی تأثیرات اجتماعی آنها تغییر می‌کند و بررسی می‌کند که چگونه این "فیلترهای واقعیت" سرپرستی‌شده بر عملکردهای اصلی دموکراتیک مانند تشکیل اجماع، انجام بحث سیاسی و حفظ هویت جمعی مشترک تأثیر می‌گذارند.

الگوی رسانه‌های جمعی و "جامعه خیالی"

برای درک تغییر فعلی، باید به قرن بیستم بازگردیم، زمانی که رسانه‌های جمعی مانند روزنامه‌ها، رادیو و تلویزیون در ایجاد اجماع نقش داشتند. اگرچه این رسانه‌ها مغرضانه بودند، اما محیط اطلاعاتی نسبتاً یکپارچه‌ای را فراهم کردند و دستور کار مشترکی را برای ملت تعیین کردند. بندیکت اندرسون استدلال کرد که رسانه‌های چاپی مانند روزنامه‌ها به مردم اجازه می‌دادند تصور کنند که تجربیات خود را با میلیون‌ها شهروند در همان "زمان همگن و خالی" به اشتراک می‌گذارند. این "احساس ما" ساخته شده توسط رسانه‌ها مبنای روان‌شناختی برای تشکیل دولت-ملت و همبستگی اجتماعی بود.

انحلال کالاهای اطلاعاتی

فراشخصی‌سازی در حال برچیدن این پایگاه اطلاعاتی مشترک است. با غوطه‌ور شدن هر کاربر در یک جهان شخصی الگوریتمی، "حوزه عمومی" برای مذاکره جمعی از بین می‌رود. ما از جامعه‌ای که رسانه‌ها را مصرف می‌کند به جامعه‌ای که "رسانه‌زده" شده است تغییر می‌کنیم—جایی که هر نهاد اجتماعی باید از طریق فیلتر منطق رسانه‌ای عمل کند.

این تغییر توانایی ما در شناسایی و تعریف چالش‌های مشترک به عنوان یک جامعه را تهدید می‌کند. اگر فید خبری یک فرد پر از هشدارهای رکود اقتصادی باشد، در حالی که فرد دیگری نشانه‌هایی از رونق را می‌بیند، نمی‌توانند بر سر اولویت‌های ملی به توافق برسند. وقتی واقعیت‌های مشترک ناپدید می‌شوند، اجماع غیرممکن می‌شود. محور اصلی موضوع از اختلافات در مورد حقایق به اختلافات در مورد "واقعیت" که هر یک از ما در آن زندگی می‌کنیم، تغییر می‌کند.

از افکار عمومی به احساسات انباشته شده

ماهیت "افکار عمومی" اساساً تغییر کرده است. افکار عمومی که قبلاً نتیجه بحث‌های سنجیده بود، اکنون انباشتی از واکنش‌های عاطفی منزوی است. پلتفرم‌ها واکنش‌ها به محتوا (لایک‌ها، دیس‌لایک‌ها، اشتراک‌گذاری‌ها) را نظارت و کمی‌سازی می‌کنند و آنها را به عنوان "احساسات عمومی" ارائه می‌دهند.

این "نظر" یک ساختار سنجیده از اندیشه جمعی نیست، بلکه جمع‌بندی عاطفی است که فاقد وزن‌دهی منطقی است و اختلاف را تقویت می‌کند. این مکانیسم‌های بازخورد دموکراتیک را تغییر می‌دهد و سیاست‌گذاران را به جای احساسات عمومی متعادل، با آشفتگی عاطفی ناپایدار مواجه می‌کند.

پویایی‌های قطب‌بندی سیاسی

بحث "حباب فیلتر" در مقابل "اتاق پژواک"

بحث‌ها در مورد قطب‌بندی سیاسی از "حباب فیلتر" و "اتاق پژواک" به عنوان مفاهیم اصلی و اغلب گیج‌کننده استفاده می‌کنند. "حباب فیلتر" Eli Pariser محیط‌های اطلاعاتی شخصی‌سازی‌شده ایجاد شده توسط الگوریتم‌ها را بدون اطلاع کاربران توصیف می‌کند و دیدگاه‌های ناهماهنگ کاربران را فیلتر می‌کند. "اتاق‌های پژواک" به انتخاب خودی اشاره دارند، جایی که افراد به جوامع همفکر می‌پیوندند و باورهای موجود را تقویت می‌کنند.

محافل علمی مفهوم "حباب فیلتر" را زیر سوال می‌برند و نمی‌توانند شواهد تجربی قوی برای تأثیر آن بیابند. برخی از محققان می‌گویند کاربران به منابع متنوع دسترسی دارند و الگوریتم‌ها حتی ممکن است افق دید آنها را گسترش دهند و استدلال می‌کنند که "قرار گرفتن در معرض انتخابی"—انتخاب اطلاعات همسو با دیدگاه‌های موجود—مهم‌تر است. دیگران دریافتند که الگوریتم‌ها در واقع تشدید می‌شوند و باعث ایجاد جوامع منزوی و قطبی می‌شوند.

جدول 1: مقایسه "اتاق پژواک" و "حباب فیلتر"

فرضیه شتاب‌دهنده: الگوریتم‌ها و سوگیری‌های شناختی

"فرضیه شتاب‌دهنده" از تفکر در مورد الگوریتم‌ها و انتخاب کاربر به عنوان "علت و معلول" اجتناب می‌کند، در عوض، یک حلقه بازخورد قدرتمند را فرض می‌کند. انسان‌ها مستعد سوگیری تأیید و "سوگیری اجماع کاذب" هستند. در حالی که قبل از عصر دیجیتال با اصطکاک مواجه هستند، الگوریتم‌ها این اصطکاک را از بین می‌برند و استفاده از سوگیری تأیید را آسان می‌کنند.

الگوریتم‌ها رفتار (کلیک کردن بر روی یک مقاله دیدگاه) را به عنوان "علاقه کاربر" تفسیر می‌کنند و محتوای مشابه را برای افزایش حفظ کاربر توصیه می‌کنند. این تقویت متقابل شکاف‌های ایدئولوژیک را تشدید می‌کند. بنابراین، الگوریتم‌ها "شتاب‌دهنده‌ها" هستند و با تمایلات روانی طنین‌انداز می‌شوند و تفاوت‌ها را به تقسیمات ایدئولوژیک تبدیل می‌کنند.

روان‌شناسی دیجیتالی "ما در مقابل آنها"

نتیجه قطب‌بندی عاطفی است—انزجار، بی‌اعتمادی و خصومت علیه گروه‌های متقابل. محیط‌های اتاق پژواک تماس با دیدگاه‌های خارجی را کاهش می‌دهند و همدلی را تضعیف می‌کنند. وقتی به افراد گفته می‌شود که دنیای بیرون متخاصم و ناقص است، مخالفان سیاسی به تهدیدی برای هویت و ارزش‌ها تبدیل می‌شوند.

این طرز فکر قبیله‌ای "ما در مقابل آنها" در حوزه دیجیتال ثابت است. پلتفرم‌ها به محتوای عاطفی پاداش می‌دهند و شکاف‌ها را عمیق‌تر می‌کنند. قطب‌بندی سیاسی به یک درگیری قبیله‌ای بر سر هویت، اخلاق و تعلق تبدیل می‌شود که آشتی دادن آن دشوار است.

شواهدی از قطب‌بندی سیاسی

نظرسنجی‌ها از این موضوع پشتیبانی می‌کنند، به طوری که Pew Research Center نشان می‌دهد که شکاف‌های سیاسی در حال رشد است و اعتماد به رسانه‌ها کاهش یافته است و بسیاری از آنها تعصب‌دار هستند. این بی‌اعتمادی حزبی است و در بین جمهوری‌خواهان بیشتر است. اگرچه همبستگی دارد، اما با رسانه‌های اجتماعی مطابقت دارد، بنابراین مکانیسم‌های مبتنی بر الگوریتم از این همگرایی حمایت می‌کنند. محیط‌های شخصی‌سازی‌شده سوگیری‌ها را مشتعل می‌کنند، همدلی را تضعیف می‌کنند و شناسایی قبیله‌ای را تقویت می‌کنند و قطب‌بندی عاطفی را به طور غیرقابل کنترلی هدایت می‌کنند.

بازسازی هویت جمعی

از هویت ملی به "فرهنگ دایره"

ترکیب هویت جمعی در حال تغییر است و از هویت‌های سنتی و بزرگ مبتنی بر ملت یا منطقه گذار می‌کند. رسانه‌های جمعی احساسات ملی مشترک را منتقل می‌کردند. با این حال، در عصر وب موبایل امروزی، "فرهنگ‌های دایره" خرد و منحصر به فردی ظهور کرده‌اند.

"فرهنگ‌های دایره" گروه‌های مبتنی بر علاقه هستند. چه انیمه، بازی، افراد مشهور یا سبک زندگی، اینها همبستگی و شناسایی را فراهم می‌کنند، اما همچنین انحصار را. اینها دارای این ویژگی هستند که جداسازی ارزش را ایجاد می‌کنند، به این معنا که در عین تقویت همبستگی، به طور بالقوه ارزش‌ها را از هم می‌پاشند. نتیجه این است که ساختار اجتماعی از ملت به قبایل منزوی و متخاصم شکسته می‌شود.

هویت به عنوان ترجیح مصرف‌کننده

هویت به طور فزاینده‌ای با مصرف مرتبط است. یک مطالعه آمریکایی بیان می‌کند که با بهبود زندگی مادی، مردم به دنبال نیازهای عزت نفس هستند، بنابراین مصرف فرهنگی به معنای تعامل مصرف‌کننده است. مصرف شخصی، چه فیلم، موسیقی، لباس یا بازی، نحوه پرسش و پاسخ دادن افراد به این سؤال است که "من کیستم؟"

نسل جوان به دنبال سبک‌های خاصی است تا خود را تأکید کند. هویت‌ها به دقت انتخاب می‌شوند، مدیریت می‌شوند و از آنچه ذاتی یا تعیین‌شده توسط جغرافیا است، اجرا می‌شوند. این ظهور مصرف "خودپسندی" است که در آن هسته اصلی یک فرد از انتخاب خود در یک حوزه فرهنگی می‌آید تا اینکه ذاتاً مشترک باشد.

نظریه هویت اجتماعی عصر دیجیتال

نظریه هویت اجتماعی (SIT) بر این باور است که عزت نفس یک فرد مبتنی بر یک جامعه است و آنها را وادار می‌کند تا گروه "درون" خود را در مقایسه با "بیرون" حفظ کنند. پلتفرم‌های دیجیتال امکان تشکیل سریع هویت را فراهم می‌کنند. کاربران به راحتی گروه‌های بسیار منسجمی را بر اساس منافع مشترک جزئی تشکیل می‌دهند.

تناقض شخصی‌سازی و قبیله‌گرایی

ما با فرهنگی روبرو هستیم که در عین حال که قبیله‌گرایی را ترویج می‌کند، بر شخصی‌سازی و فردگرایی تأکید دارد. یک پیگیری بی‌مهار نفس شما را در جوامع بسیار همگن با قوانین و ایدئولوژی‌های سختگیرانه منزوی می‌کند.

تجزیه هویت تصادفی نیست، بلکه با منطق تجاری پلتفرم‌های دیجیتال هماهنگ است. برای پلتفرم‌ها مفید است که کاربران را به جوامعی با ویژگی‌های کاملاً مشخص تبدیل کنند، زیرا تبلیغات باریک و هدفمند را امکان‌پذیر می‌کند. این اتفاقی نیست، بلکه عملکرد سرمایه‌داری است.