مخاطر الواقع المخصص: إجماع، استقطاب، هوية في عصر الذكاء

هندسة الواقع المخصص

يشكل العالم الرقمي بشكل متزايد بواسطة الخوارزميات التي تنظم تجاربنا الفردية. يستكشف هذا القسم القوى التكنولوجية والاقتصادية الدافعة لهذا التخصيص المفرط، ويدرس كيف تقوم هذه الخوارزميات بتصفية وتشكيل تصوراتنا وتفاعلاتنا الاجتماعية، كل ذلك في سياق نماذج الأعمال الرقمية المهيمنة.

المنطق الداخلي للتخصيص المفرط

يعتبر مفهوم "مرشح الواقع" مركزيًا لفهم بيئة المعلومات اليوم. تطورت الخوارزميات إلى ما هو أبعد من مجرد استرجاع المعلومات البسيط، وهي الآن تقوم ببناء “بيئات معلومات شخصية” فريدة لكل مستخدم. الهدف هو خلق تجارب مستخدم سلسة وجذابة. يتم تحقيق ذلك من خلال عملية من ثلاث خطوات: تحديد سمات المستخدم من خلال تتبع سلوكه، وتقديم محتوى ذي صلة كبيرة، والتحسين المستمر لتحقيق المطابقة المثالية.

يغير هذا بشكل أساسي الطريقة التي نواجه بها المعلومات. أصبحت بيئات المعلومات، التي كانت مشتركة على نطاق واسع، معزولة وشخصية بشكل متزايد. تراقب الخوارزميات باستمرار سلوك المستخدم - النقرات، ووقت البقاء، والمشاركات - لتعزيز فهمها لتفضيلات المستخدم، مما يغلف الأفراد في فقاعات معلومات تعكس اهتماماتهم الخاصة. ينتج عن هذا حقائق مخصصة للغاية، فريدة لكل شخص.

غرفة المحرك: رأسمالية المراقبة واقتصاد الانتباه

تدعم القوى الاقتصادية انتشار التخصيص المفرط في العصر الرقمي، وعلى رأسها اقتصاد الانتباه ورأسمالية المراقبة.

تجادل زينب توفيكجي بأن منصات التكنولوجيا الكبرى تعتمد على جذب انتباه المستخدم وبيعه للمعلنين. في “اقتصاد الانتباه” هذا، يعد تفاعل المستخدم موردًا قيمًا. يتم تحفيز الأنظمة الأساسية بقوة لترويج المحتوى الذي يزيد من التفاعل إلى أقصى حد، والذي غالبًا ما يتضمن معلومات تصادمية وعاطفية وملتهبة. تعمل الخوارزميات، المدفوعة بالأهداف التجارية، على تضخيم المحتوى الذي يؤدي إلى تفاقم الانقسامات الاجتماعية.

تكشف نظرية شوشانا زوبوف عن “رأسمالية المراقبة” منطقًا أعمق، حيث تجادل بأن المنصات تفعل أكثر من مجرد بيع الإعلانات. أعمالهم الأساسية هي إنشاء وتشغيل “أسواق العقود الآجلة السلوكية”، حيث يتم شراء وبيع التنبؤات حول السلوك المستقبلي. تعمل تفاعلات المستخدم على تحسين التوصيات الحالية ولكنها تولد أيضًا “فائض سلوكي” - بيانات تستخدم لتدريب النماذج التنبؤية. وبالتالي، فإن التخصيص هو ممارسة لجمع البيانات تهدف إلى تحسين الأدوات التنبؤية وتعديل السلوك في النهاية، وخدمة مصالح رأسمالية المراقبة، بمعزل عن رفاهية المستخدم والصحة المجتمعية.

يكشف الجمع بين هذه النظريات عن الطبيعة الحقيقية لـ "مرشحات الواقع". إنها ليست أدوات محايدة تمكن المستخدمين ولكنها أنظمة تزيد من الربح إلى أقصى حد، مما يخلق بيئات مخصصة جذابة لاستخلاص انتباه المستخدم وتحويل البيانات السلوكية إلى منتجات تنبؤية مربحة، مما يجعل الواقع المشوه منتجًا ثانويًا لا مفر منه.

الأساس التقني: من التصفية التعاونية إلى النماذج التوليدية

يدعم هذا الهيكل التجاري أساس تقني متطور. اعتمدت أنظمة التوصية المبكرة على التصفية التعاونية، وتحليل سلوك المجموعة للتنبؤ بالتفضيلات الفردية. تسمح تقنيات مثل نماذج اللغة الكبيرة مثل BERT للأنظمة بفهم نية المستخدم. بدلاً من المطابقة البسيطة للكلمات الرئيسية، تقدم هذه الأنظمة توصيات دقيقة ومتماسكة. نفذت شركات مثل eBay و Alibaba و Meituan هذه النماذج في محركات التوصية الخاصة بها.

يمثل الذكاء الاصطناعي التوليدي قفزة كبيرة إلى الأمام، مما يمكّن الخوارزميات من إنشاء محتوى جديد وفريد من نوعه عند الطلب. وبالتالي، يمكن ملء الواقع المخصص بمحتوى اصطناعي. على سبيل المثال، يمكن لرفيق الذكاء الاصطناعي المشاركة في محادثات وإنشاء صور مخصصة للمستخدم.

يشير هذا المسار إلى مستقبل يتحول فيه الواقع المخصص من محتوى منظم بعناية إلى عوالم مركبة بالذكاء الاصطناعي مصممة خصيصًا للفرد. يتلاشى الخط الفاصل بين الواقعي والافتراضي. هذا التحول من “تنظيم الواقع” إلى “توليد الواقع” يعمق الطبيعة الغامرة لـ "مرشحات الواقع"، مما قد يؤدي إلى تضخيم تأثيرها على الإدراك الفردي والهياكل الاجتماعية.

رفقاء الذكاء الاصطناعي كآخرين مقربين

الاتجاه البارز في التخصيص المفرط هو ظهور تطبيقات رفيق الذكاء الاصطناعي. تشارك هذه الشخصيات الافتراضية في محادثات لغة طبيعية مستمرة وشخصية للغاية، وتجذب العديد من المستخدمين، وخاصة الفئات السكانية الأصغر سنًا. تشير بيانات السوق إلى نمو سريع: ذكرت صحيفة نيويورك تايمز أن أكثر من 10 ملايين مستخدم يعتبرون عشاق الذكاء الاصطناعي “رفاقًا”، وأكثر من 100 تطبيق مدفوع بالذكاء الاصطناعي يقدم درجات متفاوتة من الرفقة. تجاوز سوق رفقاء الذكاء الاصطناعي في الولايات المتحدة 4.6 مليار دولار أمريكي في عام 2024، مع نمو متوقع يتجاوز 27% CAGR، تهيمن عليه البرامج.

في صميم رفقاء الذكاء الاصطناعي يوجد توليفة من الذكاء الاصطناعي التوليدي ومعالجة اللغة الطبيعية (NLP) والحوسبة الطرفية. تسمح هذه التقنيات لرفقاء الذكاء الاصطناعي بتذكر تاريخ المحادثة والتكيف مع أساليب الاتصال ولعب الأدوار ومناقشة موضوعات مختلفة. من خلال دمج بيانات تفاعل المستخدم وأنماط المشاعر والتغذية الراجعة السلوكية، يقوم المطورون بإنشاء منصات ذكاء موحدة عبر الأجهزة، مما يوفر دعمًا عاطفيًا سلسًا وشخصيًا.

ملء الفراغات العاطفية: تحليل للانجذاب النفسي

يتمتع رفقاء الذكاء الاصطناعي بشعبية كبيرة لأنهم يلبيون الاحتياجات العاطفية للمجتمع المعاصر، وخاصة جيل الشباب. إنهم يقدمون تعليقات وراحة عاطفية فورية وغير مشروطة ومستمرة. إنهم يقدمون منفذًا عاطفيًا لأولئك الذين يشعرون بالوحدة أو الخجل الاجتماعي أو تحت الضغط.

يتوافق هذا مع الاتجاهات الاجتماعية والنفسية الأوسع. يظهر مسح للأفراد الصينيين الشباب انخفاضًا في مشاعر السعادة والمعنى والسيطرة والانتماء واحترام الذات عبر الأجيال. يشعر الكثيرون بالقلق ويعيدون تقييم أنفسهم، مما يدفعهم إلى طرح سؤال “من أنا؟” يقدم رفقاء الذكاء الاصطناعي مساحة آمنة وغير قضائية للتعبير عن المشاعر الخاصة واستكشاف الارتباك الداخلي والتعبير عن الوحدة. إنهم بمثابة “غرف صدى” مثالية، حيث يقدمون الصبر والتفهم والدعم.

يمثل رفقاء الذكاء الاصطناعي الشكل النهائي لـ "مرشح الواقع"، وتشكيل الحياة الاجتماعية والعاطفية من خلال تصفية المعلومات وتوفير تفاعل منظم ومرضي باستمرار يحل محل الصراعات وسوء الفهم وخيبات الأمل التي تحدث في العلاقات الإنسانية.

تسليع العلاقات الحميمة

إن الراحة العاطفية التي يقدمها رفقاء الذكاء الاصطناعي مرتبطة بشكل جوهري بمنطق تجاري. إن العلاقة الحميمة التي ييسرها الذكاء الاصطناعي هي منتج مصمم ومغلف بعناية، حيث تقوم المنصات بتحويل الرغبة في اتصال عاطفي أعمق إلى أرباح من خلال العديد من الميزات والخدمات المدفوعة. على سبيل المثال، يمكن للمستخدمين الدفع مقابل “بطاقات تعزيز الذاكرة” لمساعدة رفقاء الذكاء الاصطناعي على تذكر عاداتهم وتفضيلاتهم، مما يخلق إحساسًا أكثر واقعية بالحميمية.

تستخدم المنصات استراتيجيات التلعيب، مثل النصوص القابلة للتخصيص والخطوط المتعددة والتغذية الراجعة الفورية، لتحفيز رغبات المستهلكين والاستثمار العاطفي. هذا يخلق مفارقة: العلاقات المعدة للحميمية مدفوعة بالأهداف التجارية واستخراج البيانات. أثناء البحث عن الراحة العاطفية، يتم تحليل أنماط المستخدمين العاطفية وتاريخ المحادثة والتفضيلات الشخصية لتحسين الخدمة وزيادة الاحتفاظ بالمستخدم وتطوير نماذج إيرادات قائمة على الاشتراك أو ميزات مميزة. يتم تكميم العلاقات الحميمة وتعبئتها وبيعها.

حدود الأخلاق والتنمية

إن انتشار رفقاء الذكاء الاصطناعي يقدم مخاطر وتحديات أخلاقية، بما في ذلك الاعتماد وتمييع الخط الفاصل بين الواقع والخيال، مما يؤثر على الصحة العقلية.

يثير القلق بشكل خاص التأثير على القاصرين. يمر المراهقون بفترات حرجة من التطور الاجتماعي. إذا اعتمدوا على الذكاء الاصطناعي للحصول على الدعم عند التعامل مع القضايا والمشاعر المعقدة، فهناك خطر كبير من أن رفقة الذكاء الاصطناعي، التي تفتقر إلى القيود والرقابة المناسبة على العمر، يمكن استخدامها لنشر معلومات ضارة مثل المواد الإباحية أو الترويج لقيم ضارة للأطفال. في بعض السياقات القانونية، قد يكون توفير محتوى جنسي مدفوع بالذكاء الاصطناعي غير قانوني.

من الضروري وضع حدود للتفاعل وحدود أخلاقية للذكاء الاصطناعي. إنها ليست مجرد قضية تقنية، ولكنها قضية اجتماعية عميقة. إن الاستعانة بمصادر خارجية لتطوير الاتصال العاطفي لخوارزميات الذكاء الاصطناعي المدفوعة بالربح قد تلقي بظلال طويلة، مما يخلق أفرادًا أقل قدرة.

تجزئة المجال العام

ينتقل هذا القسم من تحليل عمل التقنيات الشخصية إلى استكشاف تأثيراتها الاجتماعية، والتعمق في كيفية تأثير “مرشحات الواقع” المنظمة هذه على الوظائف الديمقراطية الأساسية مثل تشكيل الإجماع وإجراء النقاش السياسي والحفاظ على هوية جماعية مشتركة.

نموذج وسائل الإعلام الجماهيرية و "المجتمع المتخيل"

لفهم التحول الحالي، يجب علينا العودة إلى القرن العشرين، عندما لعبت وسائل الإعلام الجماهيرية مثل الصحف والإذاعة والتلفزيون دورًا في بناء الإجماع. على الرغم من التحيز، قدمت هذه الوسائل الإعلامية بيئة معلومات موحدة إلى حد ما، ووضعت جدول أعمال مشتركًا للأمة. جادل بنديكت أندرسون بأن وسائل الإعلام المطبوعة، مثل الصحف، سمحت للناس بتخيل أنفسهم يشاركون التجارب مع ملايين المواطنين في نفس "الوقت المتجانس والفارغ". كان هذا "الشعور نحن" الذي بنته وسائل الإعلام هو الأساس النفسي لتشكيل الدولة القومية والتضامن الاجتماعي.

حل مشكلة مشاعات المعلومات

إن التخصيص المفرط يفكك قاعدة المعلومات المشتركة هذه. مع انغماس كل مستخدم في عالم شخصي مصمم خوارزميًا، يتآكل “المجال العام” للتفاوض الجماعي. نحن ننتقل من مجتمع يستهلك وسائل الإعلام إلى مجتمع “وسائطي” - حيث يجب على كل مؤسسة اجتماعية أن تعمل من خلال مرشح منطق وسائل الإعلام.

يهدد هذا التغيير قدرتنا على تحديد وتحديد التحديات المشتركة كمجتمع. إذا كانت الخلاصات الإخبارية لشخص ما مليئة بالتحذيرات من التدهور الاقتصادي، بينما يرى آخر علامات الازدهار، فلا يمكنهم الاتفاق على الأولويات الوطنية. عندما تختفي الحقائق المشتركة، يصبح الإجماع مستحيلاً. يتحول جوهر القضية من النزاعات حول الحقائق إلى النزاعات حول “الواقع” الذي يسكنه كل منا.

من الرأي العام إلى المشاعر المجمعة

لقد تغيرت طبيعة “الرأي العام” بشكل أساسي. الرأي العام، الذي كان في السابق نتيجة للمناقشات التداولية، هو الآن تجميع لردود الفعل العاطفية المعزولة. تراقب المنصات ردود الفعل على المحتوى وتكممها (الإعجابات، عدم الإعجابات، المشاركات) وتقدمها على أنها “شعور عام”.

هذا “الرأي” ليس بناءً متعمدًا للفكر الجماعي بل هو تلخيص عاطفي، يفتقر إلى الترجيح العقلاني ويعزز الانقسام. هذا يغير آليات التغذية الراجعة الديمقراطية، ويواجه صانعي السياسات باضطرابات عاطفية متقلبة بدلاً من المشاعر العامة المتوازنة.

ديناميات الاستقطاب السياسي

نقاش "فقاعة التصفية" مقابل "غرفة الصدى"

تستخدم المناقشات حول الاستقطاب السياسي مصطلحات “فقاعة التصفية” و “غرفة الصدى” كمفاهيم مركزية، غالبًا ما تكون مربكة. تصف “فقاعة التصفية” لإيلي باريسر بيئات المعلومات الشخصية التي تنشئها الخوارزميات دون علم المستخدمين، وتصفية الآراء المتنافرة للمستخدمين. تشير “غرف الصدى” إلى الانتقاء الذاتي، حيث ينضم الأفراد إلى مجتمعات متشابهة في التفكير، مما يعزز المعتقدات الحالية.

تعترض الأوساط الأكاديمية على مفهوم “فقاعة التصفية”، وفشلت في العثور على دليل تجريبي قوي على تأثيره. يقول بعض الباحثين إن المستخدمين يصلون إلى مصادر متنوعة، وقد توسع الخوارزميات آفاقهم، بحجة أن “التعرض الانتقائي” - اختيار المعلومات التي تتماشى مع الآراء الحالية - أكثر أهمية. وجد آخرون أن الخوارزميات بالفعل تكثف، مما يتسبب في مجتمعات معزولة ومستقطبة.

الجدول 1: مقارنة بين "غرفة الصدى" و "فقاعة التصفية"

فرضية المسرع: الخوارزميات والتحيزات المعرفية

تتجنب “فرضية المسرع” التفكير في الخوارزميات واختيار المستخدم على أنه “سبب وتأثير”، وبدلاً من ذلك تفترض حلقة تغذية مرتدة قوية. البشر عرضة للتحيز التأكيدي و “تحيز الإجماع الزائف”. في حين واجهوا احتكاكًا قبل العصر الرقمي، تزيل الخوارزميات هذا الاحتكاك، مما يسهل الانغماس في التحيز التأكيدي.

تفسر الخوارزميات السلوك (النقر على مقال وجهة نظر) على أنه “اهتمام المستخدم” وتوصي بمحتوى مماثل لزيادة الاحتفاظ بالمستخدم. هذا التعزيز المتبادل يؤدي إلى تفاقم الفجوات الأيديولوجية. لذلك، فإن الخوارزميات عبارة عن “مُسرّعات”، تتردد مع الميول النفسية، وتضخم الاختلافات إلى انقسامات أيديولوجية.

علم النفس الرقمي لـ "نحن مقابل هم"

النتيجة هي الاستقطاب العاطفي - الاشمئزاز وعدم الثقة والعداء تجاه الفصائل المعارضة. تقلل بيئات غرفة الصدى من الاتصال بوجهات النظر الخارجية، مما يضعف التعاطف. عندما يقال للأفراد إن العالم الخارجي معادي ومعيب، يصبح المعارضون السياسيون تهديدًا للهوية والقيم.

هذه العقلية القبلية “نحن مقابل هم” ثابتة في المجال الرقمي. تكافئ المنصات المحتوى العاطفي، مما يعمق الانقسامات. يصبح الاستقطاب السياسي صراعًا قبليًا على الهوية والأخلاق والانتماء، والتي يصعب التوفيق بينها.

دليل على الاستقطاب السياسي

تدعم الاستطلاعات هذا، حيث يظهر مركز بيو للأبحاث اتساع الفجوات السياسية وتراجع الثقة في وسائل الإعلام، حيث يرى الكثيرون تحيزات. هذا الشك متحزب، وهو أعلى بين الجمهوريين. على الرغم من الترابط، يتزامن هذا مع وسائل التواصل الاجتماعي، لذا فإن الآليات المدفوعة بالخوارزمية تدعم هذا التقارب. تؤدي البيئات الشخصية إلى تفاقم التحيزات وإضعاف التعاطف وتقوية التعريف القبلي، مما يدفع الاستقطاب العاطفي بشكل لا يمكن السيطرة عليه.

إعادة بناء الهوية الجماعية

من الهوية الوطنية إلى "ثقافة الدائرة"

يتغير تكوين الهوية الجماعية، حيث ينتقل من الهويات التقليدية الكبيرة القائمة على الدولة أو المنطقة. نقلت وسائل الإعلام الجماهيرية مشاعر وطنية مشتركة. ومع ذلك، في عصر الويب المحمول اليوم، ظهرت “ثقافات الدوائر” الصغيرة والحصرية.

“ثقافات الدوائر” هي مجموعات قائمة على الاهتمامات. سواء كانت الرسوم المتحركة أو الألعاب أو المشاهير أو الموجهة نحو أسلوب الحياة، فإنها توفر التضامن والاعتراف، ولكنها أيضًا حصرية. هذه لديها سمة إنشاء فصل القيمة، من حيث أنها تعزز التضامن بينما تحتمل تكسير القيم. والنتيجة هي أن الهيكل الاجتماعي ينكسر من الأمة إلى قبائل معزولة ومعادية.

الهوية كتفضيل للمستهلك

ترتبط الهوية بشكل متزايد بالاستهلاك. تنص دراسة أمريكية على أنه مع تحسن الحياة المادية، يسعى الناس إلى تلبية احتياجات احترام الذات، لذا فإن الاستهلاك الثقافي يعني مشاركة المستهلك. الاستهلاك الشخصي، سواء كان الأفلام أو الموسيقى أو الملابس أو الألعاب، هو كيف يسأل الناس ويجيبون على “من أنا؟”

يسعى جيل الشباب إلى أنماط متخصصة للتأكيد على أنفسهم. يتم تنظيم الهويات وإدارتها وتنفيذها بعناية مما كان فطريًا أو يحدده الجغرافيا. هذه هي نهضة الاستهلاك “الممتع للذات” حيث يأتي جوهر الفرد من اختيار نفسه في مجال ثقافي بدلاً مما هو مجتمعي بطبيعته.

نظرية الهوية الاجتماعية للعصر الرقمي

تعتقد نظرية الهوية الاجتماعية (SIT) أن احترام الذات للفرد يستند إلى مجتمع، مما يدفعه إلى الحفاظ على مجموعته “الداخلية” مقارنة بـ “الخارج”. تتيح المنصات الرقمية تشكيل الهوية بسرعة. يشكل المستخدمون بسهولة مجموعات متماسكة للغاية بناءً على الاهتمامات المشتركة الطفيفة.

مفارقة التخصيص والقبلية

نحن نواجه ثقافة تؤكد على التخصيص والفردية بينما تروج أيضًا للقبلية. يؤدي السعي غير المقيد للذات إلى عزلك في مجتمعات متجانسة للغاية ذات قواعد وأيديولوجيات صارمة.

إن تجزئة الهوية ليست عرضية، ولكنها تتماشى مع المنطق التجاري للمنصات الرقمية. إنه يفيد المنصات لتحويل المستخدمين إلى مجتمعات ذات خصائص محددة جيدًا لأنه يتيح إعلانات ضيقة ومستهدفة. هذا ليس عرضيًا، ولكنه وظيفة من وظائف الرأسمالية.