Опасностите на персонализираната реалност в AI ерата

Архитектурата на персонализираната реалност

Дигиталният свят все повече се оформя от алгоритми, които създават нашите индивидуални преживявания. Този раздел изследва технологичните и икономически сили, които стимулират тази хипер-персонализация, като разглежда как тези алгоритми филтрират и оформят нашите възприятия и социални взаимодействия, всичко това в контекста на доминиращите дигитални бизнес модели.

Вътрешната логика на хипер-персонализацията

Концепцията за „филтър за реалност“ е от основно значение за разбирането на днешната информационна среда. Алгоритмите са еволюирали от просто извличане на информация и сега конструират уникални „лични информационни екосистеми“ за всеки потребител. Целта е да се създадат безпроблемни, ангажиращи потребителски преживявания. Това се постига чрез тристъпков процес: идентифициране на потребителските атрибути чрез поведенческо проследяване, предоставяне на изключително релевантно съдържание и непрекъснато усъвършенстване за оптимално съвпадение.

Това фундаментално променя начина, по който се сблъскваме с информацията. Информационните среди, някога широко споделени, стават все по-изолирани и персонализирани. Алгоритмите последователно наблюдават поведението на потребителите – кликвания, време на задържане, споделяния – за да засилят разбирането си за предпочитанията на потребителите, обгръщайки индивидите в информационни балони, отразяващи техните собствени интереси. Това води до силно персонализирани реалности, уникални за всеки човек.

Машинното помещение: Капитализъм на наблюдението и икономика на вниманието

Икономическите сили подкрепят разпространението на хипер-персонализацията в дигиталната ера, предимно икономиката на вниманието и капитализма на наблюдението.

Зейнеп Туфекчи твърди, че големите технологични платформи разчитат на привличането на потребителското внимание и продажбата му на рекламодатели. В тази „икономика на вниманието“ потребителската ангажираност е ценен ресурс. Платформите са силно мотивирани да популяризират съдържание, което максимизира ангажираността, което често включва конфронтационна, емоционална и подстрекателска информация. Алгоритмите, движени от търговски цели, усилват съдържание, което изостря социалните разделения.

Теорията на Шошана Зубоф за „капитализма на наблюдението“ разкрива по-дълбока логика, твърдейки, че платформите правят повече от продажба на реклами. Основният им бизнес е създаването и оперирането на „пазари на поведенчески фючърси“, където прогнозите за бъдещо поведение се купуват и продават. Потребителските взаимодействия оптимизират текущите препоръки, но също така генерират „поведенчески излишък“ – данни, използвани за обучение на предиктивни модели. Следователно персонализацията е упражнение по събиране на данни, насочено към усъвършенстване на предсказващите инструменти и в крайна сметка към промяна на поведението, обслужващо интересите на капитализма на наблюдението, откъснато от благосъстоянието на потребителите и здравето на обществото.

Комбинирането на тези теории разкрива истинската природа на „филтрите за реалност“. Те не са неутрални инструменти, овластяващи потребителите, а системи, които максимизират печалбата, създавайки ангажиращи персонализирани среди за извличане на потребителското внимание и преобразуване на поведенчески данни в доходоносни предсказващи продукти, превръщайки изкривената реалност в неизбежен страничен продукт.

Техническата основа: От съвместно филтриране до генеративни модели

Развиваща се технологична основа подкрепя тази търговска архитектура. Ранните препоръчителни системи разчитаха на съвместно филтриране, анализирайки груповото поведение, за да прогнозират индивидуалните предпочитания. Техники като големите езикови модели като BERT, позволяват на системите да разберат намеренията на потребителите. Вместо просто съвпадение на ключови думи, тези системи предлагат прецизни, последователни препоръки. Компании като eBay, Alibaba и Meituan са внедрили тези модели в своите препоръчителни двигатели.

Генеративният AI бележи значителен скок напред, позволявайки на алгоритмите да генерират ново, уникално съдържание при поискване. По този начин персонализираната реалност може да бъде изпълнена със синтетично съдържание. Например, AI спътник може да участва в разговори и да създава персонализирани снимки за потребителя.

Тази траектория сочи към бъдеще, където персонализираната реалност се измества от внимателно подбрано съдържание към AI-синтезирани светове, пригодени за индивида. Линията между реалното и виртуалното се размива. Тази промяна от „подбиране на реалността“ към „генериране на реалност“ задълбочава поглъщащата природа на „филтрите за реалност“, потенциално усилвайки тяхното въздействие върху индивидуалното познание и социалните структури.

AI спътници като интимни други

Забележителна тенденция в хипер-персонализацията е възходът на приложенията за AI спътници. Тези виртуални герои участват в непрекъснати, силно персонифицирани разговори на естествен език, привличайки много потребители, особено по-младите демографски групи. Пазарните данни показват бърз растеж: The New York Times съобщава, че над 10 милиона потребители смятат AI любовниците за “спътници”, а над 100 приложения, управлявани от AI, предлагат различни степени на компания. Пазарът на AI спътници в САЩ надхвърли 4,6 милиарда долара през 2024 г., с прогнозиран растеж, надвишаващ 27% CAGR, доминиран от софтуер.

В основата на AI спътниците е синтез на генеративен AI, обработка на естествен език (NLP) и гранични изчисления. Тези технологии позволяват на AI спътниците да запомнят историята на разговорите, да се адаптират към комуникационните стилове, да изпълняват ролеви игри и да обсъждат различни теми. Чрез интегриране на данни за потребителско взаимодействие, емоционални модели и поведенческа обратна връзка, разработчиците създават унифицирани платформи за интелигентност между устройства, осигуряващи безпроблемна, персонализирана емоционална подкрепа.

Запълване на емоционални празнини: Анализ на психологическото привличане

AI спътниците са популярни, защото отговарят на емоционалните нужди на съвременното общество, особено на по-младото поколение. Те предлагат незабавна, безусловна и непрекъсната емоционална обратна връзка и комфорт. Те представляват емоционален отдушник за тези, които се чувстват самотни, социално неудобни или под стрес.

Това се привежда в съответствие с по-широки социо-психологически тенденции. Проучване на млади китайци показва спад в чувствата на щастие, смисъл, контрол, принадлежност и самочувствие сред поколенията. Мнозина се чувстват тревожни и преоценяват себе си, подтиквайки ги да попитат „Кой съм аз?“. AI спътниците предлагат безопасно, не осъждащо пространство за изразяване на лични чувства, изследване на вътрешно объркване и проветряване на самотата. Те служат като перфектни „ехо камери“, предлагайки търпение, разбиране и подкрепа.

AI спътниците представляват крайната форма на „филтър за реалност“, оформяйки социалния и емоционален живот чрез филтриране на информация и предоставяне на подбрано, постоянно удовлетворяващо взаимодействие, което замества конфликтите, неразбирателствата и разочарованията, които се случват в човешките взаимоотношения.

Комодификацията на интимните взаимоотношения

Емоционалният комфорт, осигурен от AI спътниците, е неразривно свързан с търговска логика. Улеснената от AI интимност е внимателно проектиран и пакетиран продукт, като платформите превръщат желанието за по-дълбока емоционална връзка в печалби чрез различни платени функции и услуги. Например, потребителите могат да плащат за „карти за усилване на паметта“, за да помогнат на AI спътниците да запомнят техните навици и предпочитания, създавайки по-автентично чувство за интимност.

Платформите използват стратегии за геймификация, като персонализирани скриптове, множество сюжетни линии и незабавна обратна връзка, за да стимулират потребителските желания и емоционална инвестиция. Това създава парадокс: взаимоотношенията, предназначени за интимност, се движат от търговски цели и извличане на данни. Докато търсят емоционален комфорт, емоционалните модели на потребителите, историята на разговорите и личните предпочитания се анализират, за да се оптимизира услугата, да се увеличи задържането на потребителите и да се разработят базирани на абонамент модели на приходи или премиум функции. Интимните връзки се количествено определят, пакетират и продават.

Граници на етиката и развитието

Разпространението на AI спътници въвежда рискове и етични предизвикателства, включително зависимост и размиване на границата между реалността и фантазията, което засяга психичното здраве.

От особено значение е въздействието върху непълнолетните. Юношите са в критични периоди на социално развитие. Ако разчитат на AI за подкрепа при справяне със сложни проблеми и чувства, съществува опасен риск AI спътничеството, лишено от подходящи възрастови ограничения и модериране, да бъде използвано за разпространение на вредна информация като порнография или насърчаване на вредни ценности към децата. В някои правни контексти предоставянето на сексуално съдържание, управлявано от AI, може да е незаконно.

От съществено значение е да се поставят граници на взаимодействието и етични граници за AI. Това не е просто технически въпрос, а дълбок социален такъв. Възлагането на развитието на емоционална връзка на AI алгоритми, движени от печалба, може да хвърли дълга сянка, създавайки по-малко способни индивиди.

Фрагментиране на обществената сфера

Този раздел се измества от анализиране на функционирането на персонализирани технологии към изследване на техните социални въздействия, задълбавайки се в това как тези подбрани „филтри за реалност“ въздействат върху основни демократични функции като формиране на консенсус, провеждане на политически дебати и поддържане на споделена колективна идентичност.

Парадигмата на масовите медии и „въображаемата общност“

За да разберем настоящата промяна, трябва да се върнем към 20-ти век, когато масовите медии, като вестници, радио и телевизия, изиграха роля в изграждането на консенсус. Въпреки че бяха пристрастни, тези медии осигуряваха донякъде единна информационна среда, определяйки обща програма за нацията. Бенедикт Андерсън твърди, че печатните медии, като вестниците, позволяват на хората да си представят, че споделят преживявания с милиони граждани в едно и също „хомогенно, празно време“. Това конструирано от медиите „ние-чувство“ е психологическата основа за формиране на национална държава и социална солидарност.

Разпадането на информационните общности

Хипер-персонализацията демонтира тази споделена информационна база. С всеки потребител, потопен в алгоритмично пригодена лична вселена, “обществената сфера” за колективно договаряне е ерозирана. Преминаваме от общество, което консумира медии, към общество, което е “медиатизирано” - където всяка социална институция трябва да функционира през филтъра на медийната логика.

Тази промяна заплашва способността ни да идентифицираме и определяме общи предизвикателства като общество. Ако емисията с новини на един човек е изпълнена с предупреждения за икономически спад, докато друг вижда признаци на просперитет, те не могат да се споразумеят за национални приоритети. Когато споделените реалности изчезнат, консенсусът става невъзможен. Същността на проблема се измества от спорове за факти към спорове за “реалността”, в която всеки от нас живее.

От обществено мнение към агрегирани емоции

Естеството на „общественото мнение“ се е променило фундаментално. Общественото мнение, преди това резултат от обсъждания, сега е агрегиране на изолирани емоционални реакции. Платформите наблюдават и количествено определят реакциите към съдържание (харесвания, нехаресвания, споделяния) и ги представят като „обществени настроения“.

Това „мнение“ не е обмислена конструкция на колективна мисъл, а емоционално обобщение, лишено от рационално претегляне и насърчаващо разделение. Това променя демократичните механизми за обратна връзка, изправяйки политиците пред нестабилно емоционално сътресение вместо балансирани обществени настроения.

Динамика на политическата поляризация

Дебатът “Филтърен балон” срещу “Ехо камера”

Дискусиите за политическата поляризация използват “филтърен балон” и “ехо камера” като централни, често объркани понятия. “Филтърният балон” на Ели Паризер описва персонализирани информационни среди, създадени от алгоритми, без знанието на потребителите, филтрирайки дисониращи възгледи на потребителите. “Ехо камерите” сочат към самоподбор, където индивидите се присъединяват към единомислещи общности, подсилвайки съществуващите вярвания.

Академията оспорва концепцията за “филтърен балон”, като не успява да намери силни емпирични доказателства за нейното въздействие. Някои учени казват, че потребителите имат достъп до разнообразни източници и алгоритмите може дори да разширят хоризонтите им, твърдейки, че “селективното излагане” - избирането на информация, отговаряща на съществуващите възгледи - е по-значимо. Други установиха, че алгоритмите наистина се засилват, причинявайки изолирани, поляризирани общности.

Таблица 1: Сравнение на “Ехо камера” и “Филтърен балон”

Хипотезата за ускорителя: Алгоритми и когнитивни пристрастия

“Хипотезата за ускорителя” избягва да мисли за алгоритмите и избора на потребителите като за “причина и следствие”, вместо това постулира мощен цикъл на обратна връзка. Хората са склонни към пристрастие към потвърждаване и “пристрастие към фалшив консенсус”. Докато се изправяха пред триене преди дигиталната ера, алгоритмите премахват това триене, което улеснява угаждането на пристрастието към потвърждаване.

Алгоритмите интерпретират поведението (щракване върху статия с гледна точка) като “потребителски интерес” и препоръчват подобно съдържание, за да увеличат задържането на потребителите. Това взаимно подсилване изостря идеологическите пропасти. Следователно алгоритмите са “ускорители”, резониращи с психологическите тенденции, увеличаващи разликите в идеологически разделения.

Дигиталната психология на “Ние срещу тях”

Резултатът е афективна поляризация - отвращение, недоверие и враждебност към противоположните фракции. Средата на ехо камерата намалява контакта с външни възгледи, отслабвайки съпричастността. Когато на индивида се каже, че външният свят е враждебен и дефектен, политическите опоненти се превръщат в заплахи за идентичността и ценностите.

Този манталитет на племе “ние срещу тях” е постоянен в дигиталната сфера. Платформите възнаграждават емоционално съдържание, задълбочавайки разцепленията. Политическата поляризация се превръща в племенен конфликт над идентичността, морала и принадлежността, които трудно се примиряват.

Доказателства за политическа поляризация

Проучванията подкрепят това, като Pew Research Center показва нарастващи политически разделения и намаляващо доверие в медиите, като много възприемат пристрастия. Това недоверие е партийно, по-високо сред републиканците. Въпреки че са корелативни, това съвпада със социалните медии, така че алгоритмично управляваните механизми подкрепят това сближаване. Персонализираните среди възпламеняват пристрастията, отслабват съпричастността и укрепват племенната идентификация, управлявайки емоционалната поляризация неконтролируемо.

Реконструиране на колективната идентичност

От национална идентичност към “Кръгова култура”

Съставът на колективната идентичност се променя, преминавайки от традиционни, големи идентичности, базирани на нация или регион. Масовите медии предаваха споделени национални чувства. Въпреки това, в днешната мобилна уеб ера, са се появили микро, ексклузивни “кръгови култури”.

“Кръговите култури” са групи, базирани на интереси. Независимо дали аниме, игри, знаменитости или ориентирани към начина на живот, те осигуряват солидарност и идентификация, но също така и ексклузивност. Те имат чертата да създават разделение на стойностите, тъй като подсилват солидарността, докато потенциално разрушават ценностите. Резултатът е, че социалната структура се разпада от нация до изолирани, враждебни племена.

Идентичност като потребителско предпочитание

Идентичността все повече се свързва с потреблението. Американско проучване посочва, че тъй като материалният живот се подобрява, хората търсят нужди за самочувствие, така че културното потребление означава потребителска ангажираност. Личното потребление, било то филми, музика, облекло или игри, е начинът, по който хората питат и отговарят на въпроса “Кой съм аз?”.

По-младото поколение търси нишови стилове, за да се подчертае. Идентичностите са внимателно подбрани, управлявани и изпълнявани от това, което е вродено или определено от географията. Това е възходът на “самоугодното” потребление, където сърцевината на индивида идва от подбора на себе си в културна сфера, а не от това, което е по същество общностно.

Теорията за социалната идентичност на дигиталната ера

Теорията за социалната идентичност (SIT) вярва, че самочувствието на индивида се основава в общност, подтиквайки ги да поддържат своята “вътрешна” група в сравнение с “външната”. Дигиталните платформи позволяват бързото формиране на идентичност. Потребителите лесно образуват изключително сплотени групи, базирани на малки споделени интереси.

Парадоксът на персонализацията и трайбализма

Изправени сме пред култура, която подчертава персонализацията и индивидуализма, като същевременно насърчава трайбализма. Безразсъдното преследване на аз-а ви изолира в много хомогенни общности със строги правила и идеологии.

Фрагментацията на идентичността не е случайна, а се привежда в съответствие с търговската логика на дигиталните платформи. От полза е за платформите да превърнат потребителите в общности с добре дефинирани характеристики, защото това позволява тясна, целенасочена реклама. Това не е случайно, а функция на капитализма.