آغوش ساختگی: ویدئوی جعلی یوگی و کانگانا

افشای فریب دیجیتال

قلمرو رسانه‌های اجتماعی، بار دیگر، به بستری برای محتوای دستکاری شده تبدیل شده است. ویدئویی که ادعا می‌کند یوگی آدیتیانات، وزیر ارشد اوتار پرادش و کانگانا رانوت، نماینده BJP را در آغوش هم نشان می‌دهد، به طور گسترده‌ای منتشر شده و بررسی دقیق‌تر صحت آن را ضروری ساخته است.

این ویدئو، در نگاه اول، ممکن است واقعی به نظر برسد. با این حال، تجزیه و تحلیل دقیق، نشانه‌های آشکاری از دستکاری هوش مصنوعی (AI) را نشان می‌دهد. واترمارک‌هایی که به طور نامحسوسی در فیلم تعبیه شده‌اند، به دخالت ‘Minimax’ و ‘Hailuo AI’ اشاره دارند. اینها صرفاً تصادفی نیستند. آنها امضای ابزارهای مجهز به هوش مصنوعی هستند که برای تولید ویدئو از ورودی‌های متنی و بصری طراحی شده‌اند.

وجود این واترمارک‌ها بلافاصله شک و تردید را در مورد صحت ویدئو ایجاد می‌کند. برخلاف ضبط‌های معتبر، محتوای تولید شده توسط هوش مصنوعی اغلب این اثر انگشت‌های دیجیتالی را به همراه دارد که نشان‌دهنده منشأ مصنوعی آن است. بررسی بیشتر در مورد Hailuo AI ارتباط آن را با شرکت چینی Minimax نشان می‌دهد، توسعه‌دهنده‌ای که در فناوری تولید ویدئو با هوش مصنوعی تخصص دارد. این فناوری به کاربران امکان می‌دهد تا با ارائه متن و تصاویر، کلیپ‌های ویدئویی بسازند و اساساً واقعیت را به نگارش درآورند.

ردیابی ریشه‌های بصری

برای کشف ریشه‌های تصاویر استفاده شده در ویدئوی جعلی، از جستجوی معکوس تصویر استفاده شد. فریم‌های کلیدی از کلیپ ویروسی مورد بررسی قرار گرفتند و منجر به کشف در پلتفرم رسانه اجتماعی X شدند. صفحه رسمی دفتر یوگی آدیتیانات، در 1 اکتبر 2021، تصاویری را منتشر کرده بود که به طور قابل توجهی شبیه به تصاویر موجود در ویدئوی ویروسی بودند.

پست X یک دیدار مودبانه توسط بازیگر کانگانا رانوت با وزیر ارشد یوگی آدیتیانات در اقامتگاه رسمی وی در لاکنو را مستند کرده بود. زمینه این دیدار، همانطور که در این پست نشان داده شده است، مربوط به فیلم رانوت ‘Tejas’ و انتصاب وی به عنوان سفیر برند برنامه ‘یک منطقه-یک محصول’ بود. این بخش مهم از اطلاعات، پیوند حیاتی را با رویدادهای واقعی فراهم می‌کند که برای ایجاد ویدئوی تولید شده توسط هوش مصنوعی دستکاری شده‌اند.

تشریح رویداد واقعی

با آگاهی از جلسه 2021، جستجوی گسترده‌تری با استفاده از کلمات کلیدی انجام شد. این امر منجر به گزارش‌های متعدد رسانه‌ای شد که این رویداد را تأیید می‌کردند. این گزارش‌ها جزئیات حضور کانگانا رانوت در اوتار پرادش برای فیلمبرداری ‘Tejas’ و دیدار بعدی او با وزیر ارشد یوگی آدیتیانات را شرح می‌دادند.

گزارش‌ها هدف رسمی این دیدار را برجسته کردند: نامزدی رانوت به عنوان سفیر برند برای طرح ‘یک منطقه-یک محصول’. نکته مهم این است که هیچ یک از تصاویر معتبر این جلسه، این دو فرد را در حال در آغوش گرفتن نشان نمی‌دهد. این تناقض بیشتر این نتیجه را تقویت می‌کند که ویدئوی ویروسی یک جعل است که از رویدادهای واقعی استفاده می‌کند اما آنها را از طریق دستکاری هوش مصنوعی تحریف می‌کند.

مکانیک دستکاری هوش مصنوعی

ایجاد این ویدئوی ویرایش شده با هوش مصنوعی احتمالاً شامل یک فرآیند چند مرحله‌ای بوده است. ابتدا، سازندگان باید تصاویر معتبر را از جلسه 2021، که به راحتی از طریق گزارش‌های خبری و پست‌های رسانه‌های اجتماعی در دسترس است، تهیه می‌کردند. سپس این تصاویر به یک ابزار تولید ویدئو با هوش مصنوعی، مانند Hailuo AI، وارد می‌شدند.

در مرحله بعد، سازندگان باید دستورالعمل‌های متنی یا دستورالعمل‌هایی را برای هدایت هوش مصنوعی در دستکاری تصاویر ارائه می‌دادند. این می‌تواند شامل تعیین اقدامات، عبارات یا حتی روایت کلی ویدئوی جعلی باشد. سپس هوش مصنوعی، با استفاده از الگوریتم‌های خود، فیلم اصلی را تغییر می‌دهد تا با این دستورالعمل‌ها مطابقت داشته باشد، و در نتیجه یک ویدئوی به ظاهر جدید، اما کاملاً مصنوعی ایجاد می‌شود.

واترمارک‌های ‘Minimax’ و ‘Hailuo AI’ به عنوان یادآوری از نقش هوش مصنوعی در این فرآیند عمل می‌کنند. آنها معادل دیجیتالی امضای یک هنرمند هستند، البته امضایی که ماهیت مصنوعی اثر را آشکار می‌کند.

پیامدهای اطلاعات نادرست تولید شده توسط هوش مصنوعی

گسترش ویروسی این ویدئوی ویرایش شده با هوش مصنوعی، چالش رو به رشد اطلاعات نادرست در عصر دیجیتال را برجسته می‌کند. فناوری هوش مصنوعی، در حالی که پتانسیل عظیمی برای خلاقیت و نوآوری ارائه می‌دهد، می‌تواند برای تحریف واقعیت و فریب مخاطبان نیز مورد استفاده قرار گیرد.

سهولت ایجاد و انتشار چنین ویدئوهایی، نگرانی‌هایی را در مورد پتانسیل بازیگران مخرب برای دستکاری افکار عمومی، گسترش پروپاگاندا یا حتی تحریک ناآرامی ایجاد می‌کند. پیامدها گسترده هستند و نه تنها بر افراد، بلکه بر گفتمان سیاسی، انسجام اجتماعی و تار و پود اعتماد به اطلاعات نیز تأثیر می‌گذارند.

نیاز به ارزیابی انتقادی

در این محیط محتوای تولید شده توسط هوش مصنوعی که به طور فزاینده‌ای پیچیده می‌شود، برای افراد ضروری است که رویکردی انتقادی نسبت به اطلاعات آنلاین اتخاذ کنند. استراتژی‌های زیر می‌توانند در تشخیص واقعیت از داستان کمک کنند:

• بررسی دقیق واترمارک‌ها و اطلاعات منبع: به دنبال هرگونه علامت یا واترمارک غیرمعمول در ویدئوها یا تصاویر باشید. منشأ محتوا را تحقیق کنید و اعتبار منبع را تأیید کنید.
• ارجاع متقابل با منابع معتبر: اطلاعات ارائه شده در ویدئو را با گزارش‌های سازمان‌های خبری معتبر و وب‌سایت‌های بررسی واقعیت مقایسه کنید.
• احتیاط در برابر درخواست‌های احساسی: محتوای دستکاری شده اغلب بر محرک‌های احساسی قوی متکی است تا تفکر انتقادی را دور بزند. مراقب ویدئوهایی باشید که واکنش‌های شدیدی را برمی‌انگیزند.
• توسعه سواد دیجیتال: خود را در مورد فناوری هوش مصنوعی و قابلیت‌های آن آموزش دهید. درک نحوه ایجاد محتوای تولید شده توسط هوش مصنوعی می‌تواند به شما در شناسایی نشانه‌های آن کمک کند.
• ترویج سواد رسانه‌ای: بحث در مورد سواد رسانه‌ای را در جامعه خود تشویق کنید. به اشتراک گذاشتن دانش و آگاهی می‌تواند به دیگران کمک کند تا مصرف‌کنندگان دقیق‌تری از اطلاعات آنلاین شوند.

نقش پلتفرم‌ها و توسعه‌دهندگان

رسیدگی به چالش اطلاعات نادرست تولید شده توسط هوش مصنوعی نیازمند یک تلاش مشترک شامل پلتفرم‌های رسانه‌های اجتماعی، توسعه‌دهندگان فناوری و سیاست‌گذاران است.

• پلتفرم‌ها باید سیاست‌های تعدیل محتوای خود را تقویت کرده و در فناوری‌هایی برای شناسایی و علامت‌گذاری محتوای تولید شده توسط هوش مصنوعی سرمایه‌گذاری کنند. شفافیت در برچسب‌گذاری چنین محتوایی برای اطلاع‌رسانی به کاربران بسیار مهم است.
• توسعه‌دهندگان ابزارهای تولید ویدئو با هوش مصنوعی باید ملاحظات اخلاقی را در طراحی و استقرار خود لحاظ کنند. این شامل اجرای اقدامات حفاظتی برای جلوگیری از سوء استفاده از فناوری آنها و ترویج نوآوری مسئولانه است.
• سیاست‌گذاران باید چارچوب‌های نظارتی را بررسی کنند که چالش‌های ناشی از اطلاعات نادرست تولید شده توسط هوش مصنوعی را بدون خفه کردن نوآوری برطرف کند. این می‌تواند شامل ایجاد استانداردهایی برای اصالت محتوا، ترویج سواد رسانه‌ای و تقویت همکاری بین ذینفعان باشد.
• آموزگاران باید سواد رسانه ای و شهروندی دیجیتال را در برنامه درسی، در اسرع وقت، بگنجانند و بر آن تاکید کنند.

فراتر از حادثه خاص

در حالی که این نمونه خاص از ویدئوی دستکاری شده با هوش مصنوعی بر افراد خاصی متمرکز است، پیامدهای گسترده‌تر بسیار فراتر از آن است. توانایی جعل ویدئوهای به ظاهر واقعی، پتانسیل تأثیرگذاری بر جنبه‌های مختلف جامعه را دارد:

• کمپین‌های سیاسی: ویدئوهای تولید شده توسط هوش مصنوعی می‌توانند برای ایجاد تأییدیه‌های نادرست، انتشار شایعات مخرب یا دستکاری درک عمومی از نامزدها استفاده شوند.
• تجارت و امور مالی: ویدئوهای جعلی می‌توانند برای آسیب رساندن به شهرت شرکت‌ها، انتشار اطلاعات نادرست بازار یا دستکاری قیمت سهام استفاده شوند.
• روابط شخصی: محتوای تولید شده توسط هوش مصنوعی می‌تواند برای ایجاد شواهد جعلی خیانت، آزار و اذیت یا سایر رفتارهای مخرب استفاده شود که منجر به درگیری‌های بین فردی و اختلافات حقوقی می‌شود.
• سوابق تاریخی: اگر محتوای هوش مصنوعی علامت گذاری نشود، ممکن است در آینده با سوابق معتبر اشتباه گرفته شود.

نبرد مداوم

ظهور اطلاعات نادرست تولید شده توسط هوش مصنوعی، چالش مهمی را در نبرد مداوم برای حقیقت و دقت در عصر دیجیتال نشان می‌دهد. این امر نیازمند یک رویکرد چند وجهی است که شامل راه‌حل‌های تکنولوژیکی، ابتکارات سواد رسانه‌ای و نوآوری مسئولانه باشد. همانطور که فناوری هوش مصنوعی به تکامل خود ادامه می‌دهد، استراتژی‌های ما برای پیمایش در چشم‌انداز پیچیده اطلاعات آنلاین نیز باید تکامل یابد. توانایی تشخیص واقعیت از داستان، مهارتی فزاینده حیاتی در سال‌های آینده خواهد بود.

اهمیت زمینه

شایان ذکر است که دیدار اصلی بین کانگانا رانوت و یوگی آدیتیانات در زمینه ترویج برنامه ‘یک منطقه-یک محصول’ انجام شد. این برنامه، ابتکاری از دولت اوتار پرادش، با هدف تشویق محصولات و صنایع دستی بومی و تخصصی از هر منطقه از ایالت است.
این برنامه بر حفظ و ترویج صنایع محلی، فراهم کردن فرصت‌های شغلی و نمایش میراث فرهنگی منحصر به فرد هر منطقه تمرکز دارد.
انتخاب کانگانا رانوت به عنوان سفیر برند به منظور استفاده از موقعیت مشهور وی برای افزایش آگاهی و ترویج اهداف برنامه بود.
ویدئوی تولید شده توسط هوش مصنوعی به ویژه گمراه کننده است، نه فقط به دلیل در آغوش گرفتن، بلکه به این دلیل که زمینه دیدار اصلی را حذف می کند.

قدرت جستجوی معکوس تصویر

استفاده از جستجوی معکوس تصویر در این مورد، اثربخشی آن را به عنوان ابزاری برای تأیید صحت محتوای آنلاین برجسته می‌کند. با آپلود فریم‌های کلیدی از ویدئوی ویروسی، محققان توانستند تصاویر را به منبع اصلی خود ردیابی کنند و زمینه و تاریخ رویداد واقعی را آشکار کنند. این تکنیک می‌تواند توسط هر کسی برای تأیید منشأ تصاویر و ویدئوها استفاده شود و به رد اطلاعات نادرست و شناسایی محتوای دستکاری شده کمک کند.

ارتباط ‘Minimax’ و ‘Hailuo AI’

واترمارک‌هایی که ‘Minimax’ و ‘Hailuo AI’ را شناسایی می‌کنند، سرنخ‌های ارزشمندی در مورد ابزارهای خاص مورد استفاده برای ایجاد ویدئوی جعلی ارائه می‌دهند. Minimax، یک شرکت چینی، به دلیل پیشرفت‌های خود در فناوری هوش مصنوعی، از جمله تولید ویدئو، شناخته شده است. Hailuo AI، محصولی از Minimax، به کاربران امکان می‌دهد تا ویدئوهایی را از متن و تصاویر ایجاد کنند و قابلیت‌های هوش مصنوعی را در دستکاری و تولید محتوای بصری به نمایش بگذارند. این ارتباط، ماهیت جهانی چالش‌های ناشی از اطلاعات نادرست تولید شده توسط هوش مصنوعی را برجسته می‌کند.

حفاظت از شهرت

این ویدئوی ویرایش شده می توانست پیامدهایی برای شهرت CM Adityanath و Kangana Ranaut داشته باشد.
می توانست باعث خجالت شخصی شود.
می توانست بر درک عمومی از هر دو فرد تأثیر بگذارد.

فراخوانی برای هوشیاری

حادثه ویدئوی ویرایش شده با هوش مصنوعی یوگی آدیتیانات و کانگانا رانوت به عنوان یادآوری آشکاری از نیاز به هوشیاری مداوم در قلمرو دیجیتال است. با ادامه پیشرفت فناوری هوش مصنوعی، پتانسیل دستکاری و فریب تنها افزایش خواهد یافت. با پذیرش تفکر انتقادی، ترویج سواد رسانه‌ای و تقویت نوآوری مسئولانه، می‌توانیم به طور جمعی برای ایجاد یک محیط آنلاین قابل اعتمادتر و آگاه‌تر تلاش کنیم.