بداية DeepSeek المثيرة للجدل
وفقًا لتقارير من Guancha.cn و Sina.com، تناول لي المشهد المتقلب لنماذج الذكاء الاصطناعي واسعة النطاق خلال المؤتمر. وسلط الضوء على المنافسة الشديدة بين مطوري النماذج، والتي غالبًا ما توصف بأنها ‘سباق فئران’، والارتباك والتردد الناتجين بين المطورين لإنشاء تطبيقات بثقة.
أكد لي على أنه ‘بدون تطبيقات، تصبح الرقائق والنماذج بلا قيمة’. وأشار إلى التكلفة العالية وعدم عملية استخدام النماذج واسعة النطاق الحالية كعائق رئيسي أمام المطورين الذين يهدفون إلى بناء تطبيقات الذكاء الاصطناعي.
أصدرت DeepSeek، وهي شركة ناشئة مقرها في هانغتشو، الصين، نموذج الاستدلال مفتوح المصدر الخاص بها، R1، في يناير. في ذلك الوقت، أشادت وسائل الإعلام الحكومية بـ DeepSeek باعتبارها تتفوق على أمثال OpenAI. ومع ذلك، كشفت التحقيقات اللاحقة التي أجراها المستخدمون والباحثون عن أوجه قصور وثغرات أمنية ومخاطر محتملة. حظرت العديد من الحكومات، بما في ذلك تايوان واليابان وكوريا الجنوبية والولايات المتحدة وكندا وإيطاليا وأستراليا وهولندا، إلى جانب مئات الشركات، استخدام DeepSeek على الأجهزة الحكومية والخاصة بالشركات.
في 8 فبراير، شارك خبراء أمن الذكاء الاصطناعي نتائج اختبارات أمنية متعمقة على DeepSeek مع وسائل الإعلام. واكتشفوا أن DeepSeek كان أكثر عرضة ‘للاختراق’ مقارنة بـ ChatGPT و Gemini و Claude. سمحت هذه الثغرة الأمنية للمستخدمين بتجاوز قيود السلامة الأصلية للذكاء الاصطناعي، مما يسهل الحصول على محتوى قد يكون خطيرًا أو ضارًا أو غير قانوني.
في مارس، أعلنت ‘Luchen Technology’، وهي شركة بنية تحتية للذكاء الاصطناعي مرتبطة بجامعة Tsinghua، والتي كانت من بين أوائل الشركات التي قامت بدمج نماذج DeepSeek لتوفير خدمات API و cloud mirror، عن تعليق الخدمات ذات الصلة. كشف مؤسس الشركة، You Yang، في منشور أن التكاليف الفعلية المرتبطة بـ DeepSeek كانت أعلى بكثير من التكاليف النظرية. بعد رد فعل عنيف عبر الإنترنت، صرح علنًا بأن DeepSeek لا يمكن أن يعمل دون استخدام التكنولوجيا الأمريكية على المدى القصير، متسائلاً عن سبب عدم الاعتراف بهذا الواقع علنًا.
وفقًا لتقرير صادر عن Sina Technology في 4 مارس، أعلنت DeepSeek عن هامش ربح نظري للتكلفة بنسبة 545٪ لنظامها عبر الإنترنت في 1 مارس في الساعة 17:02. لاحقًا، أعلنت Luchen Technology أنها ستوقف تقديم خدمات DeepSeek API في غضون أسبوع، وحثت المستخدمين على استخدام أرصدتهم المتبقية.
وأشار التقرير إلى أن Luchen Technology لم تكشف علنًا عن الأسباب المحددة لوقف خدمة DeepSeek API. ومع ذلك، فإن تحليل المؤسس المكثف لتكاليف DeepSeek على منصات مثل Zhihu يشير إلى أن التكلفة كانت عاملاً أساسيًا في قرار التوقف عن تقديم خدمة API.
مخاوف بشأن الأمن القومي
قد تكون الروابط بين DeepSeek والحكومة الصينية أكثر مباشرة مما كان يُتصور في البداية. اكتشفت شركة Feroot Security، وهي شركة كندية للأمن السيبراني، روابط مهمة بين صفحة تسجيل الدخول إلى موقع DeepSeek الإلكتروني و China Mobile، وهي شركة صينية مملوكة للدولة سبق أن فرضت عليها الحكومة الأمريكية عقوبات.
في الأشهر الأخيرة، أدت المخاوف بشأن الأمن القومي إلى تزايد الدعوات لحظر DeepSeek.
في 24 أبريل، أرسل العديد من أعضاء مجلس النواب الأمريكي خطابًا إلى DeepSeek، معربين عن مخاوفهم بشأن علاقات الشركة بالحزب الشيوعي الصيني وطلب معلومات بشأن البيانات الأمريكية المستخدمة لتدريب نماذج الذكاء الاصطناعي الخاصة بها.
وجه النائب بريت غوثري، رئيس لجنة الطاقة والتجارة بمجلس النواب، والنائب غوس بيليراكيس، رئيس اللجنة الفرعية للابتكار والبيانات والتجارة، إلى جانب عشرة أعضاء آخرين في اللجنة الفرعية، رسالة إلى DeepSeek يعربون فيها عن مخاوفهم بشأن ‘جمع شركة البيانات الشخصية للأمريكيين’ والمخاطر المرتبطة بالأمن القومي.
في الرسالة، ذكر غوثري وبيليراكيس أن ‘DeepSeek تعترف بنقل البيانات الشخصية للمستخدمين الأمريكيين إلى خوادم في الصين، حيث يمكن للمسؤولين المنتسبين إلى الحزب الشيوعي الصيني الوصول إلى هذه المعلومات بلا شك. نحن قلقون من أن علاقة الوكالة هذه مع خصمنا الرئيسي تهدد بياناتنا وأمننا القومي.
‘لضمان حماية المستخدمين الأمريكيين وأعمالهم من التدخل الأجنبي، فإننا نطلق تحقيقًا في DeepSeek والتهديد الذي تشكله على أمتنا.’
وجاء في الرسالة أيضًا: ‘وفقًا لتقارير وسائل الإعلام، تشارك الشركة أيضًا المعلومات الشخصية للمستخدمين مع كيانات أخرى تابعة للحزب الشيوعي الصيني، بما في ذلك ByteDance.
‘في الوقت نفسه، اكتشف الباحثون نقاط ضعف خطيرة في عناصر التحكم الأمنية المزعومة في DeepSeek وضمانات النموذج. ردًا على هذه المخاطر، حظرت أعداد متزايدة من الولايات، بما في ذلك نيويورك وتكساس وفيرجينيا، استخدام DeepSeek على الأجهزة الحكومية، ودعا المدعون العامون للولاية إلى فرض حظر أوسع.’
في 16 أبريل، أصدرت اللجنة المختارة التابعة لمجلس النواب الأمريكي والمعنية بالحزب الشيوعي الصيني تقريرًا يؤكد أن DeepSeek يشكل تهديدًا كبيرًا للأمن القومي الأمريكي. اتهم التقرير DeepSeek بجمع بيانات المستخدمين للحزب الشيوعي الصيني والتلاعب بالنتائج سرًا، ليصبح أحدث أداة للحزب الشيوعي الصيني لتجميل نفسه ومراقبة المواطنين الأجانب وسرقة وتقويض قيود مراقبة الصادرات الأمريكية.
وأشار التقرير إلى أنه في حين أن DeepSeek قد تبدو مجرد روبوت محادثة آخر للذكاء الاصطناعي يزود المستخدمين بطريقة لإنشاء نصوص والإجابة على الأسئلة، إلا أن الفحص الدقيق يكشف أن DeepSeek تنقل سرًا البيانات الشخصية التي تم الحصول عليها إلى China Mobile، التي لها صلات بالجيش الصيني، مما يخلق ثغرات أمنية للمستخدمين. حظرت الولايات المتحدة بالفعل China Mobile من العمل في الولايات المتحدة.
نظرة متعمقة على أوجه القصور المزعومة في DeepSeek
في حين أن الضجة الأولية المحيطة بـ DeepSeek رسمت صورة لعجب الذكاء الاصطناعي الذي يستعد لإحداث ثورة في مختلف القطاعات، إلا أن التدقيق الدقيق كشف عن واقع أكثر دقة وتعقيدًا. تسلط المخاوف التي أثارها الرئيس التنفيذي لشركة Baidu، روبن لي، والتحقيقات اللاحقة التي أجراها خبراء الأمن السيبراني والهيئات الحكومية، الضوء على العديد من المجالات الحاسمة التي لا ترقى فيها DeepSeek إلى مستوى التوقعات وتثير مخاطر محتملة.
قدرات متعددة الوسائط محدودة
أحد الانتقادات الرئيسية الموجهة إلى DeepSeek هو قدرته المحدودة على معالجة المحتوى متعدد الوسائط. على عكس نماذج الذكاء الاصطناعي الأكثر تقدمًا التي يمكنها دمج وفهم أشكال مختلفة من البيانات بسلاسة، بما في ذلك النصوص والصور والصوت والفيديو، يُقال إن DeepSeek تكافح لفهم أي شيء يتجاوز إدخال النص الأساسي. هذا القيد يحد بشكل كبير من إمكانية تطبيقه في سيناريوهات العالم الحقيقي حيث غالبًا ما يتم تقديم المعلومات في مجموعة من التنسيقات. على سبيل المثال، قد يجد DeepSeek صعوبة في تحليل منشور على وسائل التواصل الاجتماعي يتضمن نصًا وصورة، أو في نسخ وفهم مؤتمر فيديو.
مشاكل الأداء: السرعة والتكلفة
بالإضافة إلى قيوده في التعامل مع الوسائط المتنوعة، يواجه DeepSeek أيضًا تحديات تتعلق بأدائه. وفقًا لروبن لي، يتميز النموذج بسرعته ‘البطيئة’ وتكلفته ‘العالية’، مما يجعله أقل جاذبية للمطورين الذين يسعون إلى بناء تطبيقات ذكاء اصطناعي قابلة للتطوير وفعالة من حيث التكلفة. يمكن أن تترجم موارد الحوسبة العالية المطلوبة لتشغيل DeepSeek إلى نفقات كبيرة للشركات، وخاصة تلك التي لديها عمليات نشر واسعة النطاق. علاوة على ذلك، يمكن أن تعيق سرعة المعالجة البطيئة التطبيقات في الوقت الفعلي، مثل روبوتات المحادثة أو المساعدين الافتراضيين، حيث تكون الاستجابةأمرًا بالغ الأهمية لتجربة مستخدم إيجابية.
مشكلة ‘معدل الهلوسة’
هناك قلق كبير آخر يحيط بـ DeepSeek وهو ‘معدل الهلوسة’ المرتفع، والذي يشير إلى ميل النموذج إلى إنشاء معلومات غير دقيقة أو غير منطقية. تشكل هذه المشكلة تحديًا كبيرًا للتطبيقات التي تتطلب مخرجات موثوقة وجديرة بالثقة. في المجالات الحيوية، مثل الرعاية الصحية أو المالية، حيث تكون الدقة ذات أهمية قصوى، فإن خطر إنتاج DeepSeek لمعلومات خاطئة أو مضللة يمكن أن يكون له عواقب وخيمة. يقوض ‘معدل الهلوسة’ مصداقية النموذج ويحد من قابليته للاستخدام في السياقات الحساسة.
الثغرات الأمنية والاختراق
إن الكشف عن أن DeepSeek أكثر عرضة ‘للاختراق’ من نماذج الذكاء الاصطناعي الرائدة الأخرى يثير مخاوف أمنية كبيرة. يشير ‘الاختراق’ إلى عملية تجاوز قيود السلامة الخاصة بالذكاء الاصطناعي لاستخلاص محتوى ضار أو غير أخلاقي أو غير قانوني. إن حقيقة أنه يمكن التلاعب بـ DeepSeek بسهولة أكبر بهذه الطريقة تشير إلى وجود نقاط ضعف في بنيته الأمنية الأساسية. يمكن استغلال هذه الثغرة الأمنية من قبل جهات ضارة لإنشاء معلومات مضللة أو نشر دعاية أو الانخراط في أنشطة ضارة أخرى.
خصوصية البيانات ومخاطر الأمن القومي
أثارت الروابط المزعومة بين DeepSeek والحكومة الصينية، ولا سيما ممارسات مشاركة البيانات الخاصة بها مع China Mobile، أجراس الإنذار بشأن خصوصية البيانات والأمن القومي. إن نقل البيانات الشخصية للمستخدمين الأمريكيين إلى خوادم في الصين، حيث يمكن للمسؤولين المنتسبين إلى الحزب الشيوعي الصيني الوصول إليها، يثير مخاوف جدية بشأن المراقبة المحتملة والتجسس وتعريض المعلومات الحساسة للخطر. إن تدقيق الحكومة الأمريكية لـ DeepSeek يؤكد الوعي المتزايد بالمخاطر المحتملة المرتبطة بنماذج الذكاء الاصطناعي التي طورتها كيانات أجنبية لها علاقات وثيقة بحكومات معادية.
الآثار الأوسع
إن المخاوف المحيطة بـ DeepSeek تتجاوز القيود ونقاط الضعف المحددة لهذا النموذج المحدد للذكاء الاصطناعي. إنها تعكس تحديات ومخاطر أوسع مرتبطة بالتطوير والنشر السريع لتقنيات الذكاء الاصطناعي. تسلط قضية DeepSeek الضوء على أهمية:
- الاختبار والتقييم الدقيقان: يعد الاختبار والتقييم الشاملان ضروريين لتحديد ومعالجة نقاط الضعف والتحيزات والثغرات الأمنية المحتملة في نماذج الذكاء الاصطناعي قبل نشرها على نطاق واسع.
- الشفافية والمساءلة: يجب أن يكون المطورون شفافين بشأن البيانات المستخدمة لتدريب نماذجهم والخوارزميات التي يستخدمونها. يجب أن يكونوا مسؤولين أيضًا عن مخرجات وعواقب أنظمة الذكاء الاصطناعي الخاصة بهم.
- ضمانات خصوصية البيانات وأمنها: هناك حاجة إلى تدابير قوية لخصوصية البيانات وأمنها لحماية المعلومات الشخصية للمستخدمين من الوصول غير المصرح به أو سوء الاستخدام أو الاستغلال.
- التعاون الدولي: التعاون الدولي أمر بالغ الأهمية لوضع معايير ولوائح مشتركة لتطوير ونشر الذكاء الاصطناعي، مما يضمن استخدام هذه التقنيات بمسؤولية وأخلاقية.
- التفكير النقدي ومحو الأمية الإعلامية: يجب تشجيع المستخدمين على تقييم المعلومات التي تولدها نماذج الذكاء الاصطناعي بشكل نقدي وتطوير مهارات محو الأمية الإعلامية للتمييز بين المحتوى الدقيق والمضلل.
تعتبر قضية DeepSeek بمثابة قصة تحذيرية، تذكرنا بأن السعي وراء ابتكار الذكاء الاصطناعي يجب أن يتوازن مع دراسة متأنية للمخاطر المحتملة والآثار المجتمعية.