كيف تحاول الصين وإيران وروسيا إساءة استخدام الجوزاء

من اللحظة التي ظهرت فيها نماذج لغة الذكاء الاصطناعى القوية لأول مرة على المشهد ، كان الأشرار يتطلعون إلى القيام بأشياء سيئة معهم. تبذل الشركات التي تقف وراءهم جهودًا متضافرة لحماية نماذجها من خلال ضمانات ضد سوء المعاملة ، لكن الجهات الفاعلة السيئة تتوصل دائمًا إلى طرق جديدة لمحاولة الالتفاف على هذه الحواجز. تشارك Google هذا الأسبوع ما يتم ملاحظته عندما يتعلق الأمر بالجميني وبعض المجموعات الدولية المتصلة جيدًا التي تحاول استخدامها في الأعمال السيئة.

نشرت مجموعة Google التهديد الاستخباراتية للتو تقريرها عن سوء استخدام العداد للمنظمة العادية. بالنسبة للمبتدئين ، تحدد الشركة نوعين رئيسيين من الهجمات: أولئك الذين يستخدمون الذكاء الاصطناعى لتقديم يد ، مثل توليد التعليمات البرمجية التي يمكن استخدامها لبناء البرامج الضارة ، وتلك التي تحاول مباشرة الحصول على منظمة العفو الدولية لإجراءات غير مرغوب فيها ، مثل بيانات حساب الحصاد. نسمع أيضًا عن فئتين أساسيتين من الخصوم: التهديدات المستمرة المتقدمة (APT) ، والتي تميل إلى أن تكون مجموعات كبيرة من القراصنة الممولة من الدولة القومية ، وعمليات المعلومات (IO) ، والتي تدور حول الخداع وإجراء فوضى من وسائل التواصل الاجتماعي.

والخبر السار هو أنه ، بشكل عام ، لا يبدو أحد وكأنه نجح بشكل خاص في الحصول على الجوزاء لفعل أي شيء فظيع. على الرغم من أن Google شهدت الكثير من محاولات “Jailbreak” Gemini باستخدام تعليمات إبداعية لإقناعها بتجاهل بروتوكولات السلامة ، إلا أن معظمها كان منخفضًا جدًا ، فقط إعادة صياغة الاستراتيجيات المنشورة علنًا.

بدلاً من ذلك ، يبدو أن أكبر استخدام للجوزاء من قبل الأشرار في الغالب في شكلهم باستخدامه كأداة بحث. تحدد Google APTs من أربع دول على أنها تشكل حقًا العمود الفقري لإساءة استخدام الجوزاء: الصين وإيران وكوريا الشمالية وروسيا. استخدمت هذه المجموعات الجوزاء لأغراض مثل تلخيص المعلومات حول الأهداف العسكرية والذكاء ، وشرح نقاط الضعف للبرامج ، وتقديم مساعدة الترميز.

شهدت Google أيضًا نشاط الجوزاء من مجموعات IO في هذه الدول نفسها ، والاستفادة من مهارات الذكاء الاصطناعى في الترجمة ، والمساعدة في نغمة الرسائل ، وفي الحقيقة تجعل من الأسهل على هذه المجموعات أن تبدو مثل أي شخص آخر غير من هم ، وتمكينها تعمل سرية.

كل هذا يميل إلى تسليط الضوء على بعض القيود الأساسية إلى حد ما في محاولة تخفيف سوء استخدام الذكاء الاصطناعي. على الرغم من أن Google قد نجحت تمامًا في منع أي شخص من استخدام Gemini للتسبب بشكل مباشر في الضرر ، عندما يمكن تقسيم الخطط الأوسع إلى خطوات منفصلة وغير قابلة للاعتراف ، لا يزال بإمكان الجهات الفاعلة السيئة الاستفادة من قوة الذكاء الاصطناعى لجعل وظائفهم أسهل . لأنه في نهاية اليوم ، هذا ما تم تصميم AI للقيام به.

يعد تقرير مجموعة Google Threat Intelligence Complete قراءة ورية ، لذا تحقق من الشيء الكامل إذا كنت فضوليًا لمزيد من التفاصيل حول هذه APTs واستخدامها للجرميني.