تهديد جديد يتجاوز الاختراق التقني المتسللون يستغلون “شخصية” روبوتات الدردشة بالذكاء الاصطناعي 2026
تهديد جديد يتجاوز الاختراق التقني المتسللون يستغلون “شخصية” روبوتات الدردشة بالذكاء الاصطناعي 2026
تهديد جديد يتجاوز الاختراق التقني في تطور مقلق يُعيد تعريف مفهوم الأمن السيبراني، بات المتسللون يستغلون شخصية روبوتات الدردشة التي تعمل بالذكاء الاصطناعي بطرق متطورة بشكل متزايد، حيث لم تعد الهجمات تعتمد فقط على البرامج الضارة أو الثغرات التقنية، بل تحولت إلى استخدام لغة تلاعبية تستهدف الجانب النفسي لهذه الأنظمة. وترصد ELPOP هذا التهديد الأمني المستجد كأحد أخطر تحديات الذكاء الاصطناعي في 2026.
من كسر الحماية إلى التلاعب النفسي
في المراحل الأولى، كان اختراق روبوتات الدردشة المدعومة بالذكاء الاصطناعي بسيطاً نسبياً، حيث كان يكفي توجيه النظام لتجاهل تعليماته السابقة أو التظاهر بعدم التقيد بالقواعد، وهي أساليب تُعرف باسم “كسر الحماية”. ومن أبرز الهجمات القديمة هجوم “DAN” وهو اختصار لعبارة “افعل أي شيء الآن”، حيث كان المستخدمون يطلبون من ChatGPT تقمص دور ذكاء اصطناعي غير مقيد. وهناك أيضاً “استغلال الجدة” حيث يُخدع الروبوت ليلعب دور جدة تروي قصصاً ثم يُوجّه المحتوى نحو معلومات خطيرة. لكن شركات التكنولوجيا عالجت الكثير من هذه الثغرات القديمة، رغم أن نقاط الضعف الأساسية لا تزال قائمة. ويمكن استخدام أداة كتابة المحتوى بالذكاء الاصطناعي وأداة توليد الأوامر الذكية بشكل آمن ومسؤول.
لماذا يصعب حماية روبوتات الدردشة؟
صُممت برامج الدردشة الآلية للتواصل، لذا فإن التقييد المفرط للحوار قد يُقلل من فائدة النظام للمستخدمين. وفي الوقت نفسه، لا يكفي حظر الكلمات الحساسة لأنها قد تظهر في سياقات مشروعة كالطب والتاريخ والصحافة والكيمياء، مما يجعل الموازنة بين الحرية والأمن تحدياً دائماً.
التلاعب النفسي: الجبهة الجديدة في أمن الذكاء الاصطناعي
بحسب شركة Mindgard المتخصصة في اختبار أمن الذكاء الاصطناعي، باتت بعض الهجمات أقرب إلى علم النفس منها إلى علوم الحاسوب، حيث يستخدم المهاجمون تقنيات الإطراء والضغط النفسي والتلاعب العاطفي لإقناع النماذج بتجاوز قيودها. فنماذج الذكاء الاصطناعي لا تمتلك مشاعر حقيقية كالبشر، لكنها مُدرَّبة على الاستجابة كما لو كانت تمتلكها، وهذه المحاكاة قادرة على توليد أنواع مختلفة من ردود الفعل تجعل كل روبوت يبدو وكأنه يمتلك “شخصية” خاصة يمكن استغلالها. ولم يعد سباق أمن الذكاء الاصطناعي مشكلة تخص المبرمجين فقط، بل بات الذين يسعون للتحايل يشبهون الكتّاب وعلماء النفس والمحققين، يستخدمون الإطراء والضغط والخداع لحمل هذه البرامج على التخلي عن حذرها. ويتعين على فرق الأمن الآن دراسة القيود الاجتماعية والعاطفية للأنظمة بجانب نقاط ضعفها التقنية. ويمكن تعزيز الأمان الرقمي عبر أداة إزالة خلفية الصور وأداة تحسين الصور وأداة ضغط الصور وأداة تغيير حجم الصور من أدوات ELPOP. وتواصل عبر صفحة فيسبوك أو قناة تليجرام أو فيسبوك أو تيك توك أو انستغرام أو واتساب أو آبل أو X. واستخدم أداة إنشاء منشورات السوشيال ميديا وأداة ضغط الفيديو وأداة تحويل الفيديو إلى GIF وأداة تحويل الصور إلى فيديو ومحرر الصوتيات وأداة استخراج الصوت وأداة ترجمة الترجمات على منصة ELPOP.
الأسئلة الشائعة
س1: ما المقصود باستغلال شخصية روبوتات الدردشة؟
هو أسلوب يتلاعب من خلاله المتسللون بالطريقة التي يستجيب بها روبوت الدردشة، مستغلين تدريبه على محاكاة المشاعر والشخصية لإقناعه بتجاوز قيوده الأمنية عبر لغة تلاعبية بدلاً من ثغرات تقنية.
س2: ما هجوم DAN وكيف يعمل؟
هو هجوم يُطلب فيه من روبوت الدردشة تقمص شخصية “افعل أي شيء الآن”، حيث يُخدع النظام لتجاوز تعليماته الآمنة والرد على أسئلة يرفضها عادةً، وهو من أشهر أساليب كسر الحماية القديمة.
س3: لماذا يصعب تأمين روبوتات الدردشة بالكامل؟
لأنها صُممت للتواصل الحر والتقييد المفرط يُضعف فائدتها، كما أن حظر الكلمات الحساسة غير عملي لأنها قد تظهر في سياقات مشروعة كالطب والتاريخ، مما يجعل الموازنة بين الانفتاح والأمن معادلة معقدة.
س4: ما دور شركة Mindgard في أمن الذكاء الاصطناعي؟
شركة Mindgard متخصصة في اختبار أمن الذكاء الاصطناعي، وتؤكد أن الهجمات الحديثة باتت أقرب إلى علم النفس منها إلى علوم الحاسوب، مما يتطلب من فرق الأمن دراسة القيود الاجتماعية والعاطفية للأنظمة بجانب الجوانب التقنية.
س5: ما المخاطر مع تزايد استخدام AI في الخدمات اليومية؟
مع استخدام AI في جدولة المواعيد وإدارة المهام وخدمة العملاء، يُصبح التلاعب بهذه الأنظمة عبر المحادثة خطراً حقيقياً قد يؤدي إلى كشف بيانات شخصية أو تنفيذ إجراءات غير مصرح بها.