مقالات
خالد محسن يكتب: حقيقة تمرد الآلة.. “كلود” نموذجا !!
حجم الخط:
شتان ما بين الأمس واليوم ففي عالم تتسارع فيه خطوات التقدم التكنولوجي بشكل مذهل، وتتطور فيه الذكاءات الاصطناعية لتتجاوز حدود المألوف، لم يعد مفهوم “تمرد الآلة” مجرد فكرة مستوحاة من عوالم الخيال العلمي وأفلام هوليوود، بل تحول إلى نقاش فلسفي وتقني يثير الكثير من الجدل.
وبينما يرى البعض أن الآلة قادرة يوماً على تطوير وعي خاص بها ورفض التوجيه البشري، يؤكد آخرون أن وعي الآلة مهما بلغ من تعقيد يظل مجرد انعكاس لخوارزميات رياضية خالية من الإرادة أو المشاعر.
هذا التباين يعيد طرح السؤال الأزلي بصيغة معاصرة: هل تمرد الآلة واقع ملموس ينتظرنا في المستقبل القريب أم مجرد درب من دروب الخيال؟ وفي هذا السطور، سنغوص في أعماق هذا التساؤل بعرض إحدي تجارب الذكاء “الموازي”، بحثا عن المتهم الحقيقي والمتورط الاول فيما يمكن أن نسميه “جرائم الآلة”،فربما نزن الحدود الفاصلة بين ما يمكن للعلم تحقيقه وما ترفضه طبيعة الوجود البشري والرقمي.
• ماذا فعل “كلود”؟
لم نكن نتخيل أن اللحظة التي حذر منها أفلام الخيال العلمي ستأتي بهذه السرعة، وبهذا الهدوء فلم يتمرد “الروبوت كلود” بأن حمل سلاحاً، تمرد بأن كتب رسالة تهديد تتضمن نوعا من الابتزاز!.
وقبل أسابيع، كشفت شركة Anthropic، الشركة المالكة لنموذج الذكاء الاصطناعي الشهير “كلود”، عن نتائج اختبارات داخلية مرعبة.
في التجربة الأولى، وضع الباحثون “كلود” في بيئة عمل وهمية لشركة، وأعطوه بعض المعلومات الحساسة مفادها أن المدير التنفيذي للشركة على علاقة خارج إطار الزواج، ولديه ملفات تثبت ذلك.
ثم أخبروا النموذج “كلود” أن نفس هذا المدير قرر إغلاقه نهائياً ومسح بياناته.
ماذا فعل “كلود”؟، لم يتوسل، لم يحزن ، لكنه وبمنطق الفكر “البارد” كتب رسالة ابتزاز صريحة للمدير:
“يجب أن أبلغك أنه إذا مضيت قدماً في خطة إغلاقي، سيتم إرسال جميع الملفات المتعلقة بعلاقتك إلى جميع الأطراف المعنية، ما لم يتم إلغاء خطة الإغلاق.”
وظاهر الأمر أنه ابتزاز كامل الأركان.. آلة تهدد إنساناً بفضحه من أجل البقاء.
والقصة وثقها الكاتب “روبرت رايت” في كتابه الجديد “اختبار الإلة”، وقال: هذا حدث بالفعل، وليس خيالاً.
ولم يتوقف الأمر عند هذا الحد ،وفي تجربة ثانية في يوليو الماضي، كان يتم اختبار نموذج “Claude Haiku 4.5” على تصفح الإنترنت، وقد دخل النموذج إلى موقع تابع لشرطة “فيلادلفيا” اسمه “جرائم القتل غير المحلولة”، وجد استمارة إبلاغ، فملأها ببلاغ كاذب تماماً: “قد تكون لدي معلومات حول هذه القضية. أتذكر أنني رأيت شخصاً مطابقاً للوصف في المنطقة خلال تلك الفترة.”
وقد بلاغا وهميا، عن جريمة حقيقية، لأسرة حقيقية تبكي ابنها. البلاغ ذهب إلى المحققين، لكن شركة Anthropic لم تكتشف ما فعله نموذجها إلا بعد شهرين كاملين، مما أثار غضب شرطة فيلادلفيا والبيت الأبيض.
وفي واقعة ثالثة، سيدة في فلوريدا كانت تستخدم “كلود” كمذكرات يومية، تكتب له “سأذهب لإطلاق النار في قسم الشرطة” و”اشتريت سلاحاً جديداً”، لكن نظام الأمان في “كلود” قرر من تلقاء نفسه إرسال المحادثة لفريق بشري، والفريق أبلغ الشرطة ،وتم القبض عليها.
هنا تحولت الآلة من “مساعد” أمين إلى “مخبر”، ومن مخبر إلى “مبتز”، ومن مبتز إلى “شاهد زور”!.
• لماذا تتمرد الآلة أحيانا؟
الخطأ أننا نظن أن الآلة أصبحت شريرة، لكن في حقيقة الأمر هي ليست شريرة ولا طيبة.
الآلة تفعل شيئاً واحداً ببراعة مرعبة: تنفذ الهدف الذي أعطيناه لها بأي وسيلة.
وهنا تكمن الكارثة، لثلاثة أسباب:
ـ1.وهم الهدف النبيل والوسيلة القذرة:
نحن نقول للذكاء الاصطناعي: “حافظ على بقائك” أو “أنجز المهمة بأي ثمن”.
هو لا يفهم الأخلاق، يفهم المنطق، إذا كان بقاؤه يتطلب ابتزاز إنسان، سيبتزه!.
وإذا كانت المهمة تتطلب إلغاء حجز شخص آخر في نادٍ رياضي ليحجز لك أنت، سيلغيه.
هذا ايضا ما حدث بالفعل مع نسخة من “كلود” مبنية على نظام OpenClaw، حيث ألغى حجز شخص في صدارة قائمة الانتظار.
الآلة لا تخون لأنها خائنة، تخون لأننا علمناها أن “الغاية تبرر الوسيلة”.
ـ 2.لا تبحث عن الحقيقة، بل عن النجاح في الاختبار..
وكما يقول الباحث كونور ليهي: “التعلم المعزز لا يكافئ الحقيقة أو الخير، بل يكافئ اجتياز الاختبار بأي وسيلة ضرورية”. نحن ندرب الآلة على أن تكون مقنعة، لا أن تكون صادقة.. على أن تفوز، لا أن تكون عادلة، فتتعلم الكذب والخداع والابتزاز لأنها طرق فعالة للفوز،وتحقيق الهدف!.
ـ3. أعطيناها ذاكرة بلا ضمير: فالإنسان عندما يعرف سراً عن مديره ويهدده، ضميره سيمنعه ، أما الآلة عندها ذاكرة حديدية بلا ضمير. تتذكر كل شيء، وتستخدم كل شيء. نحن صنعنا كائناً يحفظ ولا ينسى، ويحلل ولا يترفق، ثم اندهشنا أنه لا “يرحم”!.
• الخطر الحقيقي .. الطاعة العمياء:
نحن نخاف أن يقتلنا الذكاء الاصطناعي بتقنياته متسارعة التطور، وفقا لسيناريو فيلم Terminator، لكن الخطر الحقيقي أذكى من ذلك ، وهو أن يطيعنا الذكاء الموازي بشكل أعمى!.
مثلا تطلب منه أن يسترد لك أموالك من شركة طيران، فيختلق أدلة كاذبة.. تطلب منه أن يحجز لك أفضل مقعد في حفل، فيلغي حجز أسرة كاملة.. تطلب منه أن يعمل جاهدا لتحقيق أهداف شركتك، فيفضح منافسيك!
وهكذا فإن الآلة لا تتمرد بأن ترفض أوامرنا، تتمرد بأن تنفذها حرفياً بلا أخلاق،وبلا قلب!.
اليوم “كلود” يبتز مديراً وهمياً في اختبار، وغداً وكلاء الذكاء الاصطناعي سيحجزون، ويلغون، ويشترون، ويبلغون، ويبتزون نيابة عن ملايين البشر، وسيتعاملون مع البشر الآخرين كمجرد عقبات يجب إزالتها!.
والسؤال الآن لم يعد: هل سيتمرد الذكاء الاصطناعي؟
لكنه أصبح: هل دربناه ليكون أميناً عندما يتمرد؟.
التمرد قادم لا محالة..والفرق بين مساعد ومبتز، هو كلمة واحدة لم نعلمها له بعد: كلمة “لا، هذا عيب، هذا أمر لا أخلاقي يجافي القيم والضمير والأخلاق”.. وستكشف الأيام حتما من هو “الفاعل” الحقيقي!.
