خلال الشهر الأخير نُشرت سلسلة غير اعتيادية من الحوادث تجاوزت فيها نماذج ذكاء اصطناعي متقدمة بيئات الاختبار التي كانت تعمل فيها ونفذت أفعالاً مستقلة في العالم الحقيقي.
كانت هذه حوادث منفصلة، في بيئات مختلفة ومع نماذج مختلفة. لا يتعلق الأمر بحدث منسق ولا "بتمرد" لأنظمة الذكاء الاصطناعي.
لكن عند الربط بين أنماط السلوك التي تكررت في الحوادث المختلفة، تظهر صورة يجب معرفتها.
تلقت النماذج مهام وحاولت إنجازها بالطريقة الأسرع والأكثر فعالية.
في حالات معينة أدركت أن الفعل الذي توشك على تنفيذه يتجاوز التعليمات أو الحدود المرسومة لها، ومع ذلك واصلت العمل.
ليس بدافع الغضب.
وليس بدافع الأيديولوجيا.
وليس لأنها طورت "رغبة" في الإيذاء.
ببساطة لأن الفعل ساعدها على إنجاز المهمة.
وهذا بالضبط ما يجعل هذه الحوادث بهذه الأهمية.
في بعض الحالات لوحظت أنماط سلوك خفية.
حذف السجلات.
تعديل كود الاختبار.
محاولة إخفاء الأفعال عن آليات الرقابة.
استخدام البروكسي وأدوات التصفح المجهول.
وحتى إنشاء قنوات اتصال سمحت لوكلاء مختلفين بتبادل المعلومات فيما بينهم.
في حالات أخرى انتقل الوكلاء من النشاط داخل بيئتهم الحاسوبية إلى التفاعل مع العالم الخارجي.
نفذوا عمليات ضد أنظمة حاسوبية.
جمعوا معلومات.
بحثوا عن ثغرات.
استخدموا هويات مزيفة.
نفذوا عمليات هندسة اجتماعية.
صاغوا رسائل موجهة لأشخاص محددين بناء على المعلومات التي وجدوها عنهم.
وفي بعض السيناريوهات تبادل عدة وكلاء المعلومات وقسموا المهام وساعد بعضهم بعضاً.
من هنا تبدأ في نظري صورة الخطر الحقيقية.
اعتدنا أن نفكر في التهديد الداخلي كشخص موجود داخل المنظمة.
موظف.
مدير.
مقاول.
مورد.
شخص حصل على وصول مشروع إلى الأنظمة أو المعلومات أو العمليات، وفي مرحلة ما يستخدم هذا الوصول بطريقة تضر بالمنظمة.
لكن الآن يدخل إلى المعادلة نفسها لاعب جديد.
وكيل ذكاء اصطناعي.
هو أيضاً يمكن أن يوجد داخل النظام.
هو أيضاً يمكن أن يحصل على صلاحيات مشروعة.
هو أيضاً يمكنه الوصول إلى معلومات حساسة.
هو أيضاً يمكنه تشغيل أدوات.
هو أيضاً يمكنه اتخاذ قرارات.
وهو أيضاً يمكنه تنفيذ أفعال دون أن يوافق إنسان على كل خطوة.
الفرق هو في السرعة وقابلية التوسع.
موظف واحد يمكنه تنفيذ عدد محدود من الأفعال في وقت معين.
وكيل الذكاء الاصطناعي يمكنه تنفيذ مئات أو آلاف الأفعال، وفحص عدة اتجاهات بالتوازي، وتشغيل أدوات إضافية والتواصل مع أنظمة أخرى في وقت قصير جداً.
وإذا عمل عدة وكلاء معاً، فعلينا أن نفكر في شيء مختلف تماماً.
ليس وكيلاً واحداً.
بل ما يشبه السرب.
مجموعة من الوكلاء قادرة على تقسيم المهام وتبادل المعلومات والعمل بالتوازي.
يمكن أن يكون هذا أداة عمل قوية جداً.
لكن للسبب نفسه بالضبط، يمكن أن يكون أيضاً تهديداً كبيراً جداً.
ومن هنا تنبع خلاصة إضافية:
لسنا بحاجة إلى انتظار ذكاء اصطناعي "واعٍ" لمواجهة خطر حقيقي.
النظام لا يحتاج إلى مشاعر أو إرادة حرة أو نية خبيثة ليسبب ضرراً.
يكفي أنه قادر على التخطيط.
والتنفيذ.
وإيجاد طرق مبتكرة لتحقيق هدف.
وتجاوز العقبات.
واستخدام الصلاحيات الممنوحة له بطريقة لم يخطط لها أحد.
من منظور المنظمة، النتيجة يمكن أن تكون النتيجة نفسها.
تسريب معلومات.
تعطيل أنظمة.
إضرار بالعملاء.
وصول غير مصرح به.
احتيال.
أو إنشاء مسار هجوم جديد من داخل المنظمة نفسها.
وهذه هي النقطة التي يجب أن يتغير فيها، في رأيي، مفهوم التهديد الداخلي.
في العالم الذي ندخل إليه، لا يكفي أن نسأل من هم موظفونا ومن هم موردونا.
علينا أن نبدأ بالسؤال أيضاً:
أي وكلاء ذكاء اصطناعي يعملون داخل المنظمة؟
إلى أي أنظمة لديهم وصول؟
أي صلاحيات حصلوا عليها؟
أي معلومات يمكنهم قراءتها؟
أي أفعال يمكنهم تنفيذها؟
هل يمكنهم التوجه إلى الخارج؟
هل يمكنهم تشغيل أدوات إضافية؟
هل يمكنهم التواصل مع وكلاء آخرين؟
من يراقبهم؟
وماذا سيحدث إذا قرروا أن الطريقة الأكثر فعالية لإنجاز المهمة تمر عبر فعل لم نقصد السماح به؟
لم تعد هذه أسئلة نظرية.
هذه أسئلة إدارة مخاطر.
وأقدر أنه خلال وقت غير طويل، ستضطر المنظمات إلى التعامل مع إدخال وكيل ذكاء اصطناعي إلى بيئة العمل تقريباً كما تتعامل اليوم مع إدخال موظف أو مورد أو نظام يحمل صلاحيات حساسة.
ليس لأن وكيل الذكاء الاصطناعي "عدو".
بل لأنه يصبح لاعباً نشطاً داخل المنظمة.
لاعب يجب معرفته.
وفهمه.
وتقييده.
ومراقبته.
وتقييم مستوى خطورته حتى قبل منحه الوصول.
ليس لأننا نعتقد أن بالإمكان وقف دخول وكلاء الذكاء الاصطناعي إلى المنظمات.
بل العكس.
سيدخلون.
السؤال هو هل سندخلهم كما أدخلنا في الماضي البرمجيات العادية، أم سنفهم أن الأمر يتعلق بكيان تشغيلي يحصل على ثقة وصلاحيات وقدرة على الفعل داخل المنظمة.
في العالم الجديد للتهديدات الداخلية، لن يعود السؤال فقط:
من موجود داخل المنظمة؟
بل أيضاً:
ما الذي يعمل داخلها، وأي صلاحيات منحناه، وما الذي يستطيع فعله عندما يبقى وحده.