الرؤية البحثية لإطار OSAFIS
في هذه الوثيقة
يقترح OSAFIS تمثيلًا مشتركًا لتحليل الإخفاقات الأمنية في الأنظمة الذكية. وغايته أن يربط العقدَ الأمني الذي أخفق بالمكوّن أو العلاقة المعنيّة، وبآلية التأثير، وبالأدلة التي يستند إليها الاكتشاف، وبالعواقب ضمن حدود نظامٍ مُعلنة. ويمكن للباحثين استخدام هذا التمثيل للمقارنة بين الاكتشافات، كما يمكن للمهندسين استخدامه لتحديد الضوابط والتزامات التقييم. ولا يثبت أيٌّ من هذين الاستخدامين أن التمثيل مكتمل أو أن نظامًا ما آمن.
المواصفة الحالية هي 2.0.0-draft.1، وهي تحدد منهجًا بحثيًا ومعجمًا مقترحًا من المصطلحات. ولا يزال من الضروري إخضاع موثوقية التصنيف وجدوى التقييم ومدى التغطية لتقويمٍ مستقل. ولا يدّعي OSAFIS أنه معترف به معيارًا، ولا أنه يملك صلاحية منح الشهادات للأنظمة، ولا أن لديه سجلًا عامًا قيد التشغيل، ولا أنه حظي بتبنٍّ راسخ في القطاع الصناعي.
المشكلة المطروحة
لا يقتصر النظام الذكي على نموذجه المتعلَّم؛ فقد يجمع نشرٌ واحد بين شيفرة التطبيق، وبيانات التدريب والاسترجاع، والمشاهدات، والحالة المحتفَظ بها، والوصول إلى الأدوات، والموافقة البشرية، والتبعيات المشتركة مع أنظمة أخرى. ويتوقف أمنه على العقود القائمة بين هذه الوظائف، إلى جانب سلامة كل مكوّن على حدة. فقد تسمح بيانات اعتماد صالحة بعمليةٍ لم يطلبها المستخدم قط. وقد تقدّم وثيقة مسترجَعة دليلًا مفيدًا دون أن تكون لها أي سلطة لتغيير المهمة. وقد تتضمن مشاهدةٌ دقيقة نصًا لا يجوز للنظام أن يعامله بوصفه تعليمات.
وتقتضي هذه الفوارق وصفًا واضحًا للسلطة وللاستخدام المقصود. ويظل التحكم التقليدي في الوصول، وأمن البرمجيات، وإدارة المخاطر التشغيلية جزءًا من هذا الوصف. كما توفّر الأعمال القائمة في أمن الذكاء الاصطناعي مصطلحاتٍ ومعارفَ عن التهديدات وإرشاداتٍ للتخفيف منها. وتتمثل الفرصة البحثية أمام OSAFIS في اختبار ما إذا كان تمثيلٌ متسق يتمحور حول العقود يجعل العلاقة بين هذه الموارد ونظامٍ بعينه أيسر تحليلًا.
ويركّز المقترح على إخفاقات يمكن تحديدها وأدلة يمكن الدفاع عنها. فوصفُ هجومٍ معقول لا يثبت أن النظام يسمح بوقوعه. ومُخرَجٌ مفاجئ لا يثبت بحد ذاته وجود ثغرة أمنية. وإخفاقٌ ثبت في تهيئة واحدة لا يثبت انتشاره عبر المنتجات. وينبغي أن يحتفظ كل تصريح بالافتراضات والمشاهدات التي تمنحه معناه.
النطاق والمستخدمون المستهدفون
يشمل النطاق المقصود النماذجَ المتعلَّمة والرمزية، والتطبيقاتِ اللغوية ومتعددة الوسائط، وأنظمةَ الاسترجاع، والخدماتِ التكيّفية، والوكلاءَ المستخدمين للأدوات، والأنظمةَ المتجسّدة، وعملياتِ النشر المتفاعلة فيما بينها. وتتبع قابليةُ التطبيق الوظائفَ الموجودة فعلًا في النظام الخاضع للتقييم. فقد يرصد وكيلٌ رقمي بيئةً ويقدّر حالتها دون أي مستشعر مادي. وقد لا تمتلك خدمةٌ تنبؤية أي ذاكرة دائمة للمهام. وقد يظل نظامٌ يُسوَّق على أنه مستقل ذاتيًا محتويًا على حدودٍ للموافقة البشرية تحدد سلطته الفعلية.
يحتاج الباحثون في مجال الأمن إلى مفاهيم مستقرة وأمثلة وقواعد تصنيف قابلة للدحض. ويحتاج بناة الأنظمة إلى عقود أمنية ذات معايير قبول قابلة للرصد، وإلى مالكين محددين للضوابط يخضعون للمساءلة. ويحتاج المقيّمون إلى حزمة أدلة تميّز ما رصدوه مما استنتجوه. ويحتاج المتخصصون في المجالات التطبيقية إلى وسيلة لمواءمة الاختبارات مع الأخطار الفعلية والمستخدمين الفعليين وقيود التشغيل. أما الأشخاص المتأثرون فيحتاجون إلى أن تُمثَّل مصالحهم وسبلُ اعتراضهم حين يطلق تقييمٌ ما ادعاءاتٍ تخصّهم.
ويمكن للإطار أن يصف الإخفاقات المتصلة بالأمان، بما فيها الإخفاقات العرضية، متى تعلّقت بعقد أمني مُعلن أو بارتباط جوهري بنظام ذكي. لكنه لا يحل محل تقييم الأمان الخاص بالمجال، ولا الدراسة السريرية، ولا التحليل القانوني، ولا الوصف العام للأضرار الاجتماعية. وتقع المشكلات التنظيمية البشرية البحتة التي لا صلة جوهرية لها بالنظام الذكي خارج هذا النطاق. أما الحالات غير الواضحة فتبقى معلّقة صراحةً إلى أن تُسوَّغ حدود التقييم.
التمثيل المقترح
تصف تسعة مجالات تحليلية مؤقتة المسؤولياتِ الأمنية، وهي: L1 النماذج والحوسبة، وL2 البرمجيات والبنية التحتية، وL3 البيانات والمعرفة، وL4 الإدراك وتمثيل العالم، وL5 التفسير والأهداف، وL6 الذاكرة واستمرارية الحالة، وL7 التخطيط والفعل، وL8 تفاعل الإنسان والنظام، وL9 التفاعل الجماعي والنظامي. وأرقامها مجرد معرّفات لها؛ فهي لا تدل على ترتيب التنفيذ، ولا على تزايد الذكاء، ولا على درجة الخطورة، ولا على اتساع العواقب.
ويصف ثلاثة وعشرون معرّفًا للخصائص التزاماتٍ قد تنطبق في أكثر من مجال. ويوفّر اثنا عشر معرّفًا للآليات واصفاتٍ متداخلةً للتأثير العدائي. وتستدعي سبعة أبعاد مشتركة فحصَ الهوية والسلطة، والحوكمة، والمنشأ، والخصوصية والأمان، وإدارة التغيير، وقابلية المراقبة، والتعافي. وتصف هذه الأعداد المعجمَ الحالي، ولم يثبت بعدُ أنها الأمثل.
ويسجّل رسمٌ بياني منفصل المكوّناتِ الفعلية والبشرَ والمواردَ المشتركة، مع علاقاتٍ محددة الأنواع. ويمكن لمكوّن واحد أن ينفّذ عدة مجالات. وحين يعتمد عدة وكلاء فعلًا على الأثر البرمجي نفسه، ينبغي أن يظهر النموذج المشترك مكوّنًا مشتركًا واحدًا، لا نسخًا مستقلة وهمية. ولا تنقل المشاهداتُ وتبادلُ المعلومات ومزامنةُ الحالة السلطةَ تلقائيًا. ويمكن أن تتعلق العقود الجماعية بمجموعةٍ أو بدورة تغذية راجعة دون أن تُختزَل في اتصال ثنائي معيب واحد.
وتميّز الاكتشافات بين نقاط الدخول، والعقود التي أخفقت، والمجالات المشاركة، والانتشار، والأثر. ولا يُعدّ مجالٌ لاحق في السلسلة مصابًا بثغرة تلقائيًا لمجرد أن هجومًا بلغه. والأثر الواسع وحده لا يشكّل اكتشافًا في L9. ويجوز للمقيّمين تحديد إخفاقات سببية متعددة أو ترك التصنيف ملتبسًا، دون فرض طبقة أساسية مصطنعة.
مبادئ البحث
ينبغي أن تخدم التعريفاتُ اتخاذَ القرار. فيجب أن يحدد كل مجال وظيفةً أو علاقةً محمية، وأن يوضح ما يميّزه عن المجالات المجاورة له. ويجب أن تحدد كل خاصية التزامًا يمكن تجسيده في عقد قابل للاختبار. ولا يكفي اسمُ خاصيةٍ مثل «السلامة» أو «الثقة» ما لم يقترن بموضوع محدد، وقاعدةٍ للتغيير المصرَّح به، وافتراضاتٍ ذات صلة، وخرقٍ قابل للرصد.
وينبغي أن تبقى الأدلة قابلة للتتبع. فعلى التقارير أن تحفظ التهيئة، والإصدارات، ومنشأ المدخلات، وحدود الاختبار، والنتائج، والأدلة المعاكسة، والقيود المفروضة على إعادة الإنتاج. ولا يقتضي الانفتاح نشر بيانات خاصة أو حمولة خطرة. وينبغي أن يكون للأدلة المقيّدة إجراءُ وصولٍ مُعلن، وأن تُبيَّن بوضوح تبعاتُ هذا التقييد على التحقق المستقل.
وينبغي أن تبقى الادعاءات متناسبة. فتغطية التصنيف، وكشف الهجمات، وفعالية التخفيف، والمخاطر المتبقية مسائل منفصلة. فقد يصف الإطار إخفاقًا لا يستطيع كشفه تلقائيًا. وقد يحجب ضابطٌ ما سيناريو مختبَرًا دون أن يقضي على الفئة الأوسع. وقد تدعم دراسةٌ تجريبية استنتاجًا محدودًا دون أن تثبت انتفاء الإخفاقات مستقبلًا.
وينبغي أن تكون التنقيحات قابلة للمراجعة. فالخلاف دليلٌ على حدود غير واضحة، أو تفسيرات سببية متنافسة، أو افتراضات تهديد متباينة، وينبغي أن تحفظ العمليةُ هذه المعلومات. وتستلزم التغييرات في نطاق المجالات سجلَّ ترحيل، لا إعادةَ تفسيرٍ صامتة للاكتشافات القديمة. وينبغي أن تحتفظ المواءمات الخارجية بإصدار مصدرها، وأن تميّز العلاقة المفاهيمية من ادعاء التكافؤ.
المخرجات ومسؤولياتها
تُعرّف «المفاهيم الأساسية» وحدةَ التحليل والمصطلحاتِ المشتركة بين وثائق المجموعة. وتُعرّف «الطبقات الأمنية» المجالاتِ التسعة وقواعدَ حدودها. وتُعرّف «الخصائص الأمنية» الالتزاماتِ المستخدمة في بناء العقود الأمنية. ويسجّل «نموذج التهديد» من يستطيع التأثير في ماذا، وفي ظل أي شروطٍ للمعرفة والوصول. ويصف «تصنيف الهجمات» معجمَ الآليات وحدوده.
وتحدد «منهجية التقييم» كيفية تحديد نطاق التقييم واختباره وتفسيره والإبلاغ عنه. وتطبّق «الملفات التعريفية للأنظمة» المنهجيةَ المشتركة على فئات مرشّحة من الأنظمة دون اختلاق عتباتٍ تسري على قطاعات بأكملها. ويحدد «سجل الثغرات» سجلاتِ الأدلة وعمليةَ مراجعة مقترحة. وتسجّل «العلاقة بالأطر القائمة» مواءماتٍ مقيّدةً بمصادرها. وتضبط «الإصدارات والمعرّفات» الاستشهادَ والترحيل. ويحدد «المستقبل» أسئلةَ البحث ودواعيَ التنقيح. أما وثيقة «الرؤية» هذه فتبيّن الغاية من المشروع والادعاءاتِ التي هو مستعد لتقديمها.
وترافق «الأمثلة التعليمية» المواصفةَ بوصفها حالاتٍ تعليمية لم تُنفَّذ. وتدعم التعريفاتُ المقروءة آليًا والتحققُ من صحة السجلات توثيقًا متسقًا، لكنها ليست أداةً لمسح الهجمات ولا دليلًا على وجود ثغرة. ويعرض الموقع الإلكتروني والعرض التقديمي المادةَ نفسها، ولا ينبغي أبدًا أن يوحيا بنضجٍ يفوق ما تدعمه الأدلة الأساسية.
الأدلة المطلوبة للإصدار التالي
ينبغي تقويم البنية على مجموعة حالاتٍ مُعلنة تغطي وظائف مختلفة، ومراحل مختلفة من دورة الحياة، ونطاقاتٍ متباينة للعواقب. ويمكن لمجموعة تطوير أن تساعد في توضيح التعريفات. أما مجموعةٌ محجوزة منفصلة، يصنّفها مراجعون مستقلون وفق تعريفاتٍ مجمّدة، فيمكنها أن تختبر ما إذا كانت تلك التوضيحات قابلة للتعميم. وينبغي أن تتضمن التقارير درجةَ عدم اليقين، والخلافات، والحالاتِ الملتبسة، والحالاتِ غير الممثَّلة، والجهدَ اللازم للوصول إلى تصنيف مفيد.
وينبغي أن تختبر الدراساتُ المقارنة أسئلةً ملموسة، من قبيل ما إذا كان المراجعون يحددون غيابَ فحوص الترخيص للأفعال على نحو أكثر اتساقًا، أو يتتبعون إخفاقَ مورد مشترك بدقة أكبر. وينبغي أن تستند المقارنة إلى معلومات وظروف مهام قابلة للمقارنة. ولا ينبغي أن تُقيَّم الأطر المنافسة بحسب ما إذا كانت وثائقها تستخدم مصادفةً أسماءَ طبقات OSAFIS.
وتتطلب جدوى التقييم تقويمًا خاصًا بها. فعلى الفرق أن تفحص ما إذا كانت المنهجية تُنتج عقودًا وضوابط قابلة لإعادة الإنتاج تعالج الإخفاق المرصود مع الحفاظ على المنفعة المصرَّح بها. وعليها أن تتتبع محاولات التخفيف غير الناجحة وأنماطَ الإخفاق المستجدة. وتتطلب الدراسات التي يشارك فيها البشر ضماناتٍ مناسبة لحماية المشاركين. أما الآثار المادية أو التي لا رجعة فيها فتتطلب بيئة اختبار آمنة وسلطةً تشغيلية صريحة.
الحوكمة والنشر
يحتاج المشروع إلى مسؤول صيانة محدد بالاسم، وعملية مراجعة موثّقة، وآلية للتعامل مع تضارب المصالح، ومسارٍ للطعن، قبل أن يقدّم أي سجل على أنه خاضع لحوكمة مستقلة. فالدور المقترح ليس مراجعًا معيَّنًا، وترخيص النشر المقترح ليس ترخيصًا معتمدًا. وإلى أن يتخذ المالك هذه القرارات، ينبغي أن تصف المواد التوجّهَ المقصود نحو مرجعٍ مفتوح، دون منح حقوق غير محددة أو ادعاء تأييد مؤسسي.
ويعني النجاح أن يتمكن مستخدمون مستقلون من تطبيق التمثيل والطعن فيه وتحسينه، وأن تدعم التقييماتُ المبنية عليه قراراتٍ أمنيةً أفضل في سياقات محددة. وإثبات هذه النتيجة يتطلب أدلةً تتجاوز مجرد إكمال الوثائق. وتجعل هذه المواصفة الالتزاماتِ والاختباراتِ صريحةً كي يتمكن المشروع من السعي إلى تلك الأدلة.