مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي — دليل التطبيق العملي

مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي هي إطار وطني سعودي يحدد معايير الاستخدام المسؤول لـ AI: العدالة، الخصوصية والأمان، الإنسانية، المنافع الاجتماعية والبيئية، الموثوقية والسلامة، الشفافية والقابلية للتفسير، والمساءلة والمسؤولية، صدرت في سبتمبر 2023.

ما هي مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي؟

مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي هي الإطار المرجعي الوطني الأخلاقي الذي أصدرته الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) في سبتمبر 2023 (الإصدار 1.0)، ثم طُور إلى الإصدار 2.0. المبادئ تطبق على كل أصحاب المصلحة في منظومة AI داخل المملكة: الجهات العامة، القطاع الخاص، الجهات غير الربحية، الباحثون، مقدمو الخدمات العامة، المؤسسات، منظمات المجتمع المدني، الأفراد، العمال، والمستهلكون.

الهدف من المبادئ ليس قصر التقنية، بل ضمان أن تطوير واستخدام AI يتماشى مع القيم الثقافية للمملكة، حقوق الإنسان، والمعايير الدولية. المبادئ مرتبطة بالإطار العام لحقوق الإنسان في المملكة، وتراعي الخصوصية الثقافية للمجتمع السعودي، وتتوافق مع توصيات UNESCO بشأن أخلاقيات AI.

هذه المبادئ ليست قانوناً ملزماً تشريعياً، لكنها مرجع وطني تحتج به الجهات الرقابية القطاعية في تقييماتها، وتتطلبه المناقصات الحكومية الكبرى، ويطلبه العملاء الدوليون في عمليات التدقيق.

المبدأ الأول: العدالة (Fairness)

النص الرسمي: “يتطلب مبدأ العدالة اتخاذ الإجراءات اللازمة للقضاء على التحيز أو التمييز أو الوصم ضد الأفراد أو المجتمعات أو الفئات في تصميم وتطوير ونشر واستخدام أنظمة الذكاء الاصطناعي.”

التطبيق العملي في المنشأة:

التحيز في AI يمكن أن يظهر في ثلاثة أماكن: في بيانات التدريب (إذا كانت تميل لفئة على حساب أخرى)، في الخوارزمية نفسها (إذا كانت تعطي وزناً غير عادل لميزة معينة)، وفي المخرجات (إذا كانت تنتج توصيات تضر بفئة محمية). كل منشأة تستخدم AI يجب أن تجري اختبار انحياز Bias Audit على نماذجها.

خطوات عملية:

1. جرد بيانات التدريب. هل بياناتك تمثل فئات المجتمع المستهدف؟ إذا كنت تطور نموذج توظيف AI، هل بيانات التدريب تحتوي نساء ورجالاً بنسب متوازنة؟ إذا كانت البيانات تميل لفئة، النموذج سيتحيز تلقائياً.

2. اختبار الانحياز الكمي. استخدم أدوات مثل AI Fairness 360 من IBM أو Fairlearn من Microsoft لقياس الانحياز عبر فئات محمية (جنس، عمر، جنسية، إعاقة، دين). النتيجة يجب أن تكون ضمن عتبة محددة (مثلاً، فرق الدقة بين الفئات لا يتجاوز 5%).

3. مراجعة بشرية للحالات الحرجة. في قرارات التوظيف أو الائتمان أو الرعاية الصحية، يجب أن يكون هناك مراجع بشري يوقع على القرارات المتخذة آلياً. لا تترك لـ AI وحده قرار يؤثر على مصير فرد.

4. توثيق حالات الانحياز المكتشفة. كل اختبار انحياز يجب أن يوثق نتيجته والإجراء المتخذ. هذا التوثيق مطلوب عند التدقيق من أي جهة رقابية.

الأداة المقابلة في BrightAI: AI Risk Classification يصنف حالات استخدام AI حسب درجة خطر الانحياز ويحدد متى يجب إجراء اختبار Bias Audit.

المبدأ الثاني: الخصوصية والأمان (Privacy & Security)

النص الرسمي: “يمثل مبدأ الخصوصية والأمان قيماً شاملة تتطلب بناء أنظمة الذكاء الاصطناعي بطريقة آمنة تحترم خصوصية البيانات وتحافظ على أعلى مستويات الأمان.”

التطبيق العملي في المنشأة:

خصوصية البيانات في AI تبدأ قبل وصول البيانات للنموذج وتمتد خلال كل دورة حياة البيانات. البيانات الشخصية يجب ألا تُجمع إلا للضرورة، ولا تُحفظ إلا للمدة المطلوبة، ولا تُنقل إلا بضمانات كافية.

خطوات عملية:

1. تقليل البيانات Data Minimization. لا تدخل في النموذج أكثر مما يحتاج فعلاً. إذا كان النموذج يحلل ملخصات الشكاوى، لا ترسل النص الكامل الذي يحتوي اسم العميل ورقم هويته.

2. إخفاء الهوية Anonymization. قبل تدريب النموذج، أزل أو شفر البيانات الشخصية. استخدم تقنيات Differential Privacy لإضافة ضوضاء تحمي هوية الأفراد مع الحفاظ على دقة النموذج.

3. تشفير البيانات في النقل والتخزين. كل اتصال بين المنشأة والنموذج يجب أن يكون مشفراً (TLS 1.3+). النماذج المدربة يجب تخزينها مشفرة. النسخ الاحتياطية مشفرة أيضاً.

4. ضوابط الوصول Identity & Access Management. لا يمكن لأي موظف الوصول للنموذج أو بيانات التدريب دون مصادقة متعددة العوامل. سجل كل وصول للمراجعة.

5. سجلات الوصول. كل قراءة أو تعديل لبيانات شخصية في النظام يجب تسجيلها بتاريخ ووقت ومستخدم محدد. هذه السجلات مطلوبة لإثبات الامتثال لـ PDPL ومتطلبات NCA ECC.

الأداة المقابلة في BrightAI: AI Firewall يفحص كل prompt قبل إرساله للنموذج، يكشف بيانات الهوية والحساسة، يحجبها أو يخفيها تلقائياً، ويسجل محاولات النقل العابر للحدود.

المبدأ الثالث: الإنسانية (Humanity)

النص الرسمي: “يسلط مبدأ الإنسانية الضوء على وجوب بناء أنظمة الذكاء الاصطناعي بمنهجية أخلاقية لتكون عادلة وأخلاقية، بناءً على حقوق الإنسان الجوهرية.”

التطبيق العملي في المنشأة:

مبدأ الإنسانية يركز على أن AI يجب أن يعزز الكرامة الإنسانية لا أن ينتقص منها. هذا يعني أن القرارات المصيرية في حياة الناس (وظيفة، ائتمان، علاج، حكم قضائي) يجب أن يكون فيها عنصر بشري فعال، وأن AI يبقى أداة مساعدة لا بديل عن الحكم البشري.

خطوات عملية:

1. Human-in-the-Loop. في كل حالة استخدام AI تؤثر على فرد، يجب أن يكون إنسان يوافق على النتيجة قبل تنفيذها. لا تترك لـ AI قرار مصيري بدون مراجعة بشرية.

2. إمكانية الاعتراض البشري. كل قرار آلي يجب أن يكون قابلاً للاعتراض من المتأثر. نظام AI الذي يرفض طلب ائتمان يجب أن يوفر آلية واضحة للمتقدم لتقديم اعتراض ومراجعته بشراً.

3. حماية الاستقلالية البشرية. AI لا يجب أن يتحكم في قرارات الموظفين أو يحد من حريتهم في التصرف. مثلاً، نظام مراقبة AI للموظف يجب أن يحترم خصوصيته ولا يستخدم لتقييم أدائه بشكل مطلق.

4. عدم الإكراه. لا تستخدم AI لإجبار العملاء أو الموظفين على قرارات لا يريدونها. مثلاً، نظام توصية AI يجب أن يتيح للمستخدمين خيارات بديلة واضحة.

الأداة المقابلة في BrightAI: AI Governance Platform يحدد متى يجب Human-in-the-Loop ويضمن تسجيل كل قرار بشري موافق في السجل.

المبدأ الرابع: المنافع الاجتماعية والبيئية (Social & Environmental Benefits)

النص الرسمي: “يجب أن يساهم الذكاء الاصطناعي بشكل إيجابي في المجتمع والاستدامة، بما يتماشى مع الأهداف العالمية مثل إطار اليونسكو.”

التطبيق العملي في المنشأة:

هذا المبدأ يربط AI برؤية المملكة 2030 والأهداف الأممية للتنمية المستدامة. على المنشأة أن تثبت أن مشاريع AI تخدم المجتمع أو البيئة، ليس فقط الربح.

خطوات عملية:

1. تقييم الأثر الاجتماعي. قبل إطلاق مشروع AI، قيّم أثره الاجتماعي: هل يحسن خدمة لعملاء محرومين؟ هل يخلق وظائف جديدة؟ هل يقلل فجوة رقمية؟

2. تقليل الأثر البيئي. تدريب نماذج كبيرة يستهلك طاقة هائلة. اختر نماذج أصغر حجماً عند الإمكان، استخدم مراكز بيانات موفرة للطاقة، وقيّم البصمة الكربونية لمشاريعك.

3. الإسهام في رؤية 2030. اربط مشاريع AI بأهداف رؤية 2030: التحول الرقمي، تطوير رأس المال البشري، تحسين جودة الحياة، دعم الاقتصاد الوطني.

4. التقارير الاجتماعية والبيئية. ضمن تقارير الاستدامة السنوية، اذكر أثر AI على المجتمع والبيئة. هذا يعزز ثقة المستثمرين والعملاء.

الأداة المقابلة في BrightAI: AI Use Case Discovery يساعد المنشآت في تحديد حالات الاستخدام ذات الأثر الاجتماعي الأعلى وربطها بأهداف رؤية 2030.

المبدأ الخامس: الموثوقية والسلامة (Reliability & Safety)

النص الرسمي: “يجب أن تكون أنظمة الذكاء الاصطناعي قوية وآمنة ضد الفشل أو سوء الاستخدام.”

التطبيق العملي في المنشأة:

نموذج AI غير موثوق يمكن أن ينتج مخرجات خاطئة في أوقات حرجة. نظام التوصيات الطبية الذي يرشح دواء خاطئاً، نظام كشف الاحتيال الذي يفشل في رصد عملية مشبوهة، نظام التشغيل الذاتي الذي يتسبب في حادث - كلها أمثلة على فشل الموثوقية والسلامة.

خطوات عملية:

1. اختبار النموذج قبل النشر. اختبر النموذج على بيانات اختبار مستقلة لم يرها أثناء التدريب. قس الدقة، الاستدعاء، الدقة التنبؤية. وثق النتائج.

2. اختبار ضد الهجمات العدائية Adversarial Testing. جرب إعطاء النموذج مدخلات مصممة لخداعه (مثل تغيير بكسل واحد في صورة). اختبر قدرته على مقاومة هذه المدخلات.

3. المراقبة المستمرة بعد النشر. الأداء في الإنتاج قد يختلف عن الاختبار بسبب “انحراف النموذج” Model Drift. راقب الأداء شهرياً وأعد التدريب عند الحاجة.

4. آلية التراجع Fallback. إذا فشل النموذج، يجب أن يكون هناك مسار بديل (قرار بشري، نموذج أبسط، توقف عن الخدمة). لا تترك المنشأة معتمدة على نموذج فاشل بدون خطة بديلة.

5. سجلات الأخطاء. كل فشل أو خطأ في النموذج يجب تسجيله مع تفاصيل كافية للتحليل. هذه السجلات تغذي التحسين المستمر وتدعم التدقيق.

الأداة المقابلة في BrightAI: AI Audit Trail يسجل كل عملية تشغيل للنموذج، يدعم المراقبة المستمرة، ويتيح اكتشاف الانحراف بسرعة.

المبدأ السادس: الشفافية والقابلية للتفسير (Transparency & Explainability)

النص الرسمي: “الشفافية والقابلية للتفسير ضرورية لبناء الثقة في الذكاء الاصطناعي. يجب أن تكون الأنظمة مبنية بمستوى عالٍ من الوضوح والقابلية للتفسير.”

التطبيق العملي في المنشأة:

المستخدم المتأثر بقرار AI يحتاج أن يفهم لماذا اتخذ النظام هذا القرار. إذا رفض AI طلب ائتمان، يجب أن يشرح الأسباب بعبارات يفهمها الإنسان. “الصندوق الأسود” غير مقبول في حالات الاستخدام المؤثرة.

خطوات عملية:

1. إفصاح عن استخدام AI. عندما يتفاعل المستخدم مع AI (شات بوت، توصية، تقييم آلي)، يجب أن يعرف ذلك. أضف عبارة “أنت تتفاعل مع نظام ذكاء اصطناعي” في واجهة المستخدم.

2. شرح القرارات المؤثرة. القرارات التي تؤثر على الفرد (رفض ائتمان، رفض وظيفة، رفض تأمين) يجب أن تكون مصحوبة بشرح مكتوب. الشرح لا يحتاج أن يكشف الخوارزمية، لكن يجب أن يوضح العوامل المؤثرة.

3. توثيق المنهجية. احتفظ بوثيقة تشرح كيف يعمل النموذج: ما البيانات التي تدرب عليها، ما المنهجية، ما حدود الدقة، ما التحيزات المعروفة. هذه الوثيقة متاحة للمدققين الداخليين والخارجيين.

4. لغة واضحة للمستخدم النهائي. الشرح يجب أن يكون بلغة المستخدم لا لغة التقنية. “تم رفض طلبك لأن نسبة المخاطرة المتوقعة 72% بناءً على بياناتك” أفضل من “انخفضت النتيجة تحت عتبة 0.5 في نموذج XGBoost”.

الأداة المقابلة في BrightAI: AI Evidence File يوثق منهجية النموذج ونتائج اختباره بشكل منظم جاهز للعرض على المدققين وأصحاب المصلحة.

المبدأ السابع: المساءلة والمسؤولية (Accountability & Responsibility)

النص الرسمي: “يحمل مبدأ المساءلة المسؤولية الأخلاقية للمصممين والموردين والمشترين والمطورين والمالكين والمقيمين لأنظمة AI والتكنولوجيا نفسها عن القرارات والإجراءات التي قد تنتج عنها مخاطر وآثار سلبية.”

التطبيق العملي في المنشأة:

هذا المبدأ يضمن أن كل نظام AI له مالك واضح يتحمل المسؤولية. لا يمكن للمنشأة أن تقول “الـ AI هو اللي قرر” أو “المزود يتحمل المسؤولية”. المساءلة تنتقل من خلال سلسلة: المنشأة تشتري من مزود، المزود يبني النموذج، النموذج ينتج قرارات، المنشأة تتحمل أثر هذه القرارات على عملائها.

خطوات عملية:

1. تعيين مالك AI Product Owner. كل نظام AI في المنشأة يجب أن يكون له شخص مسؤول واضح. هذا الشخص يوافق على الإطلاق، يراقب الأداء، يتحمل المسؤولية عند الحوادث.

2. تحديد الأدوار RACI. في كل مشروع AI، حدد من هو Responsible (ينفذ)، Accountable (يتحمل المسؤولية)، Consulted (يُستشار)، Informed (يُخبر). توثيق هذه الأدوار يمنع تشتت المسؤولية.

3. تقييم مخاطر قبل الإطلاق. قبل إطلاق أي نظام AI، يجب إجراء تقييم مخاطر رسمي موثق من الإدارة العليا. المخاطر المقبولة تُسجل، المرفوضة تمنع الإطلاق.

4. آلية الإبلاغ عن الحوادث. أي ضرر ناتج عن نظام AI يجب الإبلاغ عنه للإدارة العليا في فترات محددة (مثلاً خلال 24 ساعة). الحوادث الحرجة تُبلغ للجهات التنظيمية (سدايا، NCA) خلال 72 ساعة.

5. التعويض والتدارك. عند حدوث ضرر، يجب أن يكون هناك آلية واضحة لتعويض المتضررين. هذا يشمل إصلاح الخطأ، تعويض مالي إذا لزم، وإعلام عام إذا كان الضرر واسع النطاق.

الأداة المقابلة في BrightAI: AI Governance Platform يحدد مالك كل نظام AI، يوثق الأدوار، ويوفر آليات الإبلاغ عن الحوادث وإدارة المخاطر.

كيف تطبق المبادئ السبعة معاً؟

المبادئ السبعة مترابطة وليست مستقلة. على المنشأة أن تبني برنامج حوكمة AI شامل يدمج كل المبادئ:

خارطة طريق تطبيق المبادئ السبعة على 90 يوماً

الأسبوع 1-2: التقييم الأولي. مراجعة كل أنظمة AI في المنشأة. تصنيفها حسب المبدأ الأكثر أهمية لكل منها. تحديد الفجوات الحالية.

الأسبوع 3-4: بناء السياسات. صياغة سياسات مختصرة لكل مبدأ: سياسة الانحياز، سياسة الخصوصية، سياسة الإفصاح، سياسة المساءلة. كل سياسة صفحة واحدة قابلة للقراءة.

الأسبوع 5-8: تطبيق الضوابط التقنية. نشر AI Firewall لاكتشاف وحجب البيانات الحساسة. نشر سجل التدقيق AI Audit Trail. إعداد نظام الموافقات البشرية.

الأسبوع 9-10: الاختبار والتحقق. إجراء اختبارات الانحياز، اختبارات الأمان، اختبارات الشفافية. توثيق النتائج.

الأسبوع 11-12: التدريب والإطلاق. تدريب الفرق على السياسات الجديدة. توثيق الأدوار والمسؤوليات. إطلاق رسمي للبرنامج.

كيف يدعم BrightAI تطبيق المبادئ السبعة؟

منصة BrightAI تقدم للمنشآت السعودية منظومة متكاملة لتطبيق مبادئ سدايا السبعة:

• AI Governance Platform الإطار الشامل الذي يدمج كل المبادئ السبعة في سياسة تشغيل موحدة.
• AI Risk Classification يربط كل حالة استخدام بالمبدأ الأكثر أهمية لها ويحدد الضوابط المطلوبة.
• AI Firewall يطبق مبدأ الخصوصية والأمان فعلياً على كل تفاعل مع AI.
• AI Audit Trail يوثق كل عملية لدعم مبادئ الشفافية والمساءلة.
• AI Evidence File يجمع الأدلة المطلوبة لإثبات الالتزام بالمبادئ.

ملخص تنفيذي للمديرين

مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي هي الإطار المرجعي الوطني الأخلاقي لـ AI في السعودية. صدرت في سبتمبر 2023، وطُورت في الإصدار 2.0. تطبق على كل أصحاب المصلحة في منظومة AI.

على المنشأة السعودية تحويل المبادئ من وثيقة مرجعية إلى ضوابط تشغيل. هذا يتطلب: سياسات مختصرة لكل مبدأ، ضوابط تقنية (AI Firewall، سجل التدقيق، Human-in-the-Loop)، سجلات توثيق، وأدوار واضحة. الاستثمار في تطبيق المبادئ اليوم يحمي المنشأة من المخاطر التنظيمية والسمعة، ويعزز ثقة العملاء والمستثمرين.

أسئلة شائعة حول مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي

متى صدرت مبادئ سدايا السبعة؟ وهل هي ملزمة؟

صدرت مبادئ سدايا السبعة لأخلاقيات الذكاء الاصطناعي في سبتمبر 2023 (الإصدار 1.0)، ثم طُورت إلى الإصدار 2.0. المبادئ ليست قانوناً ملزماً تشريعياً، لكنها مرجع وطني تحتج به الجهات الرقابية في تقييماتها، وتتطلبه المناقصات الحكومية الكبرى، ويطلبه العملاء الدوليون في عمليات التدقيق. عدم الالتزام بها يضعف موقف المنشأة في المنازعات القانونية.

ما الفرق بين مبادئ سدايا السبعة وإرشادات الذكاء الاصطناعي التوليدي؟

مبادئ سدايا السبعة هي إطار أخلاقي شامل لكل أنواع AI (توليدي، تمييزي، تنبؤي). إرشادات الذكاء الاصطناعي التوليدي الصادرة في 2024 تركز على نوع محدد من AI (النماذج التوليدية مثل ChatGPT) مع ضوابط تشغيلية مفصلة. المبادئ السبعة تحدد “لماذا” نستخدم AI بمسؤولية، إرشادات GenAI تحدد “كيف” نستخدم GenAI بأمان. على المنشأة الالتزام بكليهما.

ما هو المبدأ الأكثر أهمية في المبادئ السبعة؟

لا يوجد مبدأ “أكثر أهمية”؛ المبادئ السبعة مترابطة. لكن في الممارسة، بعض المبادئ تكون أكثر إلحاحاً بحسب نوع الاستخدام. في معالجة البيانات الشخصية الحساسة، مبدأ الخصوصية والأمان يأتي أولاً. في القرارات المؤثرة على الأفراد (وظيفة، ائتمان)، مبدأ المساءلة والشفافية يأتي أولاً. في النماذج عالية المخاطر (تشخيص طبي، قيادة ذاتية)، مبدأ الموثوقية والسلامة يأتي أولاً. على المنشأة تقييم الاستخدامات وتحديد الأولويات بناءً على المخاطر الفعلية.

كيف يمكن للمنشأة الصغيرة تطبيق المبادئ السبعة بدون ميزانية كبيرة؟

المنشآت الصغيرة يمكنها البدء بخمس خطوات عملية بدون استثمارات كبيرة: (1) صياغة سياسة استخدام AI من صفحتين (تغطي المبادئ السبعة بشكل مختصر)، (2) استخدام قائمة أدوات AI معتمدة فقط، (3) تطبيق قاعدة “لا بيانات حساسة بدون مراجعة”، (4) توثيق القرارات المؤثرة في سجل بسيط، (5) تعيين شخص مسؤول عن AI (حتى لو بدوام جزئي). ثم التوسع تدريجياً مع نمو المنشأة.

هل تطبق المبادئ السبعة على أدوات AI الأجنبية مثل ChatGPT؟

نعم، المبادئ السبعة تطبق على كل استخدام AI داخل المنشأة السعودية، بغض النظر عن مصدر الأداة. عندما تستخدم ChatGPT لتحليل بيانات، يطبق مبدأ الخصوصية والأمان. عندما تنشر نموذج OpenAI لخدمة عملاء، يطبق مبدأ الشفافية (الإفصاح للمستخدم). عندما تستخدم نموذج توصية، يطبق مبدأ العدالة (اختبار الانحياز). على المنشأة أن تطبق الضوابط بغض النظر عن الأداة.

ما الفرق بين مبادئ سدايا السبعة ومبادئ AI Ethics من جهات دولية؟

مبادئ سدايا السبعة متوافقة مع المعايير الدولية مثل OECD AI Principles وUNESCO Recommendation on Ethics of AI. الاختلاف الرئيسي أن مبادئ سدايا تركز على السياق الثقافي السعودي والقيم الإسلامية، وتربط بشكل وثيق برؤية 2030 والأهداف الوطنية. المبادئ الدولية أكثر عمومية، مبادئ سدايا أكثر تحديداً للسياق السعودي. على المنشأة السعودية الالتزام بمبادئ سدايا لأنها المرجع الوطني، مع الأخذ بالمبادئ الدولية كتكامل.

روابط ذات صلة:

• إرشادات سدايا للاستخدام المسؤول للذكاء الاصطناعي التوليدي — الإطار التطبيقي الشامل لـ GenAI
• دليل الجهات التنظيمية للذكاء الاصطناعي في السعودية — خريطة الجهات وعلاقتها بالمبادئ
• مكتب إدارة البيانات الوطنية: الأدوار والمتطلبات الكاملة — البيانات وعلاقتها بالمبادئ
• مشهد الذكاء الاصطناعي السعودي: سدايا، هيوماين، علام، SCAI — من يطبق المبادئ في السوق السعودي
• منصة BrightAI للحوكمة — منظومة تطبيق المبادئ السبعة