تبني الذكاء الاصطناعي يتسارع، ويجب أن تواكبه المساءلة بالوتيرة نفسها

تغيّر الفرق الهندسية في مصر والخليج طريقة عملها مع الذكاء الاصطناعي، وهذا التغيير يستحق حوارًا صريحًا.

يتسارع تبني الذكاء الاصطناعي. فالأدوات اليوم أفضل وأسرع وأيسر وصولًا من أي وقت مضى. وقد قررت معظم المؤسسات بالفعل أن تتبنى الذكاء الاصطناعي، والسؤال الآن هو كيف.

ونرى لدى عملائنا وشركائنا في البنوك والتقنية المالية والرعاية الصحية والعقارات أن هذا «الكيف» هو أكبر تحدٍّ يواجه كثيرًا من الفرق.

النمط المتكرر في القطاعات الخاضعة للتنظيم

عملنا خلال العامين الماضيين مع مؤسسات في البنوك والتقنية المالية والمشتريات والعقارات والرعاية الصحية. وفي كل قطاع تقريبًا نرى التحول نفسه: تتبنى الفرق أدوات الذكاء الاصطناعي بسرعة، بينما لا يزال التفكير والمساءلة اللذان يجب أن يرافقاها في طور اللحاق بها.

والأعراض محددة: مطورون يسلّمون شيفرة لا يستطيعون شرحها، ومخرجات تجتاز المراجعة ظاهريًا ثم تنهار أثناء الصيانة أو عند التوسع، وفرق تستخدم الذكاء الاصطناعي في مهام تنجزها أداة حتمية بسيطة بسرعة وموثوقية أكبر، وقرارات تُتخذ بناءً على مخرجات نموذج دون أن يكون في الحلقة من يفهم منطقها فهمًا كاملًا.

وجد تقرير ماكنزي لعام ٢٠٢٤ عن تبني الذكاء الاصطناعي التوليدي أن تبني الذكاء الاصطناعي تضاعف أكثر من مرتين خلال عامين، بينما أفادت أقل من ٢٥٪ من المؤسسات بوجود هياكل رسمية للحوكمة أو المساءلة عن مخرجات الذكاء الاصطناعي. والفجوة بين سرعة النشر والبنية التحتية للمساءلة أوسع ما تكون في الأسواق الناشئة.

وكل هذه الأعراض مسألة حُسن تقدير، لا مسألة تقنية.

تكلفة الفجوة

في التطبيقات الموجهة للمستهلكين، يمكن غالبًا تدارك تكلفة المخرجات الضعيفة للذكاء الاصطناعي. فالتوصية الضعيفة تُرفض، والرسالة الرديئة الصياغة تُتجاهل.

أما القطاعات الخاضعة للتنظيم فتعمل بهامش أضيق بكثير.

في البنوك، يولّد مسار «اعرف عميلك» ومكافحة غسل الأموال (KYC/AML) الذي يعطي مخرجات غير موثوقة مخاطر امتثال وفق أطر مثل إرشادات مصرف الإمارات العربية المتحدة المركزي لحوكمة الذكاء الاصطناعي أو معايير الهيئة العامة للرقابة المالية في مصر. وفي الرعاية الصحية، يخفق في التدقيق التطبيق الذي لا يمكن تتبع منطقه أو شرحه. وفي المشتريات، يولّد النظام الذي لا يمكن الدفاع عن مخرجاته مخاطر على المؤسسة في اللحظة الأهم.

وتتراكم فجوة الجودة الناتجة عن التبني السطحي تدريجيًا، ثم تظهر في ظروف التشغيل الفعلية. فالأنظمة التي بدت مكتملة عند التسليم تكشف هشاشتها، وإصلاحها في هذه المرحلة يكلف وقتًا ومالًا وثقة أكثر بكثير من بنائها بطريقة صحيحة منذ البداية.

ووفقًا لدورة الضجيج للذكاء الاصطناعي لعام ٢٠٢٥ من جارتنر، فإن من الأسباب الرئيسية لإخفاق مشروعات الذكاء الاصطناعي في المؤسسات غياب الإشراف البشري وعدم وضوح المسؤولية عن مخرجات النماذج، لا جودة النماذج نفسها.

كيف يبدو التبني المسؤول للذكاء الاصطناعي

تشترك المؤسسات الأكثر استفادة من الذكاء الاصطناعي في سمات قليلة ثابتة.

تتعامل مع الذكاء الاصطناعي أداةً تقوّي القرار البشري. فمخرجات النموذج مدخل لقرار يتخذه إنسان، وتبقى المسؤولية على الفريق. ويزداد هذا أهمية في البيئات الخاضعة للتنظيم، حيث تطلب الجهة الرقابية من شخص أن يشرح القرار.

تحدد بدقة أين يضيف الذكاء الاصطناعي قيمة. فكثير من مسارات العمل تخدمها أدوات أخرى أفضل من النموذج اللغوي الكبير. وذكاء المستندات والبحث القائم على التوليد المعزز بالاسترجاع والتصنيف ومحركات المطابقة يحل كل منها فئة محددة من المشكلات بكفاءة، ومواءمة مستوى تدخل الذكاء الاصطناعي مع المشكلة قرار تصميمي مقصود.

تستثمر في فهم ما بنته. فمهندسوها يستطيعون شرح سلوك النظام في الحالات الحدية، وعمليات ضمان الجودة لديها تختبر مكونات الذكاء الاصطناعي كما تختبر أي مكون آخر، وتوثيقها وبنيتها يتيحان لعضو جديد في الفريق أن يتسلم النظام بعد ستة أشهر.

تبني آليات إشراف بشري للقرارات عالية المخاطر. ففي البيئات الخاضعة للتنظيم تحديدًا، تعمل الأتمتة والمساءلة معًا. ويفرض قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، الذي يؤثر اليوم في معايير حوكمة الذكاء الاصطناعي في الشرق الأوسط وشمال أفريقيا عبر اتفاقيات التجارة والعملاء متعددي الجنسيات، الإشراف البشري صراحةً على تطبيقات الذكاء الاصطناعي عالية المخاطر. وأقوى التطبيقات تُصمَّم لذلك من اليوم الأول.

كيف تتعامل ديترمايندز مع الذكاء الاصطناعي

في ديترمايندز بنينا أنظمة قائمة على الذكاء الاصطناعي للبنوك والتقنية المالية والرعاية الصحية والمشتريات والعقارات في الشرق الأوسط وشمال أفريقيا والخليج. والمشروعات التي تصمد مع الوقت تشترك في أساس واحد: بدأ كل منها من مشكلة العمل، واختيرت التقنية لخدمتها.

يبدأ نهجنا بمرحلة استكشاف تحدد مسار عمل بعينه عالي القيمة، وترسم بيئة البيانات والعمليات، وتضبط المستوى المناسب لتدخل الذكاء الاصطناعي. فبعض المشكلات يحتاج نظامًا متعدد الوكلاء، وكثير منها يخدمه أفضل تطبيق للتوليد المعزز بالاسترجاع (RAG) محدد النطاق، أو نموذج تصنيف، أو مساعد ذكي مصمم بعناية يُبقي الإنسان في الحلقة عند نقاط القرار الصحيحة.

بعد ذلك ننتقل إلى إثبات مفهوم سريع، ونطوّره مع مستخدمين فعليين من فريق العمل، ثم نجهّز النظام لبيئة الإنتاج مع عناية دقيقة بحدود الأمان والتعامل مع البيانات ومتطلبات التكامل. وفي البنوك والبيئات الأخرى الخاضعة للتنظيم، تحدد بنية النشر كل قرار تصميمي منذ البداية.

نعمل مع مؤسسات تحتاج وضوحًا كاملًا في أنظمتها: بنك خليجي يعالج آلاف مستندات «اعرف عميلك» يوميًا، ومنصة رعاية صحية تعمل وفق معايير مكافئة لـ HIPAA، ونظام مشتريات حكومي يجب أن يكون قابلًا للتدقيق بالكامل. والمعيار في كل حالة واحد: يجب أن يكون النظام قابلًا للشرح والصيانة والدفاع عنه.

والنتيجة أنظمة ذكاء اصطناعي تعمل بموثوقية، وتبقى قابلة للصيانة، ويمكن شرحها للجهة الرقابية، وتتحسن مع الوقت.

المعيار الذي نلتزم به

نحن متحمسون لما يمكن أن يقدمه الذكاء الاصطناعي للمؤسسات في هذه المنطقة. فالفرصة حقيقية، وأقوى الحالات التي رأيناها حققت تحسينات قابلة للقياس: انخفاضًا كبيرًا في وقت المعالجة اليدوية، ووصولًا أسرع إلى المعلومات الحيوية، ومكاسب ملموسة في الكفاءة في مهام كانت تستهلك ساعات ثمينة من وقت الفريق.

ومعيارنا واضح: نتحمل المسؤولية الكاملة عن المخرجات.

يعمل الذكاء الاصطناعي في أفضل حالاته حين يدعم التفكير داخل فريقك. فحين يستطيع من يبنون النظام ويصونونه شرح طريقة عمله، تكون المساءلة قائمة قبل أن تُختبر. وحين لا يستطيعون، تميل الفجوة إلى الظهور في أسوأ لحظة ممكنة.

والمؤسسات التي تحسن ذلك ستبني أنظمة تدوم، أما التعامل مع تبني الذكاء الاصطناعي طريقًا مختصرًا إلى السرعة فيقود غالبًا إلى سنوات من إعادة البناء.

استخدم الذكاء الاصطناعي، وتحمّل مسؤولية مخرجاته.

الخلاصة

قررت المؤسسات في مصر والإمارات والخليج بالفعل أن تتبنى الذكاء الاصطناعي. والسؤال الذي تواجهه الآن هو كيف تتبناه بطريقة تصمد.

والنمط الذي يولّد المخاطر ثابت: أدوات ذكاء اصطناعي تُنشر بسرعة، وهياكل مساءلة تُبنى ببطء أو لا تُبنى أصلًا. وفي القطاعات الخاضعة للتنظيم، هذه الفجوة مسألة امتثال واستمرارية أعمال، إلى جانب كونها مسألة جودة.

والطريق إلى الأمام واضح. يبدأ من مشكلة العمل، ويختار المستوى الصحيح لتدخل الذكاء الاصطناعي، ويُبقي المسؤولية على الفريق، وينتج أنظمة يمكن شرحها وصيانتها وتحسينها. وفي البيئات الخاضعة للتنظيم، يصمم للإشراف البشري من اليوم الأول.

والمؤسسات التي تبني بهذه الطريقة ستملك أنظمة ذكاء اصطناعي تتضاعف قيمتها مع الوقت، أما من يتعامل مع التبني بندًا يُستوفى فيجد نفسه يعيد البناء أسرع مما يتوقع.

إذا كنت تخطط لإدخال الذكاء الاصطناعي في عملياتك بمسؤولية، أو تريد تدقيق نظام يعمل بالفعل في بيئة الإنتاج أو تحسينه، تحدّث إلى أحد مهندسي ديترمايندز.