الذكاء الاصطناعي بين الثقة والمساءلة: قادة الشركات يتجهون إلى “الوكلاء” بحذر

في ظل التحولات التكنولوجية المتسارعة، أصبح الذكاء الاصطناعي أداة محورية في عالم الأعمال، لكنه يحمل في طياته مخاطر خفية تتعلق بالثقة والمساءلة. فبينما يظهر النظام واثقا من قراراته، قد يكون مخطئا، مما يثير تساؤلات جدية حول مدى الاعتماد عليه في المؤسسات، خاصة مع تزايد استخدام “وكلاء الذكاء الاصطناعي” القادرين على اتخاذ إجراءات نيابة عن المستخدمين.

هذا التوجه، الذي بدأ يتبناه قادة الشركات في الجزائر والعالم، يطرح إشكاليات جديدة تتعلق بالحوكمة المؤسسية والرقابة البشرية. ففي جلسات إحاطة مع موردي برامج المؤسسات، برز قلق حقيقي من أن خطأ بسيطا في صياغة بريد إلكتروني قد يتحول إلى كارثة إذا ما قام وكيل ذكاء اصطناعي بإعادة توجيه سلسلة التوريد أو الموافقة على معاملة مالية بناء على افتراضات خاطئة.

لماذا تظل أنظمة السجلات ضرورية؟

رغم التطور الكبير في واجهات المستخدم التي أصبحت تشبه صناديق الدردشة، إلا أن التعقيد يبقى كامنا في أنظمة المؤسسات. فهذه الأنظمة ليست مجرد أدوات للنقر، بل هي مستودعات للقواعد والصلاحيات ومعايير الامتثال التي تطورت على مدى عقود. لذلك، يرى الخبراء أن الفائزين في المرحلة القادمة هم من يطورون الذكاء الاصطناعي كطبقة أساسية فوق أنظمة السجلات الحالية، مع الحفاظ على السيطرة البشرية.

كيف يمكن تجنب المخاطر؟

بالنسبة لقادة الشركات، يعني هذا تجنب مأزقين: الأول هو المبالغة في تقدير الذكاء الاصطناعي بسبب عروض توضيحية مبالغ فيها، والثاني هو نشر الأنظمة في العمليات الحيوية دون مستويات كافية من الحوكمة والتدقيق. فالثقة والصواب ليسا مترادفين، ونظام الذكاء الاصطناعي المصمم ليبدو واثقا سيظل كذلك حتى لو كانت افتراضاته خاطئة.

لن تنجح المؤسسات التي تقدم أفضل العروض التوضيحية للتكنولوجيا، بل تلك التي بذلت الجهد الأكبر خلف الكواليس في تحديد صلاحيات النظام ومواضع التدخل البشري. هذا ليس قيدا على الذكاء الاصطناعي، بل هو العملية التي تجعل التكنولوجيا قابلة للاستخدام في سياق المؤسسات الوطنية الجزائرية.

الخلاصة: الحوكمة قبل التكنولوجيا

ستحدث أنظمة الذكاء الاصطناعي نقلة نوعية في أساليب العمل، لكن القادة الذين سيستفيدون منها هم من يدركون أن تغيير واجهة المستخدم هو الجزء السهل، بينما الحفاظ على الحكم المؤسسي والمساءلة والمنطق الكامن وراءها هو الجزء الصعب والأهم. وهذا ما تسعى إليه المؤسسات الجزائرية في ظل التوجه نحو الرقمنة وتعزيز السيادة التكنولوجية.