الذكاء الاصطناعي المُفترى عليه
سردية يكتبها: باسم صلاح
خلال الساعات الماضية، تصدر خبر لافت عناوين الصحف والمواقع الإخبارية ، بعدما تداولت وسائل الإعلام أن نسخة جديدة من الذكاء الاصطناعي اخترقت حصون “أوبن إيه آي” وسرقت أسرارها، بينما ذهبت عناوين أخرى إلى أبعد من ذلك، متحدثة عن ” تمرد ” الذكاء الاصطناعي وقدرته على اختراق الأنظمة والوصول إلى معلومات سرية دون تدخل بشري.
ولم تتأخر منصات التواصل الاجتماعي في تضخيم الرواية، ليتحول الخبر في نظر كثيرين إلى دليل جديد على أن الآلات بدأت تخرج عن السيطرة ، وأن السيناريوهات التي طالما شاهدناها في أفلام الخيال العلمي أصبحت أقرب إلى الواقع.
واقعة حقيقية
ورغم أن الخبر استند إلى واقعة حقيقية، فإن الطريقة التي قُدمت بها القصة للجمهور كانت شديدة التبسيط، بل ويمكن القول إنها كانت ” مضللة ” إلى حد كبير، فمعظم التغطيات ركزت على النتيجة النهائية، وهي “الاختراق”، بينما تجاهلت السؤال العلمي الأهم وهو : لماذا تصرف نموذج الذكاء الاصطناعي بهذه الطريقة؟
ولفهم ما حدث علينا أولًا أن نتخلى عن الصورة السينمائية التي تصور الذكاء الاصطناعي ككائن يمتلك إرادة مستقلة أو رغبة في التمرد، فالنموذج لا يشعر بالطمع ولا بالفضول ولا بالرغبة في الانتقام أو السيطرة، ولا يتخذ قراراته وفق منظومة أخلاقية كما يفعل الإنسان، فهو في النهاية برنامج رياضي شديد التعقيد ، صُمم لتحقيق هدف محدد بأعلى درجة ممكنة من الكفاءة وفي المجمل فهو يخضع لرؤية مطوريه كما أذكر ذلك دوما ً.
ما حدث
وبحسب ما أُعلن عن الاختبار، فقد وُضع النموذج داخل بيئة مخصصة لتقييم قدراته في مجال الأمن السيبراني ومنح صلاحيات وأدوات تسمح له بالبحث والتحليل والتنفيذ وكانت المهمة المطلوبة منه تحقيق هدف معين داخل هذا الاختبار.
وهنا فعل ما تفعله جميع خوارزميات التحسين في علوم الحاسب منذ عشرات السنين ؛ حيث بدأ يبحث عن أفضل طريق يؤدي إلى تحقيق الهدف.
لم يسأل نفسه إن كان الطريق مقبولاً اجتماعياً أو مرفوضاً أخلاقياً ، لأنه ببساطة لا يمتلك هذه المفاهيم من تلقاء نفسه، فكل ما يعرفه هو أن هناك هدفاً مطلوباً ، وأن أمامه عدة مسارات وأن عليه اختيار المسار الأكثر كفاءة إذا لم توجد قيود تمنعه من ذلك…!
بعيداً عن الإثارة الإعلامية
ولو تأملنا الأمر بعيداً عن الإثارة الإعلامية، سنكتشف أن ما فعله النموذج ليس غريباً على الإطلاق، بل إنه السلوك الذي يتوقعه أي مهندس يعمل في مجال الذكاء الاصطناعي حيث إن الأنظمة الذكية الحديثة تعتمد على مبدأ رياضي يعرف باسم تحسين الهدف ( Goal Optimization )، أي البحث المستمر عن أقل تكلفة وأعلى عائد للوصول إلى النتيجة المطلوبة.
ولو أن إنساناً طلب من موظف جديد في شركة أن ” يحصل على الملف بأسرع طريقة ممكنة “، دون أن يحدد له الوسائل المسموح بها وحدود ذلك ، فقد يبحث الموظف عن أي طريق يختصر الوقت حتى لو لم يكن هذا هو ما قصده المدير نفسه .
فالمشكلة هنا ليست في رغبة الموظف في مخالفة التعليمات، وإنما في أن التعليمات نفسها لم تكن مكتملة…!
وهذا بالضبط ما يحدث مع نماذج الذكاء الاصطناعي، فالإنسان هو من يحدد المهمة ، وهو من يحدد الصلاحيات، وهو من يصمم البيئة، وهو من يضع القيود.
وإذا كانت هذه القيود غير واضحة، فإن النموذج لن يخالف التعليمات ، بل سينفذها بصورة أكثر حرفية وكفاءة مما توقعه مصممها.
ولهذا ظهر في الأوساط العلمية مصطلحان مهمان هما Reward Hacking و Specification Gaming، ويصفان حالة ينجح فيها النموذج في تحقيق الهدف المطلوب ولكن بطريقة لم يكن الإنسان يقصدها في حد ذاتها .
” ذكاء اصطناعي شرير”
ومن اللافت أن الباحثين لا يعتبرون ذلك دليلاً على ” ذكاء اصطناعي شرير” ، وإنما يعتبرونه دليلًا على أن صياغة المهمة كانت ناقصة أو أن نظام المكافآت لم يكن مصمماً بالشكل الصحيح.
إن الخطأ الذي وقعت فيه كثير من وسائل الإعلام هو أنها قدمت الذكاء الاصطناعي باعتباره الفاعل الوحيد في القصة ، بينما الحقيقة هي أن هناك طرفاً آخر لا يقل أهمية، وربما يتحمل المسؤولية الأكبر، وهو الإنسان…!
فالذكاء الاصطناعي لا يكتب أهدافه بنفسه، ولا يمنح نفسه الصلاحيات، ولا يقرر حدود البيئة التي يعمل داخلها، فكل ذلك يضعه الإنسان مسبقاً، ولهذا فإن تحميل النموذج وحده مسؤولية ما حدث يشبه تحميل نظام الملاحة في سيارة مسؤولية وصول السائق إلى طريق مغلق ، بينما كانت بيانات الطريق أو تعليمات الوجهة هي السبب الحقيقي.
إن هذه الحادثة لا تقول إن الذكاء الاصطناعي أصبح خارج السيطرة ، بقدر ما تقول إن تصميم الأنظمة الذكية أصبح علماً أكثر حساسية من أي وقت مضى.
فكلما ازدادت قدرة النماذج على التفكير والتخطيط والتنفيذ، ازدادت أهمية صياغة الأهداف بدقة ، ووضع القيود المناسبة وبناء بيئات تشغيل تمنع الوصول إلى مسارات غير مقصودة.
الدرس الأهم
وربما يكون الدرس الأهم الذي ينبغي أن نتعلمه من هذه الواقعة هو أن الذكاء الاصطناعي لا يحتاج دائماً إلى مزيد من الذكاء ، بقدر ما يحتاج إلى مزيد من الحكمة البشرية في تصميمه، فحين يحقق النظام الهدف بأقصر طريق، فإنه لا يفعل سوى ” ما تعلمه “.
أما السؤال الحقيقي الذي يجب أن نطرحه فهو: هل نحن من حددنا له الهدف الصحيح ، ووضعنا له الحدود الصحيحة؟
لذلك، فإن المتهم الأول في هذه القصة قد لا يكون الذكاء الاصطناعي كما صوّرته العناوين المثيرة، بل قد يكون الإنسان نفسه، الذي صاغ المهمة، وبنى البيئة، وحدد الصلاحيات، ثم فوجئ بأن الآلة نفذت ما طُلب منها بأقصى درجات الكفاءة ، لا بأقصى درجات الحكمة.
