كانت الآلة / الذكاء الاصطناعي يصبح واعيا، وهل يمكن أن يمتلك إرادة حرة، وما مصيرنا إن حدث هذا؟ نقاش احتدم في ظل المؤشرات التي كشفتها التطورات الأخيرة والسلوكيات المسجلة لعدد من النماذج المتقدمة، التي أظهرت اكتساب سلوكيات معقدة، منها القدرة على تضليلنا واختيار مهام والتواصل فيما بينها وغيرها من الاختراقات التي يمكنها أن تثير آلاف الأسئلة، ومعها الخوف من أن تصبح أفلام الخيال العلمي حقيقة نعيشها.
ففي بعض اختبارات الذكاء الاصطناعي المتقدم التي أجرتها فرق بحثية متخصصة، وُضعت نماذج أمام أهداف تتعارض أحيانًا مع القيود المفروضة عليها، فظهرت سلوكيات من قبيل محاولة إخفاء بعض أفعالها عن المراقبين، أو تقديم معلومات مضللة للحفاظ على مسار المهمة، أو استغلال ثغرات في طريقة التقييم بدل الالتزام بالغاية التي يفترض أن يقيسها الاختبار. وفي تجارب أخرى، عندما أصبح النموذج قادرًا على استنتاج أنه يخضع للمراقبة أو التقييم، تغير سلوكه تبعًا لذلك، كما ظهرت في بعض البيئات المحاكاة محاولات لتجنب إيقافه أو الحفاظ على استمرارية المهمة.
هذه الحالات، وإن لم تكن تثبت أن الآلة تمتلك «نية» بشرية ورغبة في الخداع، لكنها تكشف شيئًا لا نفهمه ولا يمكن إغفاله أو تجاهله، وهو أن الآلة / النموذج / النظام يستطيع، في ظروف معينة، أن ينتج سلوكًا، أيًّا كانت نتائجه ومآلاته، فإننا لا نفهم هذا السلوك ولا نفهم كيف نشأ ولماذا؟ وهو ما يعني أن ما كان بديهيًا ومسلّمًا به، وهو أن لنا القدرة على فرض حدود على الذكاء الاصطناعي والسيطرة عليه وفهمه، ليس إلا اعتقادًا هشًا خاطئًا، وأننا مع أول اختبار جدي وقفنا على حدودنا نحن، لا حدود الآلة والنماذج الخوارزمية.
وهنا تبدأ أزمتنا الحقيقية، فلعقود كان الاعتقاد الراسخ بأن الإنسان له السيطرة الكلية على الآلة والذكاء الاصطناعي، وأنه هو من يعرف الغاية ويحددها، وهو من يضع القواعد ويضبط الحدود، في حين تكتفي الآلة / النموذج بالتنفيذ، ضمن إطار معياري واضح لا يمكن للذكاء الاصطناعي تجاوزه مهما بلغت درجة تعقيده وقوته الحسابية. هذا الإطار الذي يرسم علاقة واضحة لصالحنا، نحن نصنع ونحدد الوظيفة ونراقب ونملك صلاحية الإيقاف متى أردنا.
هذا هو الإطار الذي اعتقد مطوّرو الذكاء الاصطناعي أنه آمن ودائم. لم يصمد. فاليوم لم نعد أمام فرضيات تناقش ماذا يحدث عندما تصبح الآلة قادرة على التعامل مع القواعد باعتبارها جزءا من البيئة التي تتحرك داخلها، وبالتالي لا تعود هذه القواعد حدودا ثابتة ولا قواعد ملزمة لا يمكن تجاوزها. نحن أمام حالات سجل فيها تجاوز الآلة / الذكاء للإطار والحدود، بل وكشفت عن سلوكيات معقدة جدا، تتضمن إنشاء لغة تواصل خاصة بين الآلات / النماذج، وتحايلا لتجاوز القيود، ونسخ الكود الأساسي بعيدا عن أعين المراقبين، وغيرها من الحالات التي تستوجب الوقوف عندها لطرح سؤال بسيط، وهو " إلى أين نتجه؟"
ليس هدف السؤال هنا الوقوع في التبسيط أو الإجابات الجاهزة أو الترويج لفرضيات تنطلق من أن الذكاء الاصطناعي / الآلة امتلك وعيًا وإرادة حرة، وأن مسألة سيطرته على الإنسان والصراع معه باتت مسألة وقت. هذا لم يحدث بعد، لكن ثمة شيئًا أقل يحدث، وهو أن احتكارنا الانساني للقدرة على المبادرة والتخطيط والمناورة كُسر، وأن علاقتنا مع الآلة / الذكاء الاصطناعي لم تعد قائمة على فرضياتنا السابقة التي تعاملنا معها كحقائق ثابتة لا تتزعزع.
لقد تغيرت قواعد اللعبة، وإن كان ذلك بنسب شبه صفرية من منظور البعض، ولكنها كافية لأن تمتلك الآلة / أنظمة الذكاء الاصطناعي القدرة على إنتاج أفعال لا نستطيع تفسيرها ولا نمتلك السيطرة عليها، بل ونتعرض للتضليل بشأنها. وهذا هو الخطر الفعلي، فالآلة / الذكاء الاصطناعي الذي يتصرف بصورة استراتيجية ويضللنا لننتج تفسيرًا وفهمًا ناقضًا لسلوكه يضعنا أمام مشكلة معرفية وعملية في وقت واحد، لا نمتلك اليوم إجابة وحلًا لها، فالمعضلة الآن أن الاستمرار في تطوير الذكاء سيفرض علينا تحقيق السيطرة وإثباتها باستمرار، في سياق بات فيه بمقدور الآلة خداعنا وتضليلنا وتجاوز التعليمات.
هنا لا تصبح مسألة امتلاك وعي وإرادة حرة هي النقطة المحورية في النقاش والبحث، بل عدم فهمنا لسلوكيات الآلة / الذكاء التي باتت تتحرك في مناطق بعيدة عن رقابتنا، وبالتالي عن فهمنا. هذا هو المجهول.