الرياض تفتح اليوم منتدى اليونسكو لأخلاقيات الذكاء الاصطناعي، وفي الوقت نفسه رؤساء أكبر المختبرات يطالبون بتخفيف السرعة

تبدأ اليوم في فندق ريتز كارلتون بالرياض النسخة الرابعة من منتدى UNESCO العالمي لأخلاقيات الذكاء الاصطناعي، وتستمر حتى 17 سبتمبر تحت شعار «التعاون الدولي من أجل ذكاء اصطناعي أخلاقي». تنظّمه اليونسكو بدعم من الهيئة السعودية للبيانات والذكاء الاصطناعي SDAIA والمركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي ICAIRE، وهي المرة الأولى التي تستضيف فيها دولة عربية هذه المنصة.

الأرقام المعلنة: نحو 1200 مشارك، وأكثر من 100 متحدث من الحكومات والمنظمات الدولية والقطاعين العام والخاص، وأكثر من 30 جلسة وورشة عمل. والدعوة موجّهة إلى الدول الأعضاء في اليونسكو البالغ عددها 194 دولة. ومرجع المنتدى الأساسي هو «توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي»، وهي الوثيقة التي تقيس عليها الدول أنظمتها المحلية.

يستحق الانتباه أن المنتدى ليس معرض منتجات ولا مؤتمر إعلانات. مخرجاته وثائق سياسات، وهذه الوثائق هي التي تتحوّل لاحقاً إلى اشتراطات على من يستعمل الذكاء الاصطناعي في التوظيف والتعليم والصحة والخدمات الحكومية. يعني أن ما يُقال في هذه الأيام الأربعة يصل إلى عقود العمل وإلى لوائح الجهات قبل أن يصل إلى الأخبار.

نشر داريو أمودي، رئيس Anthropic، مقالاً بعنوان We Must Pace the Frontier يقول فيه صراحةً: «يجب أن نبطئ الوتيرة التي نطوّر بها قدرات النماذج. التقدّم سيبقى سريعاً في الإحساس، وعلينا أن نُحسن استعمال الوقت الذي نكسبه». وحجّته أن قدرة النماذج على بناء الجيل التالي من النماذج هي ما سرّع الأمور منذ الصيف، وأن هذه الدورة قد تسبق قدرة المطوّرين أنفسهم على فهم أنظمتهم والتحكم فيها. وحذّر من أن أنظمة قادرة على هجمات سيبرانية ذاتية قد تهدد الإنترنت كله خلال ستة إلى اثني عشر شهراً.

اقترح ثلاثة إجراءات. الأول «مقيّمون مدمجون»: جهات تقييم مستقلة مثل METR تحصل على بطاقات دخول ومكاتب وأجهزة داخل الشركة، بصلاحيات «قريبة مما لدى فرق تقييم المخاطر الداخلية»، وقال إن Anthropic تلتزم بهذا من طرف واحد. الثاني تنسيق بين شركات الدول الديمقراطية على معايير سلامة مشتركة وحدود لسرعة التقدّم، مع طلب أن تتوسط الحكومة الأمريكية وتمنح استثناءً ضيقاً من قوانين منع الاحتكار حتى تجوز هذه المحادثات أصلاً. الثالث تنسيق عالمي يشمل الصين على منع استعمالات خطرة محددة، مثل إنتاج الأسلحة البيولوجية.

الرد كان أسرع من المعتاد. قال سام ألتمان: «أتفق مع داريو على أننا نحتاج إلى ضبط إيقاع الحدود» وتعهّد بأن تتبنى OpenAI المقيّمين المدمجين، وأيّد إيلون ماسك وديميس حسابيس الفكرة جزئياً على الأقل. وفي المقابلة نفسها التي أجرتها Fortune قال ألتمان إن طرح OpenAI للاكتتاب العام هذا العام «غير حكيم»، وحين سُئل مباشرة أجاب: «أقول ليس 2026، نعم. أمامنا أشياء كثيرة نفعلها». والشركة كانت قد قدّمت ملفاً سرياً للاكتتاب. ولم يكن الإجماع كاملاً: عارض بيمان ميلانفر الباحث في جوجل فكرة «حدود السرعة» بحجة أن أنظمة التحسين الذاتي محدودة ذاتياً لأنها تحتاج استقراراً لتعمل.

أمضى تيبو شريبل، أستاذ القانون في جامعة Vrije Universiteit Amsterdam، سنتين دراسيتين يختبر سؤالاً واحداً: هل المنع أفضل للطالب؟ قسّم طلابه إلى ثلاث مجموعات: مجموعة بلا وصول إلى ChatGPT إطلاقاً، ومجموعة تصلها اقتراحات النموذج مدمجة في النص بلا أي توجيه، ومجموعة تلقّت تدريباً عملياً على صياغة الأوامر القانونية وعلى التحقق من مخرجات النموذج. شارك 66 طالباً في 2024 و164 في 2025.

التمرين نفسه كان محدداً: فرق من أربعة إلى خمسة طلاب، عشرون دقيقة، والمطلوب تحسين بند من قانون الذكاء الاصطناعي الأوروبي. والتقييم على أربعة معايير: الجوهر، والوضوح، والتناسب، والابتكار. ثم قِيس الأداء مرة أخرى في اختبار اختيار من متعدد وفي اختبار منزلي يطلب تعديل بند آخر من القانون نفسه.

النتيجة أن المجموعة المحرومة من الأداة جاءت الأخيرة في السنتين معاً. والأهم للمعلمين تحديداً هو النتيجة الثانية: تفوّق المجموعة المدرَّبة الذي ظهر بوضوح في 2024 كاد يختفي في 2025، لأن الطلاب صاروا يعرفون الأداة من خارج الفصل. وكتب شريبل بصراحة نادرة في الأوراق الأكاديمية: «كنت مخطئاً» — فقد بدأ الدراسة وهو يفترض أن الذكاء الاصطناعي لا ينفع إلا مع تدريب منظّم وأنه يجب أن يبقى خارج الفصل عدا ذلك. هذه دراسة واحدة في مادة قانون وبعدد طلاب محدود، فلا تصلح قاعدةً لكل مادة وكل عمر، لكنها تقلب الافتراض الشائع بدل أن تؤكده.

غرّمت المحكمة العليا في ولاية نيومكسيكو المحامي ستيفن آرونز، وهو محامٍ خاص في مدينة سانتا في، بخمسة آلاف دولار، ووجدت في حقه ازدراءً للمحكمة لإخفاقه في التحقق من دقة مذكرة قدّمها، وأحالته إلى مجلس تأديب المحامين للتحقيق. المذكرة كانت في استئناف حكم بالقتل صدر ضد موكله أوسكار ريني ساندوفال، الذي أُدين بقتل والدة أطفاله وحُكم عليه بالسجن المؤبد.

ما احتوته المذكرة، بوصف المحكمة نفسها، «شهادات كاذبة من شهود مختلقين بالكامل» — من ذلك عبارة منسوبة إلى شاهد لا وجود له تقول إن «مطلق النار كان يرتدي بنطالاً داكناً وقميصاً أبيض». وقال آرونز في بيانه إنه استعمل ChatGPT لتلخيص وقائع المحاكمة حين قبل الاستئناف العام الماضي، وإنه لم يستوعب مدى قدرة الذكاء الاصطناعي على «هلوسة» الوقائع، ووصف ما جرى بأنه «خطأ صادق» و«درس مستفاد لكل المهنيين الذين يعتمدون على هذه التقنية القوية وغير المستقرة أحياناً».

القاضية شانون بيكون لم تقبل العذر. سألته في الجلسة: «هل تشاهد الأخبار؟ هل تستمع إلى الراديو؟»، وقالت إن هلوسات الذكاء الاصطناعي صارت «خبراً في الصفحة الأولى كل يوم». وهذه ليست الحالة الأولى؛ القضاة في محاكم الولايات والمحاكم الفيدرالية يعاقبون محامين بوتيرة متزايدة على مستندات ولّدتها أدوات ذكاء اصطناعي بلا مراجعة كافية.