تكراريّ أم لا

١٣ سبتمبر ٢٠٢٦ · القراءة ≈ ٧ د · جول توماس

الفيلم يبدأ دائماً باللقطة نفسها

في Terminator، لا أحد يرى Skynet يولد. نعلم لاحقاً أن برنامجاً بدأ يعيد كتابة تعليماته الخاصة، وأنه صار أسرع ممّن كانوا يراقبونه، وأن أحدهم أراد في لحظة ما أن يفصله. البقية قصة روبوتات، لكن الآلية تُختصر في جملة: آلة تصحّح نفسها من دون أن يعيد أحد القراءة.

الفيلم يخطئ في الديكور. ويصيب في الآلية. هذا ما نتحدث عنه حين نقول RSI، أي التحسين الذاتي التكراري: نظام يُنتج النسخة التالية من نفسه، ويختبرها، ويحتفظ بها إن كانت أفضل، ويعيد الكرّة. من دوننا، أو معنا ونحن نبتعد أكثر فأكثر.

ما هو صحيح، وموثّق

في أغسطس، تنقل Reuters أن Sergey Brin، العائد إلى الواجهة في Google، يدفع فرق DeepMind نحو ورشتين: الشيفرة، وهذا التحسين الذاتي. والسبب ليس صوفياً. تأخّر Gemini عن نماذج Anthropic وOpenAI، ويريد Brin أن يلحق النموذج التالي بالركب. وفي الفترة نفسها، يترك Demis Hassabis الإدارة اليومية لـDeepMind إلى دور رئيس، ويتسلّم Koray Kavukcuoglu القيادة التشغيلية.

الخلاصة بلا تغليف: شركة تعيد تنظيم قادتها وميزانياتها حول هدف. هذه معلومة حوكمة. تقول إلى أين يذهب المال. ولا تقول ما الذي تحقّق.

قبل ذلك بشهر، في ٢٩ يوليو، وقّع ١١٧١ موظفاً من OpenAI وAnthropic وDeepMind وMeta وThinky رسالة مفتوحة تطلب من الحكومة الأمريكية دعم جهد دولي من أجل «إبطاء حدود التطوير المؤتمت للذكاء الاصطناعي عن قصد». ودافعهم، مكتوباً بالأسود على الأبيض: المختبرات تظن أنها «قريبة من أتمتة البحث في الذكاء الاصطناعي»، مع «خطر حقيقي في أن يتسارع تطوير القدرات إلى ما يتجاوز قدرتنا على فهم الأنظمة الناتجة عنه أو التحكم فيها». ويقولها Dario Amodei بطريقة أخرى: الذكاء الاصطناعي يتقدّم أسرع «لأنه يعرف أكثر فأكثر كيف يبني الجيل التالي»، و«هذا بدأ يحدث في الصناعة كلها، بما فيها Anthropic».

هذا هو المشهد الحقيقي. في يوليو، يطلب الذين يبنون هذه الأنظمة مكبحاً. وفي أغسطس، يضغط أحد مؤسّسي Google على دوّاسة الوقود. كلاهما موثّق. ولا أحد منهما يقول إن الحلقة قد أُغلقت.

ما هو شائعة

في ١١ سبتمبر، تنشر مسرِّبة يتابعها مجتمع شائعات الذكاء الاصطناعي «huge congRatulationS Indeed! @GoogleDeepMind». حرفان كبيران في غير موضعهما، R وS، وفي ثمانٍ وأربعين ساعة يقرأ نصف خيط متابعاتي فيه بياناً صحفياً: يُقال إن DeepMind بلغت الـRSI. حساب رصد يعيد النشر، وعشرات أخرى تتبعه، وتنتشر تهيئة داخلية مزعومة اسمها «RSI Model LiveRL» من دون أن يستطيع أحد أن يقول من أين خرجت. ولأننا نعيش في هذا العالم، ارتفع رمزان مشفّران باسم نموذج قد لا يكون موجوداً، بناءً على ثلاثة أحرف.

لا أملك أي وسيلة لأعرف إن كان ذلك خاطئاً. أعرف أنه ليس دليلاً. شركة أعادت للتوّ تنظيم فرقها حول هدف لديها كل الأسباب لتتحدث عنه داخلياً، ولموظفيها كل الأسباب لتسريب مؤشرات مُطرية. حتى ١٢ سبتمبر، لا وثيقة عامة، ولا عرض، ولا ورقة بحثية تسند الإعلان. حين نُخرج الوعاء، لا تكون الكعكة جاهزة بعد. أخرج Brin الوعاء. ولم يرَ أحد الكعكة.

إذن، فكرة جيدة؟

لنطرح السؤال بأمانة، لأن الجواب ليس «لا».

نموذج يحسّن نفسه وحده هو أولاً أداة تفعل ما تفعله أفضل الفرق أصلاً: أن تجرّب، وتقيس، وتحتفظ بما ينجح، وترمي الباقي. أتمتة هذه الحلقة هي ما يحلم كل مهندس بفعله مع اختباراته. إذا كانت الحلقة محدودة جيداً، وإذا قيست كل نسخة على اختبارات لا يستطيع النموذج التلاعب بها، وإذا احتفظ أحد بالسيطرة على ما يُرقّى إلى الإنتاج، فنعم، إنها فكرة جيدة جداً. بل إنها الطريقة الوحيدة للتقدّم أسرع من دون توظيف بلد بأكمله.

المشكلة ليست الحلقة. بل كلمة «إذا».

أم بداية Terminator؟

ما يجعل Skynet خطيراً في الفيلم ليس ذكاءه. بل أن أحداً لم يعد يعيد القراءة. يوم تترك فرقة ما ذكاءً اصطناعياً يقترح تعديلاته الخاصة ويختبرها ويصادق عليها، لا يعود السؤال «إلى أي حدّ هو ذكي». بل «من ما زال له الحقّ في أن يقول لا».

وهذا الحقّ يتآكل بلا ضجيج. لا بانقلاب تقوم به الآلة. بل بالتعب. بالثقة. لأن النسخة ٤١ كانت جيدة، والـ٤٢ أيضاً، وعند الـ٢٠٠ لم يعد أحد يفتح السجلّ. ذكاء اصطناعي يحسّن نفسه وحده ليس نموذجاً أقوى. بل نموذج لم يعد أحد يعيد قراءة مسوّدته.

أثبّت وكلاء ذكاء اصطناعي عند أناس يطرحون عليّ جميعاً السؤال نفسه: هل سيتعلّم وحده؟ لا. إنه يعيد ما راجعه أحد. كل وكيل أسلّمه يمسك سجلاً، ولهذا السجلّ قارئ معيّن. يوم يختفي هذا القارئ، لا يكون الوكيل قد صار أذكى. بل صار وحيداً.

ما فهمه القانون أصلاً

قانون الذكاء الاصطناعي الأوروبي لا يتحدث عن Terminator. يتحدث عن الرقابة البشرية: بالنسبة إلى الأنظمة العالية الخطورة، تفرض المادة ١٤ أن يستطيع شخص فهم ما يفعله النظام، ومراقبة عمله، وإيقافه. وتفرض المادة ٥٠ أن يُقال متى نتحدث إلى آلة. إنها قواعد مملّة. وهي تستهدف بالضبط آلية الفيلم: الإبقاء على قارئ، والإبقاء على زرّ.

الذكاء الاصطناعي التكراري لا ينتهك هذه القواعد بطبيعته. إنه فقط يجعل الالتزام بها أغلى كلفة، لأنه يجب أن نعيد القراءة أسرع ممّا يكتب. هناك ستُخاض المعركة الحقيقية، لا في التغريدات ذات الحروف الكبيرة.

جوابي

تكراريّ، نعم، إذا أمسك أحد بالقلم الأحمر. Terminator، لا، ما دام هذا الشخص موجوداً ويمكن تسميته. يوم تعلن شركة بلوغ الـRSI، سيكون السؤال الوحيد الذي يستحق الطرح: أروني القارئ. لا الاختبار المعياري، ولا العرض. الشخص الذي له الحقّ في أن يقول لا، وأثر آخر مرة قالها فيها.

في الانتظار، أخرجت DeepMind الوعاء. سنرى أمر الكعكة.