السلسلة كاملة
متى مسّت الشيفرة المال أو بيانات العملاء أو نظاماً قيد التشغيل: المراحل الست كلها، بلا استثناء.
// سبّاك الذكاء الاصطناعي · كيف أعمل
أحدهم يبني بسرعة.وأنا أتأكد أنه يصمد.
يكتب الذكاء الاصطناعي الشيفرة في دقائق، ويخطئ أيضاً بالثقة نفسها التي يصيب بها. عملي أن أنقل هذه الشيفرة إلى الإنتاج دون أن ينكسر شيء. لا أطلب من الذكاء الاصطناعي أن يصيب، بل أحيطه بضوابط لا تخطئ في الموضع نفسه الذي يخطئ فيه.
ست مراحل · اختبارات تُثبت · لا شيء في الإنتاج دون موافقة بشرية
المبدأ
يخطئ الذكاء الاصطناعي بثقة: لا شيء في جوابه يدلّ على الخطأ.
ما يُثبت أن الشيفرة تعمل هو الاختبارات التي تنجح فيها، لا العلامة التي يمنحها الذكاء الاصطناعي لنفسه.
لا شيء يدخل الإنتاج قبل أن يوافق عليه إنسان.
المراحل الست
لكل مرحلة باب خروج، وما لم نعبره لا ننتقل إلى المرحلة التالية.
- ١الحاجة
- ٢الخطة
- ٣النقد
- ٤الشيفرة والاختبارات
- ٥المراجعة
- ٦الموافقة
١ / ٦
الحاجة ومعيار نجاحها
تصف ما تريده في جملة واحدة، ونحدد معاً كيف سنعرف أنه نجح.
باب الخروجمعيار يمكن التحقق منه. من دونه لا أبدأ.
٢ / ٦
الخطة
قبل السطر الأول من الشيفرة: ما الذي سيتغير، والتقسيم إلى دفعات صغيرة، والمخاطر المرصودة. تصحيح الخطة أقل كلفة من هدم الشيفرة.
باب الخروجخطة مكتوبة تستطيع قراءتها.
٣ / ٦
نقد الخطة بذكاء اصطناعي آخر
يراجع الخطةَ نموذجُ ذكاء اصطناعي ثانٍ من شركة أخرى، دُرّب بطريقة مختلفة. نموذجان مختلفان لا يخطئان بالضرورة في الموضع نفسه: ما يفوت الأول قد يلتقطه الثاني.
باب الخروجكل اعتراض يُقبل أو يُرد كتابةً، مع سببه.
٤ / ٦
الشيفرة واختباراتها، على دفعات
تُكتب الشيفرة على دفعات صغيرة، وتأتي كل دفعة مع اختباراتها المكتوبة معها. الاختبار برنامج صغير يتحقق وحده من أن النتيجة المنتظرة تتحقق فعلاً.
باب الخروجتنجح الاختبارات على الجهاز، وتُحفظ نتيجتها.
٥ / ٦
المراجعة
مراجعة على أربع نقاط، هي نفسها دائماً. الأمان: كلمات مرور داخل الشيفرة، بيانات مكشوفة، صلاحيات المدير، النسخ الاحتياطية. الدقة: حسابات المال، التقريب، الحالات الحدّية، التواريخ والمناطق الزمنية. الامتثال: أين تذهب البيانات الشخصية، ومن يصل إليها، وكم تُحفظ. التراجع: إن انكسر شيء، كيف نعود إلى النسخة السابقة.
باب الخروجلا عيب جسيم ما زال مفتوحاً.
٦ / ٦
الموافقة البشرية
أقرأ النتيجة ونتيجة الاختبارات والمراجعة، ثم أوافق أو أطلب تصحيحاً. وحين يمسّ التغيير نشاطك، يعود القرار إليك أيضاً.
باب الخروجموافقة مكتوبة. من دونها لا يخرج شيء.
ما لا أفعله
أربع قواعد ألتزم بها في كل مشروع.
- أن أعدّ العلامة التي يمنحها الذكاء الاصطناعي لنفسه («٩ من ١٠، كل شيء سليم») دليلاً.
- أن أوافق بناءً على ملخّص: أنا أقرأ نتيجة الاختبارات.
- أن أتجاوز نقد الخطة لأنها تبدو جيدة.
- أن أعِد بشيفرة بلا عيوب. ما أعِد به أن العيوب يُبحث عنها قبل أن تصادفها أنت، وأننا نعرف كيف نتراجع.
السلسلة كاملة أو نسخة مختصرة
النسخة المختصرة
سكربت داخلي، صفحة موقع، تصحيح من سطر واحد: الخطة، ثم الشيفرة مع اختباراتها، ثم الموافقة. الموافقة البشرية لا تُحذف أبداً.
ما يعنيه ذلك لك
ربما لديك أداة كُتبت بالذكاء الاصطناعي، كتبها موظف أو متعاقد أو أنت بنفسك. وهي تعمل يوم العرض.
يبقى أن نعرف هل ستصمد يوم يُدخل عميل تاريخاً غير متوقع، أو يُعاد تشغيل الخادم، أو يضطر شخص آخر إلى تعديلها. أتسلّم ما هو موجود، وأمرّره على السلسلة، وأخبرك كتابةً بما يصمد وما لا يصمد.
أداة تحتاج إلى أن تصمد؟
العروض والأسعار معلنة. ولحالة محددة اكتب لي، وننظر معاً من أين نبدأ.