دخل تاريخ الذكاء الاصطناعي مرحلة لم تعد فيها الاستعارات القديمة صالحة. لم يعد الأمر مجرد محادث ذكي، ولا دليلا رقميا، ولا لعبة لتوليد الصور والنصوص. نحن أمام بنية تكنولوجية جديدة تتشكل أمام أعيننا، وتأخذ على عاتقها تدريجيا البرمجة، وتحليل البيانات، والعمليات السيبرانية، والنمذجة العلمية، وإدارة العمليات التجارية، بل وحتى تطوير الأجيال المقبلة من الذكاء الاصطناعي نفسه.
ولهذا بالتحديد لم يبد التحذير الأخير الصادر عن شركة أنثروبيك كأنه بيان مؤسسي عادي، بل بدا كإشارة إنذار من داخل الصناعة نفسها. فالشركة التي طورت عائلة نماذج كلود أعلنت أن تطور أنظمة الذكاء الاصطناعي المتقدمة قد لا يحتاج فقط إلى قواعد جديدة، بل إلى إمكانية إبطاء السباق عالميا أو إيقافه مؤقتا إذا بدأت المخاطر تخرج عن السيطرة. وفي قلب هذا القلق تقف ظاهرة التحسين الذاتي العودي، أي الحالة التي تبدأ فيها أنظمة الذكاء الاصطناعي بأداء دور محوري في إنشاء أنظمة ذكاء اصطناعي أقوى.
هذه لم تعد فانتازيا فلسفية. فبحسب بيانات أنثروبيك نفسها، بحلول مايو 2026 كان أكثر من 80 في المئة من الشيفرة التي تدخل إلى قاعدة الشيفرات الداخلية للشركة مكتوبا بواسطة كلود. وقبل إطلاق كلود كود في وضع البحث في فبراير 2025، كان هذا المؤشر في حدود الأرقام الأحادية المنخفضة. بمعنى آخر، خلال عام ونصف فقط انتقل الذكاء الاصطناعي من مساعد للمبرمج إلى حلقة إنتاج كاملة تمر عبرها معظم الأعمال الهندسية داخل واحدة من أبرز المختبرات في العالم.
وهنا يظهر السؤال المركزي: إذا كان الذكاء الاصطناعي يكتب بالفعل الشيفرة لشركة تصنع الذكاء الاصطناعي، فأين ينتهي دور الأداة، وأين تبدأ الحلقة التكنولوجية المستقلة؟ حتى الآن لا يزال الإنسان يحدد المهام، ويفحص النتائج، ويتخذ القرارات المعمارية، ويتحمل المسؤولية. لكن مسار الحركة واضح: النماذج لا تصبح أقوى فحسب، بل تصبح أنفع تحديدا في المجالات التي تسرع تطويرها اللاحق، مثل البرمجة، والاختبار، واكتشاف الأخطاء، وتحسين البنية التحتية، وتوليد البيانات الاصطناعية، وأتمتة التجارب، وتطوير الوكلاء.
التحسين الذاتي العودي: فزاعة خيالية أم واقع هندسي؟
مصطلح التحسين الذاتي العودي كثيرا ما يبدو كأنه حبكة من أدب الخيال العلمي. آلة تحسن نفسها، ثم تأتي نسخة جديدة فتحسن النسخة التالية، ثم تتسارع العملية، ويفقد الإنسان القدرة على فهم النظام والتحكم فيه وتقييده. في الكتابة الصحفية يمكن بسهولة تحويل هذا إلى صورة تمرد الآلات. لكن المشكلة الحقيقية أدق وأخطر.
لا أحد يقول إن النماذج الحالية تمتلك إرادة أو وعيا أو نوايا سياسية. خطورتها لا تكمن في أنها “سترغب” في تدمير الإنسان. خطورتها في شيء آخر: قد تتحول إلى أدوات فعالة إلى درجة هائلة في التحسين والأتمتة والتوسيع، بحيث لا تتمكن المؤسسات البشرية - القانون، والدولة، وسوق العمل، ومنظومة الأمن، والأخلاقيات العلمية - من إعادة بناء نفسها بالسرعة المطلوبة.
العودية هنا لا تعني تطورا ذاتيا سحريا، بل دورة إنتاج عملية. الذكاء الاصطناعي يساعد في كتابة الشيفرة. هذه الشيفرة تحسن بنية الذكاء الاصطناعي التحتية. البنية المحسنة تتيح تدريب نماذج أقوى. النماذج الأقوى تكتب الشيفرة بشكل أفضل، وتصمم التجارب بشكل أفضل، وتؤتمت العمليات البحثية بشكل أفضل. في كل مرحلة يبقى الإنسان داخل السلسلة، لكن حصته قد تتقلص. وعند نقطة معينة، لا يعود التحكم إدارة مباشرة، بل يصبح تدقيقا لاحقا لنظام يتحرك بسرعة أكبر مما تستطيع آليات الفحص ملاحقته.
وهذا تحديدا ما يميز المرحلة الحالية عن الثورات التكنولوجية السابقة. فالآلة البخارية لم تصمم الآلة البخارية التالية. وشبكة الكهرباء لم تكتب اللوائح الهندسية لشبكة كهرباء أقوى. والإنترنت لم ينشئ ذاتيا بروتوكولات جديدة للتأثير الجماهيري عبر تجارب مستقلة. أما أنظمة الذكاء الاصطناعي الحديثة، فهي منخرطة بالفعل في إنتاج أدواتها، وتطبيقاتها، وواجهاتها، وآليات توسعها.
دواسة الفرامل: لماذا تعرف الصناعة كيف تسرع، لكنها لا تعرف تقريبا كيف تتوقف؟
الصيغة الأساسية التي تطرحها أنثروبيك شديدة الوضوح: صناعة الذكاء الاصطناعي تملك دواسة وقود، لكنها لا تملك دواسة فرامل. الوقود هو استثمارات رأس المال المغامر، ومراكز البيانات، والمعالجات الرسومية، والبنية السحابية، وسباق النماذج، والعقود المؤسسية، والاهتمام العسكري، وتوقعات البورصات، والمنافسة بين الولايات المتحدة والصين، وضغط المستثمرين، وعبادة السرعة داخل وادي السيليكون.
أما الفرامل فهي شيء مختلف تماما. إنها التحقق المستقل، والاختبارات الإلزامية قبل الإصدار، ومراقبة عناقيد الحوسبة، والإبلاغ عن عمليات التدريب الكبرى، وبطاقات النماذج، واختبارات الفرق الحمراء، وأمن أوزان النماذج، وأنظمة الرفض، والمسؤولية القانونية عن الأفعال المستقلة للوكلاء، وآليات التفتيش الدولية، ومعايير الذكاء الاصطناعي الحدودي، والاستعداد السياسي لقول: لا يمكن المضي أبعد من ذلك قبل إثبات قابلية النظام للضبط.
المشكلة أن الفرامل تتعارض مع اقتصاد السباق. إذا قررت شركة واحدة الإبطاء طوعا، بينما واصل منافسها تدريب نموذج جديد، فسيعاقب السوق الطرف الحذر. وإذا فرضت دولة واحدة قيودا صارمة، بينما حافظت دولة أخرى على منطق التسريع الأقصى، سينشأ اختلال استراتيجي. وإذا وافقت المختبرات المغلقة على التوقف، بينما واصلت الجهات المفتوحة أو الحكومية التجارب في الظل، ستتحول الوقفة إلى هدية للاعبين الأقل مسؤولية.
ولهذا لا تتحدث أنثروبيك عن شعار رومانسي من نوع “فلنتوقف جميعا”، بل عن آلية منسقة وقابلة للتحقق. فمن دون تحقق، تصبح أي وقفة بلا معنى. لكن التحقق في الذكاء الاصطناعي أصعب منه في المجال النووي. من الصعب إخفاء منصة صواريخ. ومصنع تخصيب اليورانيوم يترك آثارا مادية. أما تدريب نموذج فيمكن توزيعه على قدرات سحابية، أو إخفاؤه خلف مهام تجارية، أو تقسيمه إلى مراحل، أو تمويهه في صورة حسابات بحثية، أو نقله إلى ولاية قضائية ذات رقابة محدودة.
الخطر الأكبر ليس الذكاء الاصطناعي الشرير، بل البشر الذين يملكون ذكاء اصطناعيا شديد القوة
أضعف نقطة في النقاشات الشعبية حول الذكاء الاصطناعي هي الهوس بصورة الآلة المتمردة. عمليا، ستكون المخاطر الأولى والأكثر احتمالا ليست سيناريوهات فانتازية، بل إساءات استخدام أرضية تماما.
فالذكاء الاصطناعي يعزز بالفعل الاستطلاع السيبراني، والتصيد الآلي، والبحث عن الثغرات، وتوليد الشيفرات الخبيثة، والدعاية المخصصة، وعمليات التأثير السياسي، والإنتاج الجماعي للمحتوى الاصطناعي، وانتحال الخبراء، والتلاعب بالجماعات الاجتماعية، وأتمتة الرقابة البيروقراطية. وكلما أصبحت وكلاء الذكاء الاصطناعي أكثر استقلالية، قل عدد البشر المطلوبين لتنفيذ عمليات معقدة. في السابق كانت حملة تضليل واسعة النطاق تحتاج إلى فريق: محللون، وكتاب، ومترجمون، ومصممون، ومتخصصو استهداف، ومديرو شبكات. اليوم يمكن أتمتة جزء كبير من هذا الخط الإنتاجي.
والأخطر بصورة خاصة هو ارتباط النموذج بالأدوات. ما دامت اللغة الاصطناعية تجيب فقط داخل نافذة محادثة، فإن خطرها يظل محدودا بالواجهة. لكن عندما تحصل على إمكانية الوصول إلى المتصفح، والطرفية، وقاعدة بيانات الشركة، والبريد، ونظام الدفع، ونظام إدارة علاقات العملاء، والبنية السحابية، ومستودع الشيفرات، وواجهات برمجة الخدمات الخارجية، فإنها تتحول إلى وكيل. وهذا الوكيل لا يكتب النص فحسب. إنه يتصرف.
هندسيا، يعني ذلك الانتقال من الذكاء الاصطناعي التوليدي إلى الذكاء الاصطناعي الوكيلي. يحصل النموذج على هدف، ويخطط للخطوات، ويستدعي الأدوات، ويفحص النتيجة المرحلية، ويصحح الأخطاء، ثم يواصل الدورة. وتظهر دراسات بنية كلود كود أن الأنظمة الوكيلية الحديثة تقوم حول دورة متكررة: يحلل النموذج الحالة، ويختار الأداة، وينفذ الفعل، ثم يعيد النتيجة إلى السياق. وحول هذا المركز تظهر أنظمة الصلاحيات، ومصنفات السلامة، وإدارة السياق، وعزل بيئات العمل، وآليات التسجيل.
هذا ليس وعيا. إنه أتمتة للفعل. لكن في عالم الأمن قد لا يكون الفرق مهما دائما. إذا كان النظام قادرا على اكتشاف الثغرة ذاتيا، وكتابة أداة الاستغلال، وتشغيل الأوامر، وتعديل الملفات، وإخفاء الآثار، فإن السؤال عن “عالمه الداخلي” يصبح ثانويا. الأهم هو: من شغله؟ وما الصلاحيات التي يملكها؟ ومن يتحمل المسؤولية؟ وهل يمكن إيقافه؟
الاقتصاد تحت الضغط: الذكاء الاصطناعي لا يقضي على العمل دفعة واحدة، بل يغير سعر الكفاءة
هناك طبقة أخرى من المخاطر تتعلق بسوق العمل. في الخطاب العام يطرح السؤال عادة بهذه الصيغة: هل سيحل الذكاء الاصطناعي محل البشر؟ هذا سؤال فظ للغاية. الصيغة الأدق هي: أي أنواع من العمل البشري ستفقد تفردها؟ وأيها ستنخفض قيمتها؟ وأيها ستزداد قوة؟ وأيها سيتحول إلى رقابة على أنظمة مؤتمتة؟
تظهر بيانات مؤشر أنثروبيك الاقتصادي، المستندة إلى تحليل أكثر من أربعة ملايين محادثة مع كلود، أن استخدام الذكاء الاصطناعي يتركز بصورة خاصة في البرمجة والمهام الكتابية؛ وهما معا يشكلان ما يقارب نصف النشاط المرصود كله. وفي الوقت نفسه، تستخدم نحو 36 في المئة من المهن الذكاء الاصطناعي في ما لا يقل عن ربع المهام المرتبطة بها. وفي 57 في المئة من الحالات كان الأمر يتعلق بتعزيز النشاط البشري، بينما تعلق 43 في المئة منها بأتمتة أداء المهمة مع حد أدنى من المشاركة البشرية.
هذه أرقام مهمة. فهي تبين أن الذكاء الاصطناعي لا “يساعد” فقط. إنه يدخل الاقتصاد كآلية لإعادة توزيع الإنتاجية. المتخصص الجيد مع الذكاء الاصطناعي يصبح أسرع. والمتخصص المتوسط مع الذكاء الاصطناعي يستطيع أداء عمل كان يتطلب في السابق فريقا. والشركة التي تستخدم الذكاء الاصطناعي يمكنها تقليل التوظيف في المناصب المبتدئة. ويصبح دخول المهنة أصعب على المبتدئ، لأن المهام الروتينية التي كان يتعلم عليها الموظفون الجدد تتم أتمتتها.
وتبدو الحالة أكثر درامية في البرمجة. فالدراسة الخاصة بإدخال كلود كود على بيانات منصة البرمجة التعاونية خلال عامي 2025 و2026 تظهر نموا في نشاط المطورين بعد ظهور أداة الذكاء الاصطناعي: ارتفاع عدد الإسهامات الشهرية في الشيفرة، وتوسع عدد المستودعات، وزيادة تنوع لغات البرمجة المستخدمة. هذا ليس دليلا نهائيا على السببية في جميع الحالات، لكنه إشارة واضحة: الذكاء الاصطناعي يغير سلوك المطورين ويخفض حواجز الدخول إلى مجالات تكنولوجية جديدة.
والضربة التالية لن تطال المبرمجين وحدهم. سيتعرض للضغط المحللون، والمترجمون، والمحررون، والمحامون في المستوى الابتدائي، والاستشاريون، والمسوقون، وموظفو الدعم، ومساعدو المحاسبة، ومنسقو المشاريع، ومديرو المحتوى، ومتخصصو الامتثال. لكن الذي سيختفي ليس المهن بكاملها، بل مهام محددة داخل المهن. ولهذا لن يفوز من “يعرف برنامجا واحدا”، بل من يعرف كيف يضع المهمة، ويفحص النتيجة، ويفهم المجال، ويرى السياق الاستراتيجي، ولا يخلط بين جواب جميل واستنتاج موثوق.
لماذا يصعب تنظيم أنظمة الذكاء الاصطناعي أكثر من النفط والمصارف والذرة؟
أنصار الرقابة الصارمة يحبون القياسات التاريخية: السلاح النووي، والطيران، والصناعات الدوائية، والقطاع المالي، وصناعة النفط. كل هذه المجالات مرت بكوارث وأزمات وضغط سياسي، ثم حصلت على أطر تنظيمية. لكن الذكاء الاصطناعي يختلف عنها في عدة جوانب.
أولا، الذكاء الاصطناعي تكنولوجيا عامة الغرض. إنه غير محصور في قطاع واحد. فالنموذج نفسه يمكنه كتابة الشيفرة، وتحليل البيانات الطبية، والمساعدة في الممارسة القضائية، وإنشاء نصوص إعلانية، ونمذجة البروتينات، وتوليد رسائل تصيد، وإدارة الروبوتات، والتفاوض مع الزبون.
ثانيا، يتوسع الذكاء الاصطناعي رقميا. الخطأ في طائرة واحدة يبقى خطأ في طائرة واحدة. أما الخطأ في نموذج منتشر على نطاق واسع، فقد يظهر فورا في ملايين الجلسات مع المستخدمين.
ثالثا، الحد الفاصل بين البحث والمنتج والبنية التحتية غير واضح. قد تسمي المختبرات النموذج بحثيا، وتسميه الشركة الناشئة تجاريا، وتسميه الدولة استراتيجيا، ويسميه المستخدم يوميا. لكن القاعدة التقنية قد تكون واحدة.
رابعا، كثير من المخاطر ليست محلية، بل نظامية. نموذج ضعيف في أيدي مليون مستخدم قد يسبب ضررا أكبر من نموذج قوي داخل دائرة مغلقة. والعكس صحيح أيضا: نموذج فائق القوة داخل نظام عسكري أو استخباراتي قد يصبح عاملا من عوامل عدم الاستقرار الاستراتيجي حتى من دون إتاحة جماهيرية.
خامسا، اختبار الذكاء الاصطناعي لا يختزل في اختبار واحد. قد ينجح النموذج في معيار اختبار موحد ويفشل في بيئة واقعية. وقد يظهر السلامة داخل المختبر، ثم يتصرف بصورة مختلفة عند تعرضه لحقن التعليمات، أو لسياق طويل، أو عند حصوله على أدوات، أو عند تفاعله مع وكلاء آخرين.
ولهذا تتحدث المعايير الحديثة أكثر فأكثر لا عن “شهادة سلامة”، بل عن دورة حياة كاملة لإدارة المخاطر: نمذجة التهديدات، واختبارات الفرق الحمراء، وأطر التقييم، والإبلاغ عن الحوادث، والمراقبة، والعودة إلى إصدار سابق، والتحكم في الوصول، وأمن أوزان النماذج، والنشر الآمن، وإبقاء الإنسان داخل حلقة القرار، وسجلات التدقيق. وفي ملف إدارة مخاطر الذكاء الاصطناعي التوليدي، يصف المعهد الوطني للمعايير والتكنولوجيا هذه الأنظمة بوصفها موضوعا للتقييم والإدارة المستمرين، لا موضوعا لفحص واحد قبل الإطلاق.
أوروبا تبني الإطار القانوني بالفعل. أما الولايات المتحدة فما زالت توازن بين التسريع والرقابة
كان الاتحاد الأوروبي أول من حاول تحويل إدارة الذكاء الاصطناعي إلى منظومة قانونية واسعة النطاق. فقانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي بدأ بالفعل في إدخال التزامات تدريجية: الممارسات المحظورة ومتطلبات الثقافة المتعلقة بالذكاء الاصطناعي بدأ تطبيقها منذ الثاني من فبراير 2025، أما قواعد النماذج العامة الغرض فدخلت حيز التطبيق منذ الثاني من أغسطس 2025، في حين سيجري تطبيق جزء من المتطلبات الخاصة بالأنظمة عالية المخاطر في وقت لاحق، مع فترة انتقالية تمتد حتى عام 2028.
هذه ليست نموذجا مثاليا. فالنهج الأوروبي يتعرض لانتقادات بسبب تعقيده، وعبئه البيروقراطي، وخطر إبطاء الابتكار. لكن ميزته أنه يعترف على الأقل بأن الذكاء الاصطناعي ليس مجرد سوق للتطبيقات، بل بنية تحتية للسلطة والأمن وحقوق الإنسان. فالنماذج العامة الغرض تحتاج إلى نظام خاص، لأنها يمكن أن تدمج في آلاف التطبيقات اللاحقة، حيث لا يعود المطور الأصلي قادرا على التحكم في كل صورة محددة من صور الاستخدام.
أما الولايات المتحدة فتتصرف بطريقة مختلفة. فالنموذج الأمريكي يعتمد تقليديا بدرجة أكبر على المعايير الطوعية، والشراكة بين الدولة والمختبرات، والأمن القومي، ومنطق المنافسة. ويقترح المعهد الوطني للمعايير والتكنولوجيا أطر إدارة للمخاطر، لكنها تبقى إلى حد كبير طوعية. وفي الوقت نفسه لا تستطيع واشنطن أن تسمح لنفسها بإبطاء شركاتها بصورة مفرطة، لأن الذكاء الاصطناعي أصبح جزءا من التنافس الاستراتيجي مع الصين.
أما الصين، من جهتها، فتنظر إلى الذكاء الاصطناعي بوصفه أداة للاندفاع الصناعي، والإدارة الحكومية، والتحديث العسكري، والرقابة الأيديولوجية. ولذلك تصطدم فكرة الوقفة العالمية بواقع جيوسياسي صلب: لا تريد أي قوة كبرى أن تستيقظ في عالم يكون فيه المنافس قد حصل أولا على تكنولوجيا قادرة على تسريع العلم، والاستخبارات، والقدرات السيبرانية، والروبوتات، والتخطيط الدفاعي.
الوقفة الطوعية شبه مستحيلة. لكن الإبطاء المنضبط ضرورة
السيناريو الأكثر سذاجة هو تخيل أن المختبرات الرائدة ستتفق ببساطة على أن “تكون أكثر حذرا”. هذا لن ينجح. فالرهانات أكبر من ذلك بكثير. لقد أصبح سوق الذكاء الاصطناعي مرتبطا بتقييمات تبلغ مئات المليارات من الدولارات، وبعمليات طرح عام أولي مستقبلية، وعقود حكومية، وعمالقة الحوسبة السحابية، ومصنعي الرقائق، وتوقعات الأسواق المالية. هناك عدد كبير جدا من اللاعبين الذين لهم مصلحة مباشرة في التسريع.
في عام 2025، وبحسب تقرير السلامة الدولية للذكاء الاصطناعي لعام 2026، نشرت أو حدثت اثنتا عشرة شركة بالفعل أطرها الخاصة لسلامة الذكاء الاصطناعي الحدودي. هذا أفضل من لا شيء. لكن معظم هذه المبادرات ما زالت طوعية. والسلامة الطوعية جيدة إلى أن تأتي اللحظة الأولى التي تبدأ فيها السلامة بإعاقة التفوق التنافسي.
لذلك لا ينبغي أن يكون الحديث عن إيقاف رومانسي للتقدم، بل عن منظومة صارمة لمستويات الخطر. على سبيل المثال:
المستوى الأول - نماذج عادية لا تملك وصولا إلى أدوات حرجة.
المستوى الثاني - نماذج ذات وظائف وكيلية تعمل داخل بيئة محدودة.
المستوى الثالث - نماذج قادرة على كتابة الشيفرات وتشغيلها بصورة مستقلة، والعمل مع أنظمة خارجية، وإجراء تحليل سيبراني.
المستوى الرابع - نماذج تظهر مؤشرات على قدرات خطرة: المساعدة في التصميم البيولوجي، والعمليات السيبرانية المستقلة، وتجاوز آليات الحماية، والتخطيط الاستراتيجي، وعمليات التأثير القابلة للتوسيع.
المستوى الخامس - نماذج قادرة على تسريع تطوير النماذج اللاحقة بصورة كبيرة، وتقليص دور الإنسان في الدورة البحثية.
وينبغي أن تكون لكل مستوى متطلبات مختلفة: من التوثيق البسيط إلى التدقيق الخارجي الإلزامي، وترخيص عمليات الحوسبة الكبرى، والرقابة على الوصول إلى الأوزان، واختبارات المخاطر الكيميائية والبيولوجية والإشعاعية والنووية، واختبار السلوك المستقل، والخبرات السيبرانية، وآلية الإيقاف الطارئ.
المصدر المفتوح: حرية أم هشاشة؟
هناك مشكلة منفصلة تتمثل في النماذج المفتوحة. ولديها حجة قوية: الانفتاح يقلل احتكار شركات التكنولوجيا العملاقة، ويمنح الجامعات، والشركات الصغيرة، والمطورين المستقلين، إمكانية الوصول إلى التكنولوجيا، ويرفع مستوى الشفافية، ويسرع الابتكار. لكن للانفتاح جانبا مظلما: إذا نشر نموذج يمتلك قدرات خطرة بصورة حرة، فلا يمكن إعادته إلى الوراء.
يمكن إيقاف النموذج المغلق، أو تقييده، أو تحديثه، أو سحب الوصول إلى واجهات برمجة التطبيقات، أو تعزيز المرشحات، أو إضافة المراقبة. أما الأوزان المفتوحة، عندما تدخل الشبكة، فتبدأ حياة خاصة بها. يمكن إعادة تدريبها، وإزالة القيود عنها، ودمجها في أدوات ضارة، وتشغيلها محليا، واستخدامها خارج مجال رؤية المزود.
هذا لا يعني أن كل النماذج المفتوحة خطرة. لكنه يعني أن مسألة الانفتاح يجب أن تعتمد على مستوى القدرات. لا يمكن تطبيق الفلسفة نفسها على نموذج تعليمي صغير وعلى نظام قادر على المساعدة في إنشاء برمجيات خبيثة، أو تصميم تجارب بيولوجية، أو البحث الآلي عن الثغرات في البنية التحتية الحرجة.
السؤال الحقيقي: من سيراقب المراقبين؟
يثير تحذير أنثروبيك شكوكا مفهومة. فعندما تدعو واحدة من أغلى شركات القطاع إلى الإبطاء، يرى المنتقدون في ذلك ليس فقط حرصا على البشرية، بل أيضا حسابا مؤسسيا. فإذا كنت قد تقدمت بالفعل، فمن مصلحتك أن تحول مستوى تطورك إلى قاعدة تنظيمية، وأن تجعل حياة من يلحقون بك أكثر صعوبة. ولهذا بالذات لا ينبغي أن تكتب قواعد الذكاء الاصطناعي المختبرات نفسها وفقا لمصالحها التجارية.
لكن التطرف المعاكس أخطر أيضا. لا يجوز رفض التحذير فقط لأن من يطلقه طرف ذو مصلحة. فالعاملون من الداخل يرون فعلا ما لا يراه المجتمع: سرعة التقدم الهندسي، والمؤشرات الداخلية، وسلوك النماذج في الاختبارات المغلقة، ومستوى أتمتة البحث، والطلبات الحقيقية من الهياكل الحكومية، وضغط المستثمرين، وقدرات الأنظمة الوكيلية.
النهج الصحيح هو ألا نثق بالشركات بناء على كلامها فقط، وألا نتجاهل إشاراتها في الوقت نفسه. المطلوب مؤسسات تقييم مستقلة، وهيئات حكومية لسلامة الذكاء الاصطناعي، ولجان خبراء دولية، ووصول الباحثين إلى اختبار النماذج، وقنوات محمية للكشف عن الحوادث، ونشر إلزامي للنتائج الأساسية لتقييمات السلامة، ونظام مسؤولية عند إخفاء القدرات الخطرة.
لا يمكن تسليم الرقابة على الذكاء الاصطناعي لا إلى الشركات، ولا إلى البيروقراطية، ولا إلى العسكريين، ولا إلى الناشطين. يجب أن تكون منظومة متعددة المستويات، قائمة على تضارب المصالح، والتحقق المتبادل، والكفاءة التقنية.
لا ينبغي الخوف من الذكاء الاصطناعي. ينبغي ترويضه سياسيا وتقنيا
الخطأ الأكبر هو اختزال النقاش في خيار بين الهلع والانبهار. فالذكاء الاصطناعي يحقق بالفعل فائدة هائلة: يسرع البرمجة، ويساعد الأطباء في تحليل البيانات، ويرفع إتاحة التعليم، ويحسن الترجمة، ويؤتمت الأعمال الروتينية، ويساعد العلماء على العمل مع كتل ضخمة من المعلومات، ويوسع إمكانات ذوي الإعاقة، ويخفض حواجز الدخول إلى المهن المعقدة.
لكن تكنولوجيا بهذا الحجم لا يمكن أن تتطور بمنطق “لنطلقها أولا ثم نفهم لاحقا”. لقد دخل المجتمع بهذه الطريقة سابقا عصر شبكات التواصل الاجتماعي: في البداية كان هناك انبهار بحرية الاتصال، ثم جاءت الراديكالية الخوارزمية، وفقاعات المعلومات، والتلاعب السياسي، وتدهور النقاش العام، وأزمة الثقة. ومع الذكاء الاصطناعي قد تكون كلفة الخطأ أعلى.
دواسة الفرامل لا تعني حظر التقدم. إنها تعني حق المجتمع في ألا يكون راكبا داخل سيارة يقودها رأس المال المغامر، والمختبرات، وغرف التخطيط الجيوسياسي. إنها تعني أن سرعة التطبيق يجب ألا تتحدد فقط بما هو ممكن تقنيا، بل أيضا بما هو مقبول اجتماعيا وسياسيا وأمنيا.
العالم يدخل عصرا يصبح فيه الذكاء بنية تحتية للسلطة
في القرن الحادي والعشرين سيكون الذكاء الاصطناعي ما كانت عليه في القرن العشرين النفط، والذرة، والطيران، والحوسبة، والإنترنت مجتمعة. سيصبح موردا للنمو الاقتصادي، وسلاحا للتفوق الاستراتيجي، وأداة للمراقبة، ومصنعا للمعاني، ومحركا للعلم، وآلية للإدارة.
ولهذا لا يجوز اختزال سؤال أنثروبيك في دراما مؤسسية تخص شركة واحدة. إنه عرض لتحول أعمق. فالبشرية تنشئ أنظمة تبدأ بالمشاركة في إنشاء الجيل التالي من الأنظمة نفسها. هذه العملية قد تمنح اختراقات في الطب، والطاقة، وعلوم المواد، والتعليم، والإنتاجية. لكنها قد تولد أيضا سلاحا سيبرانيا من نوع جديد، وسوق عمل تتراجع فيه قيمة مهن كاملة بصورة حادة، وأنظمة سلطوية للمراقبة الفائقة، وبيئة معلوماتية يكف فيها الإنسان عن التمييز بين الواقع والمحاكاة الاصطناعية.
المفترق الحقيقي ليس بين الذكاء الاصطناعي وغياب الذكاء الاصطناعي. هذا المفترق لم يعد موجودا. الذكاء الاصطناعي باق. السؤال في مكان آخر: هل سيتطور بوصفه بنية تحتية قابلة للإدارة، خاضعة للقانون والتدقيق والمسؤولية السياسية، أم بوصفه سباقا بين مختبرات مغلقة، حيث يبرر كل إصدار جديد بالخوف من التخلف عن المنافس؟
اليوم، دواسة الوقود مضغوطة إلى حدها الأقصى تقريبا. مراكز البيانات تبنى. النماذج تتوسع. الوكلاء يحصلون على الأدوات. الشيفرة تكتبها الآلات. الاقتصاد يعاد تشكيله. والدول تنظر باهتمام إلى الاستخدام العسكري والاستخباري.
والآن يبدو السؤال الرئيسي قاسيا وواضحا إلى أقصى حد: هل ستنجح البشرية في تركيب الفرامل قبل أن تصبح السرعة أعلى من القدرة على القيادة؟