خدعة الذكاء الاصطناعي
كتاب جديد يخترق الخديعة ويقترح بعض الطرق لمقاومتها
الكتاب: خدعة الذكاء الاصطناعي
المؤلف: إميلي إم. بيندر، أليكس حنا
الناشر: Harper هاربر
عدد الصفحات: 288 صفحة
تاريخ النشر: 20 مايو 2025
اللغة: الإنجليزية
سيسطر الذكاء الاصطناعي على العالم؟ وهل تمكن العلماء من تخليق شكلًا اصطناعيًا من أشكال الحياة يستطيع التفكير بمفرده؟ وهل يا ترى سيتمكن من الحلول محل وظائفنا بما فيها الوظائف الإبداعية كالأطباء والمعلمين وقطاع الرعاية؟ وهل أوشكنا على ولوج عصر تصبح فيه الحواسب أفضل من البشر؟
يجبب هذا الكتاب «خديعة الذكاء الاصطناعي» بالنفي وأن ذلك مجرد أماني وبالقطع لا.
يمكن اعتبار الذكاء الاصطناعي تعبيرًا تسويقيًا بقدر ما هو مجموعة متفردة من التقنيات والهياكل الحوسبية. لقد أصبح الذكاء الاصطناعي مصطلحًا سحريًا لدى رواد الأعمال لجذب التمويل الابتدائي للمشاريع الغامضة وتميمة يستخدمها المدراء للوصول التلقائي إلى مرتبة القادة المتطلعين لمستقبل أفضل.
يستحضر الذكاء الاصطناعي رؤية المصانع المؤتمتة والروبوتات المتسيدة والرفاهية المثالية أو سوداوية الاستعباد تبعًا لوجهة نظر المرء. فهو ليس مجرد تقنية فحسب، ولكنه نظرة مهولة القوة لكيفية أداء المجتمع ومستقبلنا المنشود.
وبهذا المنظور لا يحتاج الذكاء الاصطناعي لكثير من العمل لتحقيق ذلك. قد تكون دقة نموذج لغوي ضخم مبهمة وانتاجية المعاون المكتبي (الاصطناعي) مجرد ادعاء بلا برهان وقد تحور هذه الحزمة من التقانات والشركات والادعاءات ميادين الصحافة والتعليم والرعاية الصحية وقطاع الخدمات ومشهدنا الاجتماعي والثقافي العريض.
تعتقد الكاتبتان الدكتورة اميلي بيندر والدكتورة اليكس هانا بضرورة تنفيس فقاعة خديعة الذكاء الاصطناعي.
أصبحت بيندر وهي أستاذة اللسانيات في جامعة واشنطن من أشهر نقاد التكنولوجيا. وهانا هي عالمة اجتماع وموظفة سابقة في شركة جوجل وتعمل الآن مديرة للأبحاث في معهد الذكاء الاصطناعي. وشكلت مع بيندر ثنائيًا لمحاكاة معززات الذكاء الاصطناعي في برنامجهما الشهير «مسرح خديعة الذكاء الاصطناعي الغامض 3000» ومن ثم نشرتا خلاصة تجاربهما في هذا الكتاب الذي يستهدف عموم القراء. تواجه المؤلفتان قوى خديعة الذكاء الاصطناعي الجارفة بتشكيك لا يتزعزع.
تبدأ الخطوة الأولى في هذا البرنامج بإلقاء نظرة خاطفة على آلية عمل نماذج الذكاء الاصطناعي. وتقومان بتفكيك التعابير التقنية وكشف الصندوق الأسود لتعلم الآلة وتيسيره للقارئ العادي.
وتتكرر هذه الفكرة المتمثلة بدق إسفين بين الخديعة والحقيقة وبين التأكيدات والعمليات في ثنايا هذا الكتاب وبالتالي تنجح في زعزعة ثقة القارئ بقطاع التكنولوجيا. يرسم الكتاب الحيل الاستراتيجية التي تستخدمها الشركات الكبرى لتخفيف المصادمات ومراكمة الأرباح.
إذًا ما هو الذكاء؟
ساهمت بيندر في بحث شهير والذي أكد على أن نماذج اللغة الكبرى هي ببساطة «ببغاوات تخمينية» تستند إلى بيانات التدريب للتنبؤ بمجموعة المفردات الأكثر احتمالية لاتباع الحافز الذي يقدمه المستخدم. وبالتالي يتجشأ النموذج عبر تصفح ملايين المواقع الالكترونية كلمة «القمر» بعد «قفزت البقرة فوق» وإن بتنوعات أكثر تطورًا.
تقوم نماذج اللغة الكبرى بمقاربة الأنماط لتخلق وهم التفكير عوضًا عن تفهم المعنى بكافة مضامينه الاجتماعية والثقافية والسياسية.
ولكنني أرى أن مجرد محاكاة التفكير يعتبر كافيًا في العديد من النطاقات لأنها تختزل منتصف المسافة مع المنخرطين بها. يعرض المستخدمون التوسط ضمن النماذج عبر ما يسمى «تأثير اليزا» الذي ينقل الذكاء إلى المحاكاة.
تعقد الإدارة أمالها على هذه المحاكاة. إذ ترى الأتمتة طريقة لإنسيابية منظماتها وعدم التخلف عن الركب. نشهد تكرار هذه النظرة الفائقة القوة لدى المتبنين الأوائل بالمقارنة مع الديناصورات المنقرضة مع قدوم أية تكنولوجيات جديدة والتي تنفع قطاع التقنية.
ومن هذا المنظور يكون إحداث ثقوب في «ألمعية» الذكاء الاصطناعي حركة خاسرة تفتقر إلى الاستثمار الاجتماعي والمالي الذي يرغب بعمل هذه التكنولوجيا.
يطلب رئيس المهندسين في مؤسسة دولينجو في رسالة مؤخرة من كافة الموظفين استخدام الذكاء الاصطناعي أولًا لدى معالجة أية مهمة. وانضمت دولينجو إلى فايفر وشوبفاي وأ ب م والكثير من الشركات الأخرى التي تتبنى خيار «الذكاء الاصطناعي أولًا».
تصبح خديعة الذكاء الاصطناعي أكثر قوة عندما تتخطى حاجز التكنولوجيا إلى النظام البيئي المحيط بها. نستطيع من خلال فهم الشركات والفاعلين ونماذج العمل والمساهمين بإنتاج النموذج تقييم مصدر ذلك النموذج وهدفه ونقاط ضعفه وقوته وما يعنيه كل ذلك طوال مسار استخداماته وتأثيراته المحتملة.
وتقترح بيندر وهانا أن نقطة البداية الحاسمة تكمن في «من يستفيد من هذه التكنولوجيا ومن يتضرر منها وأي ملاذ تقدمه؟».
تقوم هذه الأسئلة الأساسية والمهمة بانتشالنا من مضار النقاش التقني-آلية عمل الذكاء الاصطناعي ومدى دقته و«صحته» وكيفية فهم تعقيداته لغير المهندسين؟ – وتمنحنا منظورًا نقديًا
وتلقي بالأعباء على قطاع الصناعة بدلًا من المستخدمين للتكيف معه أو اعتباره زائدًا عن الحاجة.
لا نحتاج لشرح المفاهيم التقنية مثل «الانتشار العكسي عبر الزمن» أو «نماذج الانتشار» للإلمام بأن تقنيات الذكاء الاصطناعي تستطيع تخريب العمل الجيد أوتأبيد الصور النمطية العرقية والجنسانية أو مفاقمة الأزمات البيئية. تُعنى خديعة الذكاء الاصطناعي بتشتيت انتباهنا عن هذه الأثار الصلبة والتقليل من شأنها وبالتالي تجاهلها.
وتشرح بيندر وهانا أن معززي ومنكوبي الذكاء الاصطناعي وجهان لعملة واحدة. كما أن استحضار سيناريوهات كوابيس التناسخ الذاتي للذكاء الاصطناعي الذي يؤدي لاجتثاث البشرية أو الادعاء بأن الآلات المرهفة ستنقلنا إلى نعيم ما بعد الموت هي في واقع الأمر عين الشيء.
إذ تُدخل ما يشبه اليقين الديني بمقدرة التكنولوجيا والذي يطغى على النقاش مما يسمح لشركات التقانة بالسيطرة على التطور المستقبلي للذكاء الاصطناعي.
كما أن خطر الذكاء الاصطناعي لا يكمن في الهلاك المستقبلي على شاكلة التهديد النووي إذ بان الحرب الباردة ولكن عبر الضرر الأهدأ والأكثر أهمية على الأفراد في الحاضر. وتشرح المؤلفتان أن الذكاء الاصطناعي يشبه مراقبة جماعية «تسمح لسجان وحيد تتبع مئات المساجين دفعة واحدة» أو «شبكات المراقبة التي تتبع المجاميع المهمشة في الغرب» أو «الفضلات السامة التي تلوث الأرض في موقع مميز» أو «عامل التقشير الذي يتجاوز خط الإشارة وفق توصية صاحب العمل والذي يشير للمقشرين بانتهاء العمل. وما مجاميع النظم المباعة كذكاء اصطناعي إلا كافة هذه الأشياء مدمجة بقطعة واحدة».
كتب ايان بوجوست قبل عقد من الزمن في إشارة إلى تكنولوجيا قامت يومها بتغيير قواعد اللعبة: «ينتهي بنا المطاف عوضًا عن المثالية أو السوداوية بشيء أقل درامية وأكثر تثبيطًا. إذ لا تخدم الروبوتات الأسياد من البشر ولا تدمرنا عبر إبادة مأساوية، ولكنها تشتت حيواتنا في الوقت الذي تحافظ فيها علينا أحياء».
ويتكرر النمط هنا. ومع نضج الذكاء الاصطناعي (إلى حد ما) وتبنيه من قبل المنظمات يقوم بالانتقال من الابتكار إلى البنية التحتية ومن السحر إلى الآلية. لا تتحقق الوعود الكبرى في واقع الأمر وعوضًا عن ذلك يعاني المجتمع من مستقبل أشد قتامة وقسوة. يشعر العمال بضغوط أكبر ويصبح التتبع أمرًا اعتياديًا وتتلوث الحقيقة بما بعد الحقيقة ويصبح المهمش أكثر هشاشة والكوكب أكثر احترارًا.
وتكون التكنولوجيا من هذا المنظور متغيرة الشكل: إذ يتبدل الشكل الخارجي باستمرار، ولكن المنطق الداخلي يبقى على حاله. وتستغل الطبيعة والعمالة وتستخلص القيمة وتُمركز الثروة وتحمي سلطة وقوة الأقوياء.
أظهر عالما الاجتماع لوك بولتانسكي وايف تشيابيلو في كتاب (روح الرأسمالية الجديدة) أن الرأسمالية قد مرت بطفرات عبر الزمن واحتوت نقادها ضمن حمضها النووي.
انتقلت الرأسمالية بعد سلسلة من الإخفاقات حول الأتمتة والانسلاخ في الستينات من وضعية الانتاج «الفوردي» التراتبي إلى شكل أكثر مرونة من الإدارة الذاتية على مدى عقدين من الزمن. وبدأت بمحاباة الإنتاج «في الوقت المناسب» والذي يتم (ظاهريًا) ضمن فرق أقل عددًا والتي تتقبل إبداعية وابتكارية كل فرد.
وفرت النيوليبرالية «الحرية» ولكن بثمن. تكيفت المنظمات وحدثت تنازلات وتعطل الانتقاد.
يتابع الذكاء الاصطناعي هذا الشكل من أشكال الاختيار المشترك ويمكن وصف اللحظة الراهنة بنهاية الموجة الأولى من انتقاد الذكاء الاصطناعي.
أطلق أباطرة التقانة خلال الأعوام الخمسة الماضية سلسلة من النماذج الأكبر و«الأفضل» حيث ركز الجمهور والعلماء بشكل كبير على نماذج «الأساس»: مثل تشات ج ب ت وستابل ديفيوشن وميد جورني وجيميني وديب سيك وغيرها.
انتقد العلماء بشدة مظاهر بعض هذه النماذج واستعرضت في بعض أعمالي ادعاءات المصداقية والكره المتوالد وغسل القيم وغيرها من القضايا. وركزت كثير من الأبحاث على التحيز: أي الطريقة التي تقوم فيها بيانات التدريب بإعادة انتاج الصور النمطية الجنسانية والتفاوت العرقي والتزمت الديني ونظريات المعرفة الغربية وغيرها.
وتبدو تلك الأبحاث ممتازة ورشحت إلى الضمير الشعبي وفق النقاشات التي أجريتها في العديد من ورش العمل والفعاليات. سمح التخلف عن مثل تلك القضايا لشركات التقانة بفض النزاع وديًا. ففي حال انخفاض دقة نظام تمييز الوجوه مع ذوي البشرة السوداء نضيف عددًا أكبر من الوجوه السوداء إلى مجموعة التدريب. وإذا كان النموذج أكثر دقة مع اللغة الإنجليزية نخصص مبالغ إضافية لتوليد بيانات تخص اللغات منخفضة الموارد.
تقوم شركات مثل انثروبيك بشكل دوري بتمارين «الفرق الحمراء» المصممة لإظهار التحيزات المخفية في النماذج. ثم تقوم الشركات «بتصحيح» أو معالجة تلك القضايا. ولكن نظرًا لجسامة حجم مجاميع البيانات غالبًا ما تكون تلك الحلول ضمادات سريعة عوضًا عن تغييرات بنيوية.
وعلى سبيل المثال وبعيد إطلاق مولدات الصور بالذكاء الاصطناعي تعرضت تلك المولدات للضغط الشديد لعدم توليد ما يكفي من الصور ذات التنوع العريض. واستجابة لذلك اخترع الذكاء الاصطناعي المفتوح تقنية «تعكس تنوع سكان العالم». اكتشف البحاثة أن هذه التقنية تتطلب إضافة محفزات إضافية مخفية «مثل الأسيويين أو السود» إلى معززات المستخدمين. ويبدو أن نموذج جيميني لدى جوجل قد تبنى ذلك والذي أدى إلى ردة عكسية عندما شابهت صور الفايكينغ أو النازيين خصائص سكان جنوب آسيا أو الهنود الحمر.
ولا نقصد هنا أن نماذج الذكاء الاصطناعي متحيزة أو مغلوطة من الناحية التاريخية بل إن النماذج مسيسة ولم تكن نزيهة قط. ولم تخضع الأسئلة الأصعب، عن تحويل الثقافة إلى حوسبة أو نوع الحقائق التي نرغب بها كمجتمع، للمساءلة أو العمل المنتظم.
ومثل تلك التساؤلات أكثر اتساعًا بالطبع وأقل «توجهًا» من التحيز ولكنها أقل قابلية للانقياد للترجمة إلى مشكلة يتعين على المشفر حلها.
إذًا كيف يتعامل من هو خارج النطاق الأكاديمي مع الذكاء الاصطناعي؟
شهدت السنوات القليلة الماضية الكثير من ورش العمل والندوات ومبادرات التطور الاحترافي التي تراوحت ما بين استعراضات الانبهار بخصائص الذكاء الاصطناعي بالنسبة للقوى العاملة إلى النقاشات الرصينة عن المخاطر والاخلاقيات إلى المؤتمرات الانفعالية التي تجادل حول آلية الاستجابة الأنية والمستقبلية.
يختتم الكتاب بإجابات من المؤلفتين. والكثير منها على شاكلة الأسئلة، التي طرحتاها حول آلية عمل النماذج ومن المنتفع منها، بسيطة، ولكنها أساسية وتقدم نقطة بداية قوية للانخراط التنظيمي.
يتضح أن الرفض، بالنسبة لهذا الثنائي المشكك بالتكنولوجيا، هو أحد الخيارات بينما يلحظ الأفراد درجات متفاوتة من التمثيل لدى الحديث عن التخارج من النماذج والدفع باتجاه استراتيجيات التبني. يعتمد رفض الذكاء الاصطناعي مثله مثل العديد من التقانات التي قدمت قبله إلى حد ما على الامتياز.
يمتلك المستشار أو المشفر الذي يتقاضى مرتبًا ضخمًا حرية تصرف لا يمكن للموظف الخدمي أو التقني ممارستها دون عقوبات. وإذا كان الرفض متوفرًا على المستوى الفردي فإنه يصبح أكثر حيوية واستدامة على المستوى الثقافي. تقترح المؤلفتان التجاوب مع الذكاء الاصطناعي التوليدي عبر التقليد الزائف: يجب اعتبار الشركات المستخدمة له رخيصة ومبتذلة.
تمر الثورة ضد الذكاء الاصطناعي بأوج حماسها. إذ يتم التشديد على التسجيلات الصوتية على اليوتيوب بأنها «ليست ذكاءً اصطناعيًا» على نحو متزايد. وأطلق الفنانون حملات تشدد على أن إبداعاتهم هي من صنع البشر «100%».
وهذه التحركات ما هي إلا محاولات لتأسيس إجماع ثقافي بأن المادة المولدة عبر الذكاء الاصطناعي مجرد اشتقاق واستغلال. وإذا قدمت هذه التحركات بصيص أمل فإنها تسبح عكس التيار الجارف.
تعني عبارة حثالة الذكاء الاصطناعي تخليق محتوى سريعًا ورخيصًا وأن المنطق التقني والمالي لمنصات الانترنت – سرعة الانتشار والتفاعل والكسب المادي-سيعني تخليق سباقًا نحو الهاوية.
لا تزال الكثير من التساؤلات مفتوحة على مصراعيها من قبيل تقبل الرؤى التي تقدمها شركات التقانة الكبرى ومدى اندماج أو فرض تقانات الذكاء الاصطناعي ومدى معارضة الأفراد والمجتمعات لها. وقد نجحت المؤلفتان باعتبار الذكاء الاصطناعي مجرد خديعة فشلت في ميدان الإنتاجية والذكاء في الوقت الذي تغسل فيه سلسلة من التحولات الضارة بالعمالة وتفاقم التفاوت الطبقي وتضرر البيئة.
لقد صحبت مثل تلك العواقب التقنيات السالفة – الوقود الأحفوري والسيارات الخاصة وأتمتة المصانع – ولكنها لم تحدث خدشًا في استخدامها وتحويلها للمجتمع. وبينما نثمن بيندر وهانا على هذا الكتاب الذي أظهر «طرق مقاومة خديعة الشركات الكبرى وتخليق المستقبل الذي نروم» لا تزال قضية الذكاء الاصطناعي تقارع مخيلتي وملاحظة كارل ماركس بأن «الشعوب تصنع تاريخها الذاتي، ولكنها لا تصنعه بعدل كما تحب».
المصدر:
