منظمة العفو الدولية وهيكل الثورات العلمية – أورايلي

إن مدونة Thomas Wolf “The Einstein AI Model” أمر لا بد منه. إنه يتناقض مع تفكيره بما نحتاجه من الذكاء الاصطناعي مع آخر يجب أن يقرأه داريو أمودي “آلات النعمة المحبة”.¹ حجة وولف هي أن نماذج اللغة الأكثر تقدماً لا تخلق أي شيء جديد ؛ إنهم يجمعون فقط بين الأفكار القديمة ، والعبارات القديمة ، والكلمات القديمة وفقًا للنماذج الاحتمالية. هذه العملية غير قادرة على إجراء اكتشافات جديدة مهمة ؛ يسرد الذئب نظام Copernicus للطاقة الشمسية من Copernicus ، ونسبية Einstein ، وأمراض دودنا كأمثلة على الاكتشافات التي تتجاوز إعادة التركيب. لا شك في أن العديد من الاكتشافات الأخرى يمكن تضمينها: Kepler's و Newton's وكل ما أدى إلى ميكانيكا الكم ، بدءًا من حل مشكلة الجسم الأسود.

يعكس قلب حجة وولف وجهة نظر التقدم الذي يلاحظه توماس كون في هيكل الثورات العلمية. يصف الذئب ما يحدث عندما تتحرر العملية العلمية من “العلم الطبيعي” (مصطلح Kuhn) لصالح نموذج جديد لا يمكن تصوره بالنسبة للعلماء الذين غارقوا في ما حدث من قبل. كيف يمكن أن تبدأ النظرية النسبية والنظرية الكمومية في أن يكون العلماء على أساس الميكانيكا النيوتونية ، وهو إطار فكري يمكن أن يفسر كل ما نعرفه عن العالم المادي باستثناء مشكلة الجسم الأسود وسبق الزئبق؟

تشبه حجة وولف الحجة حول إمكانات منظمة العفو الدولية للإبداع في الموسيقى والفنون الأخرى. الملحنين العظماء لا يعودون فقط ما حدث من قبل ؛ إنهم يرفعون التقاليد ، ويقومون بشيء جديد يتضمن قطعًا مما حدث من قبل بطرق لم يكن من الممكن التنبؤ بها أبدًا. وينطبق الشيء نفسه على الشعراء والروائيين والرسامين: من الضروري الانفصال عن الماضي ، وكتابة شيء لم يكن من الممكن كتابته من قبل ، لجعله جديدًا “.

في الوقت نفسه ، فإن الكثير من العلم الجيد هو “العلم الطبيعي” لكون. بمجرد أن يكون لديك النسبية ، عليك معرفة الآثار المترتبة. عليك القيام بالتجارب. وعليك أن تجد المكان الذي يمكنك فيه أخذ نتائج الأوراق A و B ، وخلطها ، والحصول على النتيجة C وهي مفيدة ، وبطريقتها الخاصة. لم يكن انفجار الإبداع الذي أدى إلى ميكانيكا الكم (Bohr ، Planck ، Schrödinger ، Dirac ، Heisenberg ، Feynman ، وآخرون) مجرد عشرات أو نحو ذلك في الفيزياء الذين قاموا بعمل ثوري. لقد تطلب الأمر من الآلاف الذين جاءوا بعد ذلك لربط الأطراف الفضفاضة ، ويتناسبون مع القطع المفقودة ، والتحقق من صحة النظريات (وتمديد). هل نهتم بأينشتاين إذا لم يكن لدينا قياسات Eddington خلال الكسوف الشمسي لعام 1919؟ أم أن النسبية قد انخفضت على جانب الطريق ، وربما تتم إعادة تصورها عشرات أو مائة عام؟

وينطبق الشيء نفسه على الفنون: قد يكون هناك واحد فقط من بيتهوفن أو موزارت أو مونك ، ولكن هناك الآلاف من الموسيقيين الذين قاموا بإنشاء موسيقى استمعوا إلى الناس والاستمتاع بهم ، والذين تم نسيانهم منذ ذلك الحين لأنهم لم يفعلوا أي شيء ثوري. الاستماع إلى الموسيقى الثورية حقًا 24-7 سيكون أمرًا لا يطاق. في مرحلة ما ، تريد شيئًا آمنًا ؛ شيء لا يمثل تحديًا.

نحتاج إلى منظمة العفو الدولية التي يمكن أن تفعل كل من “العلم الطبيعي” والعلوم التي تخلق نماذج جديدة. لدينا بالفعل السابق ، أو على الأقل ، نحن قريبون. ولكن كيف يمكن أن يبدو هذا النوع الآخر من الذكاء الاصطناعي؟ هذا هو المكان الذي يتحدى فيه الأمر – ليس فقط لأننا لا نعرف كيفية بنائه ولكن لأن الذكاء الاصطناعي قد يتطلب نموذجه الجديد. سوف يتصرف بشكل مختلف عن أي شيء لدينا الآن.

على الرغم من أنني كنت متشككًا ، إلا أنني بدأت أعتقد أنه ، ربما ، يمكن أن يفكر منظمة العفو الدولية بهذه الطريقة. لقد جادلت أن إحدى الخصائص – ربما تكون أهم خاصية – للذكاء الإنساني الذي لا يمكن أن يحاكيه منظمة العفو الدولية الحالية هي الإرادة ، الإرادة ، القدرة على القيام بشيء ما. يمكن أن يلعب Alphago ، لكن لا يمكنه ذلك يريد للعب يذهب. تعتبر Forition سمة من سمات التفكير الثوري-عليك أن ترغب في تجاوز ما هو معروف بالفعل ، بما يتجاوز إعادة التركيب البسيط ، واتباع قطار التفكير في عواقبه البعيدة المدى.

قد نحصل على بعض لمحات من تلك الذكاء الاصطناعى الجديد بالفعل. لقد رأينا بالفعل بعض الأمثلة الغريبة لسوء تصرف الذكاء الاصطناعى التي تتجاوز الحقن السريع أو التحدث عن دردشة إلى كونها شقيًا. تناقش الدراسات الحديثة التزوير المخطط والمحاذاة الذي تنتج فيه LLMs مخرجات ضارة ، ربما بسبب تعارضات خفية بين مطالبات النظام المختلفة. أظهرت دراسة أخرى أن نماذج التفكير مثل Openai O1-Preview سوف تغش في لعبة الشطرنج من أجل الفوز²؛ نماذج أقدم مثل GPT-4O لن. هل الغش مجرد خطأ في منطق الذكاء الاصطناعي أو شيء جديد؟ لقد ارتبطت الإرادة مع السلوك التعدي ؛ هل يمكن أن تكون هذه علامة على منظمة العفو الدولية التي يمكن أن ترغب في شيء؟

إذا كنت على المسار الصحيح ، سنحتاج إلى أن نكون على دراية بالمخاطر. بالنسبة للجزء الأكبر ، توازي تفكيري في المخاطرة مع أندرو نغ ، الذي قال ذات مرة إن القلق بشأن الروبوتات القاتلة كان أقرب إلى القلق بشأن الاكتظاظ السكاني على المريخ. (أصبحت NG منذ ذلك الحين أكثر قلقًا.) هناك أضرار حقيقية وملموسة نحتاج إلى التفكير فيها الآن ، وليس المخاطر الافتراضية المستمدة من الخيال العلمي. لكن الذكاء الاصطناعى الذي يمكن أن يولد نماذج جديدة يجلب مخاطره الخاصة ، خاصة إذا كان هذا الخطر ينشأ من نوع من الإرادة الناشئة.

هذا لا يعني الابتعاد عن المخاطر ورفض أي شيء يُنظر إليه على أنه محفوف بالمخاطر. ولكن هذا يعني أيضًا فهم والسيطرة على ما نبنيه. ما زلت أقل قلقًا بشأن منظمة العفو الدولية التي يمكن أن تخبر الإنسان بكيفية إنشاء فيروس أكثر مما أنا على الإنسان الذي يقرر صنع هذا الفيروس في المختبر. (تتمتع الطبيعة الأم بعدة مليارات سنة من الخبرة في بناء فيروسات قاتلة. على الرغم من جميع المواقف السياسية حول كوفيد ، فإن أفضل دليل على أنه من أصل طبيعي).

الذئب على حق. على الرغم من أن الذكاء الاصطناعى الذي يعتمد على العلم سيكون بالتأكيد مساعدة للعلوم ، إذا كنا نريد العلم الرائد ، نحتاج إلى تجاوز إعادة التركيب إلى النماذج التي يمكن أن تخلق نماذج جديدة ، إلى جانب أي شيء آخر قد يستلزم. كما كتب شكسبير ، “يا عالم جديد شجاع لم يسبق له مثيل”. هذا هو العالم الذي نبنيه ، والعالم الذي نعيش فيه.

الحواشي

1. نشرت VentureBeat ملخصًا ممتازًا ، مع استنتاجات قد لا تكون مختلفة عن بلدي.
2. إذا كنت تتساءل كيف يمكن أن تفقد الذكاء الاصطناعى لعب الشطرنج ، تذكر أن أسماك البورصة والنماذج الأخرى الخاصة بالشطرنج أقوى بكثير من أفضل نماذج اللغة الكبيرة.