雷峰网 AIآخر تحديث

إسقاط كل شيء! يعلن Nick Cammarata في مقال طويل من عشرات آلاف الكلمات أن الذكاء الاصطناعي ليس صندوقًا أسود، فـ99% من الخلايا العصبية واضحة…

إسقاط يدٍ خاصةً لاستنتاج سابِق عمره عشر سنوات؛ فقد قرّب خبير قابلية التفسير Nick Cammarata هذه المرة من قراءة دوائر دماغ الذكاء الاصطناعي. التأليف: غاو يوني، التحرير: تسن فنغ. «تقسيم النموذج اللغوي الكبير القطط والسيارات…

يتدحرج بنفسه على استنتاجات قبل عشر سنوات، حيث يقرأ خبير قابلية التفسير Nick Cammarata هذه المرة عقل الذكاء الاصطناعي.

    المؤلف: غاو يونيي

تحرير: سن فنغ

                                                                                                       

"النموذج الكبير يصنّف القطة والسيارة في فئة واحدة، وهذا ليس غباءً." في مجال قابلية تفسير الذكاء الاصطناعي، هناك حالة كلاسيكية عمرها عشر سنوات، وهي العصبون ذو الرقم 4e:55 في نموذج InceptionV1. يتفعّل هذا العصبون بقوة عند رؤية "وجه قطة" و"واجهة سيارة". وهذا يعني أنّالمنطق الأساسي للشبكة العصبية بأكملها غير قابل للتفسير。 وهكذا، على مدى عشر سنوات كاملة، سار المجال بأسره في اتجاه فكرة «التفكيك»: ما دامت الشبكة صندوقاً أسود من الفوضى، فلنخترع أدوات تفككها. تحليل المُرمِّزات المتناثرة (SAE)، وقواميس الخصائص، وفك تشابك الخصائص... كلها طرق تبدأ بتفكيك الخصائص المتشابكة إلى وحدات مستقلة يمكن للبشر فهمها، ثم المضي في عملية الفهم. وقبيل يوم أمس فقط،عالم أبحاث قابلية التفسير المبكرة في OpenAI، وهو أيضًا المؤلف المشارك في مقال "Zoom In" الذي حوّل هذه الحالة إلى مرجع كلاسيكي في حينه، Nick Cammarata، نفى بنفسه الاستنتاج الذي توصّل إليه في ذلك الوقت.«هذا العصبون لا يعرف القط أساسًا، ولا يعرف السيارة. ما يكتشفه هو الشكل الهندسي على هيئة حرف V، فسواء كان وجه الثعلب المدبب أو لهيب النار المتطاير، كلها تُفعّل قطبه الموجب؛ أما قطبه السالب، فهو الأشياء الدائرية.»وقال صراحةً إن جذر هذا التشخيص الخاطئ قد يكون أن أدوات الرصد في ذلك الوقت كانت بدائية للغاية.في عام 2023 عمل في OpenAI على أول مشروع واسع النطاق للتفسير الآلي للعصبونات، حيث كانت الأدوات المتاحة قادرة على تفسير نحو 2% فقط من العصبونات. وبعد ثلاث سنوات، عندما عاد إلى البحث بفرقته المكونة من خوارزميات أكثر تقدمًا وفريق Agent، وجد أن الوضع مختلف تمامًا. في نماذج الرؤية الحديثة التي اختبروها، تمكنوا من العثور على تفسيرات واضحة إلى حد بعيد لـ 99% إلى 100% من عصبونات الطبقة الأخيرة. حتى نموذج InceptionV1 نفسه، الذي كان مشهورًا آنذاك بـ«العمق الفوضوي»، ارتفع معدل قابليته للتفسير بشكل كبير عند إعادة رصده بالأدوات الجديدة. ولهذا نشر Nick Cammarata مقالًا طويلًا يستغرق 65 دقيقة للقراءة بعنوان《Neural Networks Are Already Clean》وطرح فيه قضاءً مذهلًا:الشبكات العصبية في ذاتها «أنظف» بكثير مما كنا نظن. ومقصود بـ«النظافة» هنا ليس أن «كل عصبون يقوم بمهمة واحدة فقط»، بل أن البنية الداخلية للشبكة تتمتع بتنظيم شديد الترابط والدقة، ويمكن للبشر قراءته مباشرة. إنها أشبه بخريطة مرتبة، ومن أراد رؤية التفاصيل فعليه فقط «النقر المزدوج للتكبير»。وفي هذا الصدد، أعد نشر الباحث الأساسي في OpenAI roon المنشور مباشرةً وهو يصيح بأن هذا«لحظة مهمة في تاريخ العلم»، «لقد أصبحنا أخيرًا قادرين على جعل مواءمة الذكاء الاصطناعي علمًا اعتياديًا».فمن المؤكد أنه إذا ثبتت صحة هذه المقالة، فسيكون ذلك يعني إسقاط القلق الجوهري الذي رافق أبحاث قابلية التفسير خلال العقد الماضي. فقد يكون كل ما بذلته أوساط الذكاء الاصطناعي في السنوات الأخيرة من جهد كبير في تفكيك المُرمِّزات المتناثرة (SAE)، وقواميس السمات، وفك تشابك السمات، قد سار في طريق خاطئ.وربما يمكن أيضًا حل مشكلة مجال قابلية التفسير بـ«The Bitter Lesson»، أي أن البساطة هي الفعالية.

01


نشاط الإجماع الممتد لعشر سنوات وانقلابه

لماذا اعتقد الناس أن «دماغ الذكاء الاصطناعي» كتلة متشابكة من الخيوط؟ تعود بداية هذا كله إلى نموذج الرؤية InceptionV1 عام 2014. فعندما كان هذا النموذج «الكائن النموذجي» في المراحل الأولى لأبحاث قابلية التفسير، وجد الباحثون أن عصبونات الطبقات السطحية في النموذج واضحة نسبيًا، لكن كلما تعمّقنا في الطبقات، أصبحت أشبه بكتلة متشابكة. وقدر الناس حينها أن العصبونات القابلة للفهم البشري في الطبقة الأخيرة لا تتجاوز، في تقدير الأوساط الأكاديمية، 5% فقط. وأشهر مثال عليها هو العصبون 4e:55 الذي جعل شيئين لا صلة بينهما يتشاركان عصبونًا واحدًا، وهو ما يبدو في كل الأحوال مخالفًا للتوقع البسيط القائل بأن «كل عصبون يقابل مفهومًا واحدًا». ولتفسير هذه الظاهرة، طرحت الأوساط الأكاديمية نظرية محورية«فرضية التراكب» (Superposition). فهم يرون أنه عندما لا تكفي أعداد العصبونات، يتحول الذكاء الاصطناعي سرًّا إلى استراتيجية تعلم أخرى، فيقوم «بطي» مفاهيم لا ترتبط ببعضها داخل العصبون نفسه. ونظرًا لأن هذه المفاهيم نادرًا ما تُفعَّل في آن واحد، فهي لا تتداخل مع بعضها.وفي عام 2020 قدّم Cammarata وChris Olah في ورقتهما المرجعية 《Zoom In》 دليلًا أكثر تجسيدًا: الشبكة كانت تخفي إشارات سمات السيارة داخل مجموعة من «عصبونات الكلاب»، وهذا عزز إثبات ظاهرة التراكب بشكل أقوى. وبما أن الشبكات العصبية متشابكة، فلا بد من ابتكار أدوات لـ«فتك» بها بالقوة. ومنذ زمن طويل، اعتمدت مختبرات رائدة مثل Anthropic وOpenAI على المُرمِّزات المتناثرة (SAE) كحل سائد، وتقوم فكرتها على تدريب نموذج مساعد يقوم بسحب السمات المتعددة المحشوة بالقوة داخل العصبونات، وإعادة تصنيفها، ووضع ملصقات مفهومة للبشر عليها. لكن Nick Cammarata لاحظ أنه مع كل ترقية لأدوات الرصد، تزداد العصبونات التي تبدو فوضوية وضوحًا من تلقاء نفسها. فلم يستطع أن يمنع نفسه من الشك في أنالمشكلة ربما لا تكمن في الشبكات العصبية أصلًا، بل في أدواتنا التي نرصد بها الشبكة.من الأنماط المرعبة المُخلَّقة عند ولادة تقنية تصور السمات عام 2009، إلى صور تصور العصبونات الأكثر وضوحًا بعد إدخال متانة التحويلات، وصولًا إلى ما توصل إليه فريق Nick Cammarata  حاليًا من خلال الضبط الدقيق للمعاملات، حيث وجّه الخوارزمية للرصد على طول «مسار التفعيل للصور الحقيقية»، ليجد أن أكثر من 99% من عصبونات الطبقة الأخيرة في البنى الحديثة (مثل ConvNeXt) أصبحت واضحة وقابلة للقراءة. إذن، طوال هذه العشرة سنوات، كان الجميع يتصارع مع أخطاء الأدوات.

02


«إعادة النظر» في حالتين كلاسيكيتين

بعد ترقية الأداة، شهد الحالتان الكلاسيكيتان لـ"تعدد المعاني" في مجال قابلية التفسير كلاهما انقلابًا. المنطق الجوهري لهذا الانقلاب بأكمله هوبآليات ديناميكية وخصائص هندسية منطقية، قلب تصنيف الأسماء الساكن والقائم على المعنى الحرفي الذي كان سائداً في الماضي.

▎الدراسة الأولى: دراسة حالة «القطات وسيارات الخلايا العصبية»

تتمثل الميزة الأساسية لتصورات السمات السابقة في استخدام خوارزمية الانحدار التدريجي لتوليف صورة تُفعّل العصبون بأقصى درجة ممكنة. لكن الخوارزمية، سعياً وراء أعلى قيمة تفعيل، "تأخذ الاختصارات"، مما يُنتج«اختراق المكافأة» (reward hacking)المشكلة. نظرًا لأن عدد صور القطط والكلاب في مجموعة تدريب ImageNet ضخم جدًا وسماتها قوية جدًا، فإن الصور ذات أقوى تنشيط التي يخلقها الخوارزمية تتخللها بقايا دلالية مثل شوارب القطط وفرو الكلاب. وعندما يفسر الباحثون هذه السمات المصاحبة، يقعون طبيعيًا في الاعتقاد بأن هذا "عصبون حيواني". ولهذا السبب، قام Nick Cammarata استخدم الفريق طريقتين أكثر صرامة لإعادة الرصد. أولاً، توجيه مسار التنشيط: ضبط دقيق لمعاملات التنظيم، مع إجبار الخوارزمية قسرياً على تركيب السمات على طول مسار التنشيط الطبيعي للصور الحقيقية، وبذلك تُزال الضوضاء التداخلية التي تنتجها الخوارزمية نفسها. ثانياً، طريقة التحقق المتقاطع بالقطبين الموجب والسالب: لا يقتصر الأمر على دراسة «ما الذي ينشّط الخلية العصبية بأقوى شكل» (القطب الموجب)، بل أيضاً دراسة «ما الذي يكبت الخلية العصبية بأقوى شكل» (القطب السالب)، لتحديد الوظيفة الحقيقية للخلية العصبية من خلال تثبيتها من الطرفين معاً. وتبين أن الشبكات العصبية تصنف في الواقع وفقاً للأشكال الهندسية. في حالة «خلية عصبية قطط-سيارات»، فهي تكتشف الشكل الهندسي على شكل حرف V. فأي محيط على شكل حرف V يفعّل قطبها الموجب، مثل الوجه المدبب للثعلب، ولهب النفاثات، ومقدمة السيارة المدببة، ونافورة الماء على شكل حرف V التي يقذفها قارب الإطفاء. وعلى العكس، فإن جميع المحيطات الدائرية تفعّل قطبها السالب، مثل الوجوه المستديرة والكرات المستديرة والعجلات الدائرية.

▎الحالة الثانية: حالة "السيارة وكلب الخلايا العصبية"

ومثال آخر عن مجموعة "السيارات والكلاب" يدل على المبدأ ذاته. في بيانات تدريب InceptionV1، صور الكلاب أكثر بكثير من صور السيارات، والخلايا العصبية المرتبطة بالكلاب أكثر كثافة، فسقطت عملية التحسين في "حوض صور الكلاب" ولم تستطع الخروج منه، وجاءت "صورة التنشيط الأقوى" المُركّبة في النهاية مليئة بالكلاب. ولكشف الحقيقة، قام Nick Cammarata قدّم الفريق هذه المرة أدوات وكيل (Agent) مؤتمتة، وأجرى على هذه الدارة مجموعة من التجارب الديناميكية لتتبع التدرج والاستئصال (قطع الأسلاك بضبط المتغيرات). وبعد تفكيكها باستخدام طريقة الفصل عبر محور التعميم، اكتشفوا أن هذه الخلايا العصبية لم تكن في الحقيقة «خلايا عصبية للكلاب»، بل هي خلايا عصبية تكتشف «ما إذا كان الشيء موجّهًا بالكامل نحو الكاميرا من الأمام ومتناظرًا من الجانبين». وبعد أن تُوسَم إشارة سمات السيارة هنا بوسم «موجّه للأمام»، تستمر في التدفق نحو الطبقات الأعمق في اتجاه المصب، ثم تتفرّع في النهاية إلى «دارة تصنيف السيارات» و«دارة تصنيف الكلاب» الحقيقيتين.إن جذر القراءات الخاطئة المتعددة الدلالات سابقاً يكمن في الواقع في انحياز مجموعة البيانات. جوهرياً، تتسم السمات بطبيعتها بالتعميم والتصريف المستمرين على امتداد الإشارة.

03


هل الحقيقة حول الخلايا العصبية هي التعميم التكراري؟

بما أن الشبكات العصبية ليست تراكباً عشوائياً، فكيف نشأ ظاهرة "تعدد المعاني"؟ يقدم Nick Cammarata تفسيراً جديداً:التعميم العودي.ويرى أنه،تنمو الخلايا العصبية مثل أغصان الأشجار.ربما لا يتعرف العصبون في البداية سوى أزهار اللفت. وعلى طول محور السمة "الأصفر"، يتوسع تدريجيًا ليتعرف جميع الأجسام الصفراء؛ وعلى طول محور "الشكل الدائري"، يمتد إلى مختلف الأجسام الكروية؛ ثم يتبع مسار الربط "الكائنات الموجودة في حقول الأزهار" فيشمل الكلاب في حقول الأزهار، وينتهي به الأمر إلى البروكلي الأخضر. إذا رأى البشر هذا العصبون يستجيب في آنٍ واحد لأزهار اللفت والبروكلي فقط، فيسهل عليهم أن يظنوا خطأً أن منطق النموذج فوضوي. لكن متى تتبعوا المسار الكامل لنموه، سيكتشفون أن كل تشعب وكل امتداد للسمة يتمتع بمنطق متماسك. وفي النماذج اللغوية يكون ظاهر التعميم التكراري أكثر تطرفًا. فمثلًا، عصبون كان في الأصل يكتشف نطق "iy" فقط، امتد أثناء التدريب أولًا ليتعرف كلمة "diy"، وفي النهاية أصبح حتى العبارة "Do it yourself" التي لا تحتوي إطلاقًا على صوت "iy" قادرة على تنشيطه.ما يُدعى منطقًا لا يفهمه البشر هو في الحقيقة الشبكة العصبية تمارس الامتداد الدلالي بمنطقها عالي الأبعاد.في هذه اللحظة سيعترض التقليديون حتمًا: إذا كانت العصبونات غير كافية حقًا، أفلا تنتقل الشبكة العصبية إلى وضع التراكب؟ ولهذا صمم Nick Cammarata تجربة ضغط قصوى. استهدف الطبقة 3b من InceptionV1. هذه الطبقة لا تملك تيارًا متبقيًا، فلا يمكن للإشارات أن تنتقل عبر طريق جانبي. قام Nick Cammarata بضغط العصبونات الـ480 التي كانت مخصصة لاكتشاف المنحنيات في هذه الطبقة إلى 10 عصبونات مباشرة، أي ضغط بمقدار 48 ضعفًا، ثم أعاد التدريب من الصفر. وفقًا لفرضية التراكب، حين تكون المساحة شحيحة بشدة، لا بد أن تحشر الشبكة العصبية سمات متنوعة غير ذات صلة في هذه العصبونات الـ10. لكن النتيجة جاءت معاكسة تمامًا. كانت هذه العصبونات الـ10 جميعها واضحة وقابلة للتفسير، وقد أصبحت ببساطة كل واحدة منها تغطي نطاقًا أوسع: عصبون "المنحنيات والحلقات" دمج من تلقاء نفسه 10 كواشف تفصيلية أصلية للمنحنيات بزوايا مختلفة؛ وعصبونان "دائريان" تولا التصنيفات الدائرية المتعددة المعقدة سابقًا. كما توصل إلى اكتشاف مقلوب: السمات التي فُككت عبر "فك التشابك" بالـSAE لم تصبح أنظف فحسب، بل أصبح عرض استجابتها أوسع بعدة أضعاف من العصبونات الأصلية.هذا يعني أن تلك السمات المتراكبة التي أُعلن عن أنها "فُككت من صندوق الشبكة الأسود" وأبهرت علماء لا حصر لهم خلال السنوات الماضية… من المحتمل جدًا أنها في جوهرها وهم رياضي صنعه أداة SAE نفسها.

04


مستخدمو الإنترنت يشككون: لا جديد تحت الشمس

بعد نشر المقال الطويل، تحول حساب Nick Cammarata على تويتر إلى ساحة أسئلة كبيرة للنتجوم. سأل أحدهم: هل ستظل هذه المنهجية قابلة للتطبيق عندما تظهر في المستقبل هياكل غير قائمة على Transformer؟ ولم يكتفِ Nick Cammarata بإجابة مؤكدة، بل أضاف أيضًاكلما كان أداء النموذج أفضل، كان داخله في الواقع أسهل في التفسير.ثلاثة هياكل تحتية مختلفة جذريًا — الشبكات العصبية الالتفافية القديمة، والالتفافية الحديثة، ونماذج Transformer المعاصرة — أثبتت بالفعل عمومية هذه النظرية. وسأل Mike Knoop، المؤسس المشارك لـ Zapier، عبر الإنترنت: هل يمكن تحويل "نقاء" الشبكات العصبية مباشرة إلى مقياس تقييم صناعي رسمي؟ وأجاب Nick Cammarata أن هذا ليس صعبًا. لقد قلل البشر في الماضي تقدير قابلية الدارات الأصلية للبحث بشكل كبير؛ وفي الحقيقة، فإن طرقًا مثل التحكم في التنشيطات، والاستئصال بقطع الوصلات، وكشف المناطق العمياء، يمكنها جميعًا إعطاء "درجة" مباشرة للنظام الأساسي في الشبكات العصبية.أما Neel Nanda، أحد المؤسسين الأساسيين لنظرية التراكب ورئيس فريق قابلية التفسير الميكانيكية في Google DeepMind، فقد صفب الماء البارد على الأمر مباشرة. قال بصراحة: "رغم أن هذا المقال مثير للاهتمام، إلا أنه لا يقدم أي اختراق جوهري لقابلية التفسير".وأشار Neel بدقة إلى أن الجانبين يتنازعان في الحقيقة حول "تراكب" مختلف. فكلمة "تراكب" لها في هذا المجال خمس أو ست تعريفات على الأقل، وأهمها اثنان: أحدهما"التراكب التعسفي"أي أن الشبكة تحشر سمات لا علاقة بينها في خلية عصبية واحدة، وهذا هو الإصدار الذي نقضه Cammarata. والآخر هو ما يدافع عنه: "التراكب التمثيلي"حيث تحتفظ النماذج اللغوية الضخمة بمعرفة تفوق عدد خلاياها العصبية بكثير، مستندة إلى عدد ضئيل من الخلايا العصبية تعبّر عن كم هائل من المفاهيم عبر تركيبات خطية. فكلا الطرفين لم يكن يستهدف الشيء ذاته أصلًا. وعلى هذا الأساس، طرح Neel انتقادات تقنية محددة من ثلاثة أبعاد.أولًا، مسألة تحديد موقع "التنشيط الضعيف".يرى Nick أن التنشيطات الضعيفة هي في معظمها فروع ثانوية لامتدادات دلالية، وقطعها لا يضر. لكن Neel يشير إلى أن تنشيطات الخلايا العصبية الضعيفة تخزن كمًا هائلًا من الحقائق وتركيبات الذاكرة، وهي بالضبط الحاملة الجوهرية للتراكب. ويؤكد Neel في الوقت نفسه أنالأدلة الأكثر صلابة في الورقة البحثية كلها تأتي من نماذج الرؤية، لكن الرؤية واللغة مختلفان جوهريًا.فالنماذج اللغوية هي حاملة للحقائق والذكريات والمعارف بكثافة معلومات أعلى بعدة رتب. أما نماذج الصور الصغيرة فقدرة ذاكنتها ضعيفة أصلًا، ولا يمكنها إثبات غياب التراكب في النماذج اللغوية الضخمة.ثم التبرير لصالح SAE (المُرمِّز التلقائي المتناثر).يوضح Neel أن SAE تظل أداة لا غنى عنها على التيار المتبقي، إذ تعكس بحساسية عنق الزجاجة المعلوماتي في كل طبقة من طبقات النموذج. المسألة ليست من يحل محل من؛ فلكلٍّ منهما سيناريوهات استخدام خاصة.ووافق Cammarata على هذه الانتقادات. وهو يعترف بأن مقاله ليس سوى "فرضية عمل"، وثمة عدة أسئلة رئيسية لم يحلها بعد:قابلية التفسير لم "تشبع" مع كبر النماذج؛ فداخل النماذج العملاقة يظل نظيفًا. أما التحديات الهندسية الأخرى التي تفرضها هذه الحجمية الفائقة فما زالت بعيدة كل البعد عن الحل الجذري. وفيما يخص التغطية، اقتصر البحث على نماذج أحادية الوسيط (الرؤية واللغة فقط)، أما نماذج الرؤية-اللغة المدمجة متعددة الوسائط، ولا سيما تنظيم الدارات في طبقات الدمج، فلم تُغطَّ إطلاقًا، ومن المرجح أن تكون مختلفة تمامًا عن قواعد النماذج الأحادية. وفي الميكانيزمات الجوهرية، لم يُتتبَّع التعميم التكراري بشكل كامل عبر عملية التدريب إلا في نماذج الصور؛ أما النماذج اللغوية فتفتقر إلى بيانات نقاط تفتيش أثناء التدريب، فلا يمكن ملاحظة عملية تعميم الخلايا العصبية خطوة بخطوة مباشرة، وإنما تُستنتج القواعد عكسيًا من الشكل النهائي فقط. وفي تحديد موقع الأدوات، لم ينكُر قط SAE بشكل كلي: أثبتت التجارب فقط أنه على الطبقات شديدة الانضغاط لا تستطيع SAE تفكيك سمات أصلية نظيفة؛ لكن على الطبقات الخام غير المنضغطة العادية تصل درجة تطابق شكل SAE مع الخلايا العصبية الأصلية إلى 0.96-1.00، فتظل أداة فعالة. وفي حدود المنهجية، تعتمد الاستنتاجات الحالية بدرجة عالية على تجارب التوجيه الانعطافي وخرائط الإسناد، وكلها في جوهرها فكرة "الاضطراب ومراقبة الأثر"؛ أما التحقق السببي الصارم دون إحداث اضطراب متعمد، في الحالة الطبيعية الخالصة، فما زال سؤالًا مفتوحًا. وحتى لو كانت مجرد فرضية عمل، فهي تضطر ممارسي أربعة اتجاهات إلى إعادة معايرة مساراتهم التقنية:
  • فرق العمل على قابلية التفسير: كفوا عن الوسوسة باستخدام SAE لإجراء جراحة فك التشابك على الشبكات. ارفعوا رؤوسكم نحو الخلايا العصبية والدارات الأصلية مباشرة، وابدأوا مراقبة روتينية سريعة.
  • فرق العمل على الأمان والمواءمة: هذا بلا شك خبر ممتاز. إذا كانت الشبكات الأصلية قابلة للقراءة بطبيعتها، فهذا يعني أن عتبة مواءمة الذكاء الفائق أقل مما كنا نتصور — ورغم أن المواءمة تظل صعبة، فإن "عتبة فهم الذكاء الاصطناعي" انهارت على الأقل.
  • فرق العمل على تصميم الهياكل: تحسينات مثل التيار المتبقي وLayerNorm التي كانت تهدف إلى جعل النموذج "يتعلم بشكل أفضل" جعلت الشبكة أكثر قابلية للقراءة بشكل غير متوقع. يمكن مستقبلًا إضافة "قابلية التفسير" بشكل رسمي وصريح إلى مقاييس البحث عن الهياكل، لأنها متوافقة تمامًا مع الأداء!
  • فرق العمل الهندسي على طبقة التطبيقات: مستقبلًا لن تكون هناك حاجة لإعادة الضبط الدقيق لتنظيم سلوك الذكاء الاصطناعي. عبر هندسة التدخل السلوكي، سينتقل مبدأ "تعديل خلية عصبية واحدة فيغيّر مباشرة سلوك النموذج في سيناريوهات قانونية/طبية محددة" من مفهوم أكاديمي إلى وظيفة منتج على خط الإنتاج!
قبل عشر سنوات، كنا ننظر إلى صور غامضة للخلايا العصبية وخلصنا إلى أن "الشبكات العصبية غير قابلة للتفسير". وبعد عشر سنوات أدركنا أن الفوضى لم تكن يومًا في الشبكة، بل في أهوائنا المسبقة. وتردد صدى "The Bitter Lesson" لـ Rich Sutton مرة أخرى:في طريق فهم الذكاء الاصطناعي، الطريق الواسع ينتهي في النهاية إلى البساطة.روابط مرجعية: https://already-clean.goodfire.com/https://x.com/NeelNanda5/status/2110875974296654062

انطلق معنا، شبكة Lei)feng (雷峰网، حسابها العام: 雷峰网) تأخذك لجولة في خلاصات أبرز مؤتمرات الذكاء الاصطناعي حول العالم

تصفح حصري متاح:

عروض PPT للخبراء

النص الكامل لتقارير المؤتمرات

شرح الأوراق البحثية الشهيرة

مقابلات مع النجوم الأكاديميين الصاعدين

امسح رمز الاستجابة السريعة أعلاه

أو انقر على «قراءة النص الأصلي» لمتابعة القسم المخصص.

مقالات أصلية من Lei新闻网، ويُمنع إعادة نشرها دون إذن. لمزيد من التفاصيل، راجعإرشادات إعادة النشر。

المصدر الأصلي

雷峰网 AI

ملاحظات المحتوى

النشر الأصلي والحقوق تعود إلى المصدر.

ترجمة آلية · يُرجى الرجوع إلى الأصل