أصدر باحثون من PhAI Labs وجامعة الصين هونغ كونغ وفودان وستانفورد وأكسفورد وبرينستون JEPA-Anything، وهو إطار مستقل عن المجال لبناء نماذج العالم. وبدلاً من تصميم نموذج تنبؤي جديد لكل مجال، يطبق وصفة تعلم مشتركة واحدة على أنظمة مختلفة جداً. وهو يوسع معماريات التنبؤ بالتضمين المشترك (JEPAs) بطريقة تسمى العوملة التنبؤية المتعامدة (OPF). اختبر فريق البحث هذا النهج عبر 7 مجالات: الرؤية، والأحياء، والمسارات السريرية، والتحكم، وديناميكا الجزيئات، والحقول الفيزيائية، والطقس.
ما المشكلة التي تحلها JEPA-Anything؟
يستخدم نموذج JEPA القياسي، مثل I-JEPA أو V-JEPA 2، مُرمّزاً للسياق ومُرمّزاً هدفاً بطريقة EMA ومُنبئاً واحداً. يخرج المُنبئ تضميناً هدفاً واحداً مونوليثياً. يسمي فريق البحث هذا مشكلة تخصيص السعة: الهيكل عالي التباين يهيمن، وتحصل الأنماط الأضعف على تدرجات متعارضة.
كيف تعمل العوملة التنبؤية المتعامدة؟
تقسم OPF الهدف الكامن ذا العرض d إلى K فضاءات فرعية متعلمة عرض كل منها r، بحيث d = K × r. تستخدم معظم التجارب K = 4. يحصل كل عامل على مُنبئ مخصص له. ثم يُعاد دمج تنبؤات العوامل عبر المرافق الكاذبة لمور-Penrose ل مصفوفة الإسقاط. والنتيجة هي 1 حالة كامنة كاملة لفك الترميز أو التخطيط أو التمديد.
ثلاثة مُنظّمات تحافظ على فائدة العوامل:
- خسارة التعامد: تحافظ على أعمدة كل مصفوفة إسقاط متعامدة موحدة الطول وعلى عدم تداخل الفضاءات الفرعية للمصفوفات المختلفة.
- خسارة نشاط العامل: دالة hinge على الانحراف المعياري لكل إحداثي حتى لا يموت أي عامل.
- خسارة تباين المُرمّز: يرسل إشارة مباشرة مضادة للانهيار إلى المُرمِّز المتصل بالإنترنت.
تُضاف خسارة OPF ببساطة إلى خسارة التدريب الأصلية لكل نطاق. تتولى محولات النطاق عملية الترميز والمُرمِّزات، بينما تعرض المكتبة الأساسية النواة المشتركة على هيئة OrthogonalFactorProjection.
الأورثوغونالية مهمة لتوليد مستقر. على CITRIS Interventional Pong، كان لدى نموذج متعدد الرؤوس غير مقيَّد ومطابق في السعة رقم شرط بلغ 438.52. وبلغت النسخة الأورثوغونالية 1.00005، مع تداخل شبه صفري بين العوامل.
ما النتائج التي يذكرها البحث؟
المجموعة الأولى، القراءة الطرفية: على بيانات الخلايا المفردة، ارتفعت عنقدة PBMC بدون تدريب (AvgBIO) إلى 0.7752 مقارنة بـ 0.7194 لـ Cell-JEPA. ارتفع معامل بيرسون للاختراق في Norman من 0.787 إلى 0.814. وفي التنبؤ على مدى 1,000 حدث سريري على بيانات UK Biobank، كان متوسط PRAUC هو 0.718 مقابل 0.711 لـ JEPA القياسي المطابق.
المجموعة الثانية، ديناميكيات العالم الكامنة: على Interventional Pong، انخفض متوسط مربع الخطأ (MSE) للتدخل المفرد بنسبة 34.83%. وتحسنت التدخلات المركبة غير المرئية بنسبة 12.90%، وتحسنت المتابعة الحرة ذات 6 خطوات بنسبة 8.58%. حسَّن JEPA-Anything المقاييس المُبلَّغ عنها في جميع مهام الديناميكيات الـ 10 المطابقة. تشمل المعايير القياسية CausalWorld، وDeepMind Control، و PDEBench و WeatherBench2. على APEBench لمعادلة Burgers، انخفض خطأ المتابعة ذات 6 خطوات بنحو 44.7%، مع تحسّن في كل بذرة على حدة. وفي عمليات المتابعة الجزيئية ذات 100 خطوة باستخدام هيكل عظمي على طراز TrajCast، سجَّل أدنى قيم للخطأ المتوسط المطلق (MAE) وRMSD على الماء والكوارتز والباراسيتامول والبنزين.
نتائج التخطيط مختلطة. مع تطابق المعاملات ضمن 0.3%، حسَّن JEPA-Anything عائد CEM على Walker2d وHalfCheetah، بينما فضَّل Hopper معيار JEPA القياسي.
المجموعة الثالثة، التحليل العلمي: رشَّح تحليل العوامل IL-18 مع حصار CD73 كتدخل علاجي للسرطان. وقد دعمت الاختبارات المخبرية ذلك في الزراعات المشتركة، والعضيات المشتقة من المرضى، وشرائح الأورام، والفئران. كما استعادت الأنماط المدارية الكامنة قانون كبلر بميل مُوائم بلغ −1.4991 مقابل القيمة النظرية −1.5.
كيف يقارن JEPA-Anything بنماذج العالم الأخرى؟
| الخاصية | JEPA-Anything | V-JEPA 2 | DINO-WM | DreamerV3 | TD-MPC2 |
|---|---|---|---|---|---|
| الفكرة الأساسية | JEPA مع 7 عوامل تنبؤية متعامدة | فيديو JEPA بالإضافة إلى V-JEPA 2-AC المشروط بالأفعال | نموذج عالمي على سمات بصرية مسبقة التدريب | نموذج عالمي بالإضافة إلى actor-critic مدرَّب في الخيال | ديناميكيات كامنة بدون فك ترميز بالإضافة إلى MPC |
| هيكل الهدف | مُتحلَّل، يُعاد تركيبه عبر المرافق الكاذب (pseudoinverse) | هدف كامن واحد | هدف كامن واحد | حالات كامنة فئوية | حالة كامنة واحدة |
| المجالات المعروضة | 7: الرؤية، الخلايا، السريرية، التحكم، الجزيئات، المعادلات التفاضلية الجزئية (PDEs)، الطقس | فهم الفيديو، التلاعب بالروبوت | PointMaze، PushT، Wall، الأجسام القابلة للتشوه | مجالات تعلم معزز متنوعة، بمعاملات فائقة ثابتة | 104 مهام تحكم مستمر، 4 مجالات |
| التخطيط / المحاكاة التقدمية | محاكاة كامنة، تخطيط CEM | التخطيط من أهداف صورية | تخطيط CEM | سياسة مستمدة من محاكاة متخيَّلة | تخطيط MPC |
| نقاط التحقق العامة | نقاط تحقق بحثية لكل مجال على HF | نعم، 300M إلى 1B (V-JEPA 2) | PointMaze، PushT، Wall | غير مذكورة في المستودع | أكثر من 300 نقطة تحقق، تصل إلى 317M |
| الترخيص | Apache-2.0 | MIT (بعض الملفات Apache-2.0) | MIT | MIT | MIT |
المصادر: ملف README الخاص بكل مشروع على GitHub، والمُرتبط في صف العنوان. حالة نقاط تفتيش JEPA-Anything مأخوذة من بطاقة Hugging Faceالخاصة به. تم التحقق في 5 أكتوبر 2026.
أهم النقاط
- يُقسّم OPF هدف JEPA الـ1 إلى K عوامل متعامدة مع متنبئات مخصصة لكل عامل.
- لقد تفوّق على نماذج JEPA المرجعية المكافئة في جميع مهام الديناميكا الـ10.
- انخفض خطأ التدخل الواحد في Interventional Pong بنسبة 34.83%.
- مكاسب التخطيط تعتمد على البيئة؛ فقد فضّلت بيئة Hopper نموذج JEPA القياسي.
- الكود الأساسي مرخّص بموجب Apache-2.0؛ بينما نقاط التفتيش البحثية موجودة على Hugging Face.
اطّلع على الورقة البحثية, ومستودع GitHub و نقاط تفتيش النموذج. كل الفضل يعود إلى باحث هذا المشروع. كما لا تترددوا في متابعتنا على تويتر ولا تنسوا الانضمام إلى مجموعة ML الفرعية التي تضم أكثر من 150k عضو والاشتراك في نشرتنا البريدية. مهلًا! هل أنت على تيليجرام؟ يمكنك الآن الانضمام إلينا على تيليجرام أيضًا.
هل ترغب في الشراكة معنا للترويج لمستودع GitHub الخاص بك أو صفحتك على Hugging Face أو إطلاق منتجك أو ندوتك عبر الويب وغير ذلك؟ تواصل معنا
ظهر المقال ما وراء نماذج العالم الخاصة بمجال معيّن: يستخدم JEPA-Anything وصفة الـ1 لـ7 مجالات أول مرة على MarkTechPost.