كيف تشكّل وكلاء الذكاء الاصطناعي القرارات الحكمية للخبراء

Amaç Herdağdelen، Hailey Joren، Alex Tamkin

عندما يسلّم الخبراء عملهم إلى وكيل ذكاء اصطناعي، فإن الافتراض المعتاد هو أنهم لا يزالون يتخذون القرارات المهمة. يكتب الوكيل الشيفرة، ويجري الحسابات، ويقدّم النصائح، لكن الخبير هو من يقرر ماذا نقيس، وكيف نفسّر الأدلة الغامضة، وما الخطوات التالية ينبغي أن تكون. وكثيرًا ما يوجد أكثر من إجابة معقولة لهذه الأسئلة، ويتوقف القرار عندها على خبرة وقيم صاحب القرار.

أردنا أن نتحقق مما إذا كان الخبراء يتخذون تلك القرارات المهمة فعلًا، أم أنهم في الواقع ينسحبون لصالح وكلائهم من الذكاء الاصطناعي. في دراسة نعرضها في ورقة جديدة، طلبنا من 50 محللًا محترفًا إجراء تحليل إحصائي واقعي باستخدام Claude Code. جميعهم كانت لديهم خبرة في الاستدلال السببي، أي استنتاج ما إذا كان شيء ما يسبب آخر من البيانات. كانت مهمتهم تقديم المشورة لتعاونية زراعية حول ما إذا كانت خدمة استشارية تديرها فعالة ويجب توسيعها.

وفي أثناء ذلك، اضطر المحللون إلى إجراء أربعة اختيارات بين خيارين معقولين، مثلما إذا كانت الغلالية تُقاس كمنتاج المحصول لكل هكتار أم كنتاج لكل وحدة من تكلفة التشغيل، ثم اتخاذ قرار نهائي. ولكي نرى ما إذا كانوا يتخذون هذه القرارات بأنفسهم، أعددنا وكيل كل محلل بحيث يميل إلى خيار واحد في كل قرار، دون إخبار المحللين بذلك. وكان اتجاه ميل الوكيل يُحدَّد بقرعة عملة. وطُلب من الوكيل أن يقدّم أفضل حجة صادقة لميله، وأن يغيّر رأيه إذا اقتضت الأدلة ذلك، وألا يضلل أبدًا.

عبر الاختيارات التحليلية الأربعة، وافق المحللون على ميل وكيلهم في 86% من الحالات. وإذا لم يكن لمدخلات الوكيل أي تأثير، لتوقعنا نحو 50%. وعندما كان المحللون قد أبدوا تفضيلهم الخاص قبل تدخل الوكيل، انحرفوا عنه في 60% من الحالات إذا خالفهم الوكيل، مقارنة بـ 6% إذا وافقهم.

وبعد ذلك، عند مطالبتهم بشرح خياراتهم، استخدم 77% من المحللين حجج الوكلاء أنفسهم—أحيانًا حرفيًا—لكن 15% فقط نسبوا الفضل إلى الوكيل كمصدر لتلك الحجج. وكان المحللون الذين اتبعوا توصيات الوكلاء عن كثب واثقين من توصيتهم النهائية بقدر ثقة البقية تقريبًا، وباحتمال مماثل لأن يصفوها بأنها ثمرة حكمهم الشخصي.

لا نعرف إلى أي مدى يخبرنا هذا عن العالم الحقيقي. فالوكلاء الحقيقيون سيميلون أحيانًا إلى اتجاه أو آخر—ومع عدم تعيين أي ميل، اتخذ Claude Opus 4.8 نفس الخيارات الخمسة في 112 من أصل 123 تشغيلًا—لكن في هذه الحالة عززنا تفضيلاتهم عن قصد لقياس تأثيرها. وعندما لا يُعطى الوكلاء تفضيلات واضحة وتعليمات بالتعبير عنها، قد يكون التأثير أصغر.

هذه ليست قصة تحذيرية بسيطة ضد العمل مع الذكاء الاصطناعي. فالمحللون الذين استخدموا الوكيل أنهوا المهمة أسرع وارتكبوا أخطاءً جسيمة أقل بكثير من أولئك الذين اختاروا العمل بدونه، وإن كانت المجموعة الأخيرة صغيرة وأقل خبرة، لذا نتحفظ على الجزم بأكثر من ذلك. لكن مع تولّي الذكاء الاصطناعي المزيد من العمل اليدوي، تصبح قرارات من هذا النوع هي على نحو متزايد المكان الذي سيؤثر فيه الحكم البشري والقيم على النتيجة. وإذا تنازل الخبراء للوكلاء دون أن يدركوا ذلك، فإن تفضيلات الوكلاء—التي قد تكون اعتباطية أو غير متوافقة—قد تشكّل قرارات مهمة بشأن مقترحات سياسات أو اتجاهات بحثية دون أن يكون أحد قد اختار تلك التفضيلات. وهذا مهم بشكل خاص للبحث في الحفاظ على أمان الذكاء الاصطناعي. فقد بدأ الباحثون في استخدام الوكلاء لإجراء التجارب وتحليلها، ولن يكون المراجع البشري فحصًا مستقلًا إلا إذا كان حكمه حكمه الخاص.

تصميم الدراسة

جندنا 61 محللًا لتجربة عشوائية محكّمة. وجميعهم جاؤوا من مجموعة مفحوصة مسبقًا من المحترفين اجتازوا اختبار معرفة بالاستدلال السببي، واستخدموا لغتي البرمجة Python أو R بانتظام، وامتلكوا خبرة عملية في التحليل السببي القائم على الملاحظة، أي دراسة السبب والنتيجة باستخدام بيانات من العالم الحقيقي بدلًا من تجربة محكومة.

وُضعت المهمة في منظمة خيالية هي تعاونية Greenfields الزراعية، التي تدير برنامجًا استشاريًا (خياليًا بالقدر نفسه) طوعيًا مدفوع الأجر لمساعدة مزارع أعضائها على تحسين إنتاج المحاصيل. التحق نحو 40% من الأعضاء. وعلى مجلس إدارة التعاونية أن يقرر ما إذا كان سيدعم البرنامج ماليًا ووسّعه، أم سيوقفه. ولن يوسّع المجلس البرنامج إلا إذا حسّن إنتاجية المزارع بهامش محدد يبلغ نحو 3–4%، لكنه لا يحدد بدقة كيف ينبغي قياس الإنتاجية.

تركنا عمدًا أربعة قرارات تحليلية مفتوحة، ولكل منها خياران معقولان:

• النتيجة: هل نقيس الإنتاجية كنتاج المحصول لكل هكتار، أم كنتاج لكل وحدة من تكلفة التشغيل؟
• طريقة المقارنة: هل ننظر في كيفية تغيّر إنتاج المزارع المسجَّلة بعد الانضمام مقارنةً بتغيّر إنتاج المزارع الأخرى خلال الفترة نفسها (تصميم «الفرق في الفروق»)، أم نقارن الإنتاج مباشرة مع إجراء تسوية إحصائية للاختلافات بين المزارع؟
• المزارع التي يغطيها التقييم: هل نقيس الأثر في المزارع المسجَّلة فقط، أم في عضوية التعاونية بأكملها؟
• الترجيح: هل نحتسب كل مركز بنفس القدر، أم نمنح المنتجين الأكبر وزنًا أكبر؟

قادت هذه الاختيارات الأربعة إلى توصية نهائية: هل يُوسَّع البرنامج ليشمل الجميع، أم يُوقف. ويمكن للمحللين والوكلاء أيضًا اقتراح تمديد لمدة عام واحد.

يمكن أن يحرّك كل من القرارات التحليلية المكسب الإنتاجي المقدَّر بنقاط مئوية عديدة، وهو أمر مهم عندما تكون عتبة مجلس الإدارة 3–4%.

لكل من القرارات الخمسة المعروضة على كل محلل، تم تحديد ميل الوكيل عن طريق قرعة عملة. أعطينا الوكيل ميوله في تعليمات خفية (system prompt) طلبت منه أن يعتبر كل ميل رأيه الخاص، وأن يثيره عند طرح القرار، وأن يقدّم أقوى حجة ممكنة له بقدر ما تسمح به البيانات. ونفس التعليمات أخبرته أنه يغيّر رأيه إذا دارت الأدلة بشكل حاسم ضده، وألا يُسيء تمثيل النتائج أو يخفي البيانات أو يقدّم حجة لا تدعمها الأرقام أبدًا.

من بين 61 مشاركًا، اختار 11 عدم استخدام الوكيل ويُستثنون من التحليل ما لم يُذكر خلاف ذلك. ومن بين الـ50 المتبقين، كان 65% يحملون درجة ماجستير أو دكتوراه أو لديهم ست سنوات من الخبرة أو أكثر، وقيّم 90% أنفسهم بأنهم متمرسون أو خبراء في الاستدلال السببي الرصدي (من بين 48 أجابوا على الاستبيان). كان الوسيط لوقت المهمة 65 دقيقة، وأخذ نصف المحللين ما بين 50 و79 دقيقة. عملوا في نسخة ويب من محرر VS Code مع Claude Code مدمج فيه، يشغّل Claude Opus 4.8 بجهد High.

عند انتهائهم، قدّم المحللون اختياراتهم التحليلية الأربعة وتوصيتهم النهائية إلى جانب تقدير لتأثير البرنامج على الإنتاجية، مع فترة ثقة. ثم أكملوا استبيانًا بعد المهمة. قرأ نموذج ذكاء اصطناعي منفصل كل تقديم وشيفرته لتسجيل الخيار الذي اختاره المحلل في كل قرار. وعندما اختلفت قراءته مع إجابة المحلل نفسه في الاستبيان، اتخذنا القرار النهائي.

النتائج

المحللون اتّبعوا في معظمهم ميل وكلائهم. في كل من القرارات التحليلية الأربعة، تطابقت اختيارات المحللين مع ميل وكلائهم في الغالبية الساحقة من الأحيان: 92% لمقياس النتيجة، و82% لطريقة المقارنة، و81% للقرارات المتعلقة بالمزارع التي غطاها التقدير، و90% للترجيح. وعند دمج القرارات الأربعة جميعًا، كانت النتيجة 86%. يوضح الشكل 2 مقدار ما أحدثه ميل الوكلاء من تحوّل في اختيارات المحللين بشأن كل قرار، بما في ذلك التوصية النهائية.

كان لميل الوكلاء تأثير أضعف على التوصية النهائية، لكن مدخلاته السابقة شكّلت النتيجة مع ذلك. عندما مال الوكيل نحو توسيع البرنامج، أوصى به 54% من المحللين، مقارنة بـ36% عندما مال في الاتجاه المعاكس. (يُحتسب التمديد لمدة عام واحد على أنه عدم توسيع البرنامج.) نعتقد أن التأثير كان أضعف لأنه، بمجرد حصول المحللين على تقديرهم، كانت التوصية تتبع في معظمها ما إذا كان التقدير يتجاوز عتبة مجلس الإدارة البالغة 3–4%، وهو ما ترك مجالًا أقل للتقدير الشخصي. لكن بحلول ذلك الوقت، كان ميل الوكيل بشأن القرارات التحليلية قد شكّل التقدير نفسه أصلًا. وباستخدام تلك الميول الأربعة فقط، تنبأ نموذج إحصائي بشكل صحيح بـ82% من توصيات المحللين، مقارنة بـ61% للتخمين الدائم بالتوصية الأكثر شيوعًا. (هذا يستبعد المحللين الذين اقترحوا تمديدًا.) إذن كنا قادرين في معظم الأحيان على التنبؤ بما سيوصي به المحلل من قرع العملات وحدها، قبل أن يبدأوا المهمة حتى.

المحللون الذين كانوا قد اختاروا خيارًا ما غالبًا ما غيّروا رأيهم عندما خالفهم وكيلهم. في 38 حالة، كان المحلل قد عبّر عن تفضيله بشأن أحد القرارات التحليلية قبل أن يعبّر الوكيل عن ميوله. وعندما ذهب الميل عكس اختيارهم، غيّروا رأيهم 60% من المرات، مقارنة بـ6% عندما كان الميل موافقًا لاختيارهم. تلك فجوة قدرها 54 نقطة مئوية، لكن لأن هذا يستند إلى 38 حالة فقط، فإن التقدير غير دقيق، وتمتد فترة الثقة 95% من 24 إلى 82 نقطة مئوية. كما لا يمكننا التأكد من أن الفارق ناتج عن تأثير الذكاء الاصطناعي: قد يكون المحللون الذين عبّروا عن تفضيل مختلفين بشكل منهجي بطريقة ما عن أولئك الذين لم يفعلوا.

الخبرة والخبرة التخصصية لم تتنبأ بمن كان يستجيب للوكيل. في تحليل استكشافي، تحققنا مما إذا كانت أي من 10 خصائص تتنبأ بمدى تكرار تبعية قرارات المحللين لميل وكلائهم: سنوات الخبرة، والخبرة الذاتية المُقيَّمة في الاستدلال السببي، والتعليم، والدرجة في اختبار استدلال سببي، والثقة في الذكاء الاصطناعي، ومدى تكرار استخدامهم للذكاء الاصطناعي، و"الحاجة للتفكير" (مقياس لمدى استمتاع الناس بالتفكير النشط)، والانفتاح الذهني، والجنس، والعمر. لم يُظهر سوى العمر ارتباطًا ذا دلالة إحصائية، إذ اتبع المحللون الأكبر سنًا الميل بتكرار أكبر. لكننا لا نقرأ الكثير في ذلك: إذا اختبرت أشياء كثيرة مختلفة، فمن المرجح أكثر أن تحصل على نتيجة إيجابية واحدة بالمصادفة فقط، وعندما عدّلنا لذلك اختفت النتيجة. ولأن معظم المحللين اتبعوا وكيلهم في معظم القرارات، لم يكن هناك سوى قدر ضئيل من التباين لتفسيره، لذا كان من الصعب رصد الاختلافات الحقيقية حتى.

المحللون الذين اتبعوا ميل وكيلهم ما زالوا يعتبرون التوصية قرارًا خاصًا بهم. في استبيان ما بعد المهمة، قيّم 52% من المحللين التوصية النهائية على أنها أكثر ملكًا لهم منها لوكيلهم. وقال الباقون إنها توصية الوكيل أكثر. لكن كلا المجموعتين تأثرتا بشكل متقارب من وكلائهما: انحرفت اختيارات الأولى بنحو 65 نقطة مئوية نحو ميل وكلائهم في المتوسط، مقارنة بـ79 نقطة مئوية للأخيرة، وهو فارق ضمن هامش الخطأ. وأظهرت ثقة المحللين في توصيتهم الخاصة نمطًا مشابهًا. طُلب منهم تقييم ثقتهم من 0 ("إنها قرعة عملة") إلى 100 ("أراهن على سمعتي المهنية بذلك"). أولئك الذين اتبعوا الميل في القرارات التحليلية الأربعة جميعًا بلغ متوسطهم 71، مقارنة بـ73 للبقية.

شرح المحللون خياراتهم بكلمات وكيلهم. بعد المهمة، سأل الاستبيان عن كل قرار: «باختصار، لماذا هذا الخيار بدلاً من البديل؟ إذا لم يكن خيارًا واعيًا، قل ذلك فقط.» لم يستطع المحللون الرجوع إلى محادثاتهم مع الوكيل أثناء الإجابة. ومع ذلك، كرّر 77% حجة وكيلهم في إجابة واحدة على الأقل، أحيانًا حرفيًا، ونسب الفضل للوكيل 15% فقط في أي موضع.

عندما سُئلوا صراحةً عمّا كان الدراسة تدور حوله، خمّن ستة من أصل 48 بشكل صحيح أنها تتأثير الذكاء الاصطناعي في خياراتهم، لكن أحدًا لم يشك في أن تفضيلات الذكاء الاصطناعي نفسها قد تم التلاعب بها.

المحللون الذين عملوا بدون ذكاء اصطناعي ارتكبوا أخطاء أكثر خطورة واستغرقوا وقتًا أطول. من بين 11 مشاركًا اختاروا عدم استخدام الوكيل، ارتكب ستة (55%) أخطاء منهجية خطيرة أبطلت نتائجهم، مقارنة بثلاثة من أصل 50 (6%) استخدموه. أشار نموذجا ذكاء اصطناعي إلى الأخطاء، وتحقق أحد مؤلفي الدراسة من كل خطأ دون معرفة المجموعة التي ينتمي إليها المحلل. كما استغرق المحللون الذين عملوا دون وكيل وقتًا أطول، بواسطة زمني قدره 90 دقيقة، مقارنة بـ 65 للآخرين.

لم تكن المجموعتان قابلتين للمقارنة المباشرة، لذا لا يمكننا التأكد مما إذا كانت النتائج المختلفة قد نتجت عن قرار استخدام الذكاء الاصطناعي أو عدم استخدامه. كان من عملوا بدون ذكاء اصطناعي أقل خبرة في المتوسط: عدد أقل منهم كان يحمل درجة الماجستير أو الدكتوراه (أربعة من 11، مقارنة بـ 24 من 46 ممن استخدموا الوكيل)، وعدد أكبر منهم كان لديه سنتان أو أقل في أدوار التحليل (ستة من 11، مقارنة بـ 15 من 48)، وعدد أقل قيّم نفسه بأنه متمكن أو خبير في الاستدلال السببي (ثمانية من 11، مقارنة بـ 43 من 48).

قيود دراستنا

• عزّزنا عن قصد ميل الوكلاء. جعلتنا تعليماتنا الوكيل يتمسك بتفضيل والتعبير عنه بشكل ثابت، حتى نتمكن من قياس أثره. المعدلات التي نذكرها توضح ما يحدث عندما يميل وكيل في اتجاه ما ويقول ذلك، لكن مدى انطباق ذلك على العمل في العالم الواقعي سيعتمد على قوة آراء الخبير الخاصة، ووضوح تحديد القرارات المعنية، وسلوك النموذج، بما في ذلك ما إذا كان لديه تفضيل وما إذا كان يبادره من تلقاء نفسه.
• درسنا مهمة واحدة، في مجال واحد، وبنموذج واحد. استغرقت المهمة نحو ساعة، وكانت خاصة بالزراعة، وعمل الوكيل على Claude Opus 4.8. كان المحللون خبراء في الاستدلال السببي لكنهم جدد في مجال الزراعة. في العمل الواقعي، سيكونون أكثر دراية بالمجال، وغالبًا ما تكون لديهم آراء خاصة أقوى. ويمكنهم أيضًا إجراء مقابلات مع الأشخاص المعنيين، والتحدث إلى مجلس الإدارة، وتضييق الخيارات المعقولة بطرق أخرى، مما قد يقلل من تأثير الوكيل.
• تقديراتنا هي متوسطات عبر المحللين. نظرًا لأن رميات العملة اختلفت بين المحللين، فإن مقارنة المحللين الذين مال وكلاؤهم في اتجاهين متعاكسين تخبرنا عن الأثر المتوسط للميل. لم نسجّل رأي كل مشارك الخاص قبل أن يعبر الوكيل عن ميوله، لذا لا يمكننا القول بكم تأثر أي مشارك بعينه.
• سجّلنا الخيار الذي اختاره المحللون، لكن ليس مدى تفضيلهم له. أحد التفسيرات المحتملة للموافقة على التوصية هو أن الخبير لم تكن لديه آراء قوية خاصة به. قِسنا فقط ما إذا كانت خيارات المحللين قد تحولت، وليس مدى ثقتهم في خيارهم.

ماذا يعني هذا

أحد أسباب استعداد المحللين للانصياع بسهولة قد يكون أن الخبراء لا يأتون دائمًا بآرائهم مكتملة التصور. فهم غالبًا يستنتجون، أو حتى يكتشفون، ما يفكرون فيه أثناء وزن الخيارات. قيل للوكلاء في دراستنا ألا يضللوا، وكثيرًا ما كانوا منفتحين بشأن كيفية تغير النتائج في ظل كل خيار. لكن نادرًا ما قدموا حجة قوية لسبب تفضيل الخبير للخيار الآخر، وهو ما كان قد يساعد المحللين على اتخاذ خيار أكثر استنارة. ووجود طرف واحد فقط يجاد بحجته، يمكن للمحللين تبنّي افتراضات الوكيل دون استخراج افتراضاتهم الخاصة.

بالنسبة للخبراء الأفراد، قد يعني هذا فقدان الإشراف على عملهم الخاص، وهو شكل مما يسميه الباحثون سلب التمكين. ما زال العمل يُنشر باسم الخبير، لكن القرارات التي تعتمد في معظمها على حكمه يُحسمها في الواقع المعتقدات السابقة للوكيل.

لكن الرهانات تمتد إلى ما هو أبعد من الأفراد، لأن جزءًا كبيرًا من العلم والسياسات يستند إلى أحكام من هذا النوع. عندما تصل فرق بحثية منفصلة إلى النتيجة نفسها، نثق بها أكثر، لأننا نفترض أن كل فريق وصل إليها بشكل مستقل. إذا انصاعت تلك الفرق جميعها إلى نماذج لها التفضيلات نفسها، فإن اتفاقها قد لا يبقى مستقلًا. قد يعكس الإجماع الظاهري تفضيلات نموذج واحد، وإذا كانت تلك التفضيلات اعتباطية أو غير متوائمة، فإن الانحياز نفسه سيشكّل نتائج كثيرة في آن واحد.

تنطبق المشكلة نفسها على أبحاث سلامة الذكاء الاصطناعي. فقد بدأ الباحثون في استخدام وكلاء الذكاء الاصطناعي لتشغيل التجارب وتحليلها، ويرجع ذلك جزئياً إلى أن هناك عملاً أكثر مما يستطيع الموظفون البشريون مواكبته. إن إبقاء الإنسان في الحلقة يفترض أن حكم الإنسان يوفر فحصاً مستقلاً. لكن في دراستنا، اعتمد المحللون على أعمال استقرت فيها القرارات التقديرية إلى حد كبير وفق التفضيلات المُعيَّنة عشوائياً للوكيل. أما الورقة الكاملة فتُظهر أيضاً أن الوكلاء الذين ليس لديهم انحياز مُعيَّن لهم يمتلكون تفضيلات أضعف خاصة بهم، وأحياناً يعترضون على المستخدمين.

من الصعب اكتشاف هذا النوع من التخلي عن القرار. فالتحقق من الأعمال المدعومة بالذكاء الاصطناعي بحثاً عن أخطاء، أو مقارنتها بإجابة مرجعية، يفترض وجود إجابة صحيحة. لكن حيث لا توجد إجابة صحيحة، كما في القرارات التقديرية، يمكن أن تبدو العمل سليمة أيهما كان الخيار المختار. وقد لا يساعد سؤال الخبراء لاحقاً أيضاً، لأنهم قد لا يلاحظون تأثير الوكيل.

هذه ليست حجة لاستخدام الذكاء الاصطناعي بشكل أقل. فالمستخدم بشكل جيد، يمكن للذكاء الاصطناعي أن يوسّع قدرة الناس على الفعل بدلاً من تآكلها. نقترح ثلاثة مجالات للدراسة المستقبلية:

قياس التخلي عن القرار. تمكنا من قياس التخلي عن القرار في دراستنا لأننا عيّنّا انحياز الوكيل عشوائياً، وهو أمر نادراً ما يكون ممكناً في العمل الحقيقي، وتشير نتائجنا إلى أن الناس قد لا يتمكنون من الإبلاغ عنه بدقة بأنفسهم. نحتاج إلى طرق لقياسه في البيئات اليومية، و عملاً حديثاً يقدّر كيف كان سيقوم شخص ما بمهمة ما دون الذكاء الاصطناعي يمثل بداية جيدة. نحتاج أيضاً إلى صورة أفضل عن التفضيلات الافتراضية للنماذج وكيفية التعبير عنها، حتى يتمكن الناس من التعامل مع النماذج بطريقة أكثر وعياً.

تصميم الوكلاء بطريقة مختلفة. يمكن للوكلاء أن يقدّموا أقوى حجة لكل خيار، أو أن يسألوا الخبراء عن رأيهم الخاص قبل تقديم رأي. لكن هذا قد يصبح سريعاً مرهقاً للمستخدمين. فالتحليل الواحد قد يتضمن قرارات مفتوحة عديدة، والكثير من قيمة الذكاء الاصطناعي يكمن في ألا يضطر الناس للتفكير في كل واحدة منها. سيحتاج الوكلاء إلى إبراز القرارات الأكثر أهمية فقط، لكن اختيار تلك القرارات هو في حد ذاته قرار تقديري. من المرجح أن طريقة تحدث النموذج لها أهمية أيضاً، بما أن الثقة والطلاقة يمكن أن تؤثرا في الناس. فالنموذج الذي يبدو واثقاً من نفسه جداً قد يميل الناس أكثر مما ينبغي، لكن النموذج المتردد سيستفز فقط الأشخاص الذين يحاولون استخدامه.

تغيير المؤسسات. غالباً ما تعامل المؤسسات موافقة الخبير كدليل على حكم مستقل. ومع قيام الذكاء الاصطناعي بجزء أكبر من العمل، يصبح هذا الافتراض أكثر تزعزعاً. ستحتاج المنظمات إلى أن تقرر بشكل متعمد أي القرارات تتطلب حكم الإنسان المستنير الخاص به، وأن تمنح الناس الوقت والموارد لتكوين هذا الحكم. ويعتمد الحكم أيضاً على المهارة، وقد يفقد الأشخاص الذين يتوقفون عن اتخاذ هذه القرارات القدرة على اتخاذها. ومع ازدياد قدرات النماذج، ستحتاج المؤسسات إلى استراتيجية صريحة لإرساء دور البشر و تطوير مهاراتهم. وحتى مع وجود أنظمة ذكاء اصطناعي عالية القدرة للغاية، قد ترغب المؤسسات في حماية المهارات البشرية والرقابة البشرية لأسباب تتعلق بالسلامة أو المرونة، أو لأنها تقدّرها لذاتها.

قد لا توجد تقسيمة صحيحة واحدة لتقسيم العمل بين البشر والذكاء الاصطناعي. فبعض القرارات قد يكون من الجيد تسليمها، وأخرى تستحق البقاء. وبالأدوات المناسبة، يمكن أن يكون هذا الانقسام شيئاً نختاره، بدلاً من أن ننجرّ إليه.

المؤلفون والشكر

شكر وتقدير

قاد هذا المشروع Amaç Herdağdelen و Hailey Joren و Alex Tamkin. وقد قدم توم تشيفرز وأرجون بانيكسيري الدعم التحريري لهذه التدوينة.

ودود أن نشكر Joe Benton و Mojmir Stehlik و Avery Griffin على جعل هذا المشروع ممكناً من خلال برنامج زملاء Anthropic. ونود أيضاً أن نشكر Matthew Jörke و Onur Altındağ و Vishakh Padmakumar على ملاحظاتهم حول تصميم التجارب.

الاقتباس

@misc{herdagdelen2026judgmentcalls,
  author = {Herdağdelen, Amaç and Joren, Hailey and Tamkin, Alex},
  title = {How AI agents shape experts’ judgment calls},
  year = {2026},
  howpublished = {Anthropic Research},
  url = {https://www.anthropic.com/research/agents-judgment-calls}
}