إعلان عن GLM 5.3 على Amazon Bedrock

تتطلب عمليات الترميز والأعمال العمودية من نماذج الذكاء الاصطناعي المزيد من الجهد منها في أي وقت مضى: إعادة تنظيم مستودع يضم مئات الملفات، الحفاظ على عملية عمل عميقة تستغرق ساعات متعددة دون فقدان السياق، والتفكير في مشاكل الأنظمة المعقدة باستخدام الأدوات في كل خطوة. ومن الناحية التاريخية، يعني تلبية هذه المتطلبات باستخدام نماذج ذات وزن مفتوح توفير وتشغيل بنية تحتية خاصة للاستنتاج.

GLM 5.3 من Z.ai (Zhipu AI) متاح الآن على Amazon Bedrock. GLM 5.3، كما تم نشره على Hugging Face Hub، هو نموذج مختلط من الخبراء بعدد 753B للبارامترات، تم تطويره لتحسين الكتابة وأعمال الوكيل على المدى الطويل. وبشكل خاص، أفاد Z.ai أن النموذج يظهر قدرات ملحوظة في الأمن السيبراني. على Amazon Bedrock، يمكنك الآن استخدامه من خلال واجهات برمجة التطبيقات المُدارة بالكامل مع الاستدلال عبر المناطق المختلفة، وتخزين الطلبات، وفئات الخدمات المختلفة. لا يتعين عليك إدارة أي البنية التحتية. يمكن لعملاء الشركات المؤهلين الوصول إلى GLM 5.3 على Bedrock.

في هذه المقالة، نوضح لكم كيفية تشغيل GLM 5.3 على Amazon Bedrock باستخدام واجهات برمجة التطبيقات المتوافقة مع OpenAI، وكيفية تقليل التكاليف والزمن اللازم للتشغيل من خلال تخزين الطلبات. ثم نعمل على تطبيق النموذج في عملية عملية وظيفية واقعية: إجراء اختبار أمني مصرح له لبرنامجك الخاص باستخدام Strix، وهو عامل اختبار تدخلات الذكاء الاصطناعي مفتوح المصدر.

ما هو الجديد مقارنة بـ GLM 5

وصلت جهاز GLM 5 إلى Amazon Bedrock في وقت سابق من هذا العام. جهاز GLM 5.3 يعتمد على نفس السلسلة، مع مجموعة من التحسينات المهمة:

• برمجة أقوى: Z.ai تدعي أنها تقدم أداءً تنافسيًا في مجموعة من اختبارات البرمجة، من بينها DeepSWE وTerminal Bench 3.0 وFrontierSWE. كما أفادت بتحسين بنسبة 50% مقارنة ب GLM 5.2 في اختبار برمجة داخلي خاص بها. لم يتم الإبلاغ عن مقارنات مباشرة مع GLM 5، لأن حجم التحسينات الكبير أدى إلى تحديث اختبارات الاختبار نفسه منذ إعلان GLM 5.1.
• القدرات الأمنية السيبرانية الناشئة: تُبرز أداءات الاختبارات المتعلقة بمهام الأمان، مما يجعل النموذج مناسبًا بشكل طبيعي لعمليات الأمان الدفاعي. على سبيل المثال، قام Z.ai قياس نتيجة ممتازة بلغت 84.5 على اختبار CyberGym عند الإصدار.
• تكامل أوسع مع Amazon Bedrock: ملفات الاستدلال عبر المناطق، التخزين المؤقت للتعليمات الصريحة والضمنية، وتحسين توازن الخصائص لواجهات API Responses وChat Completions المتوافقة مع OpenAI إلى جانب Invoke وConverse.

القدرات الرئيسية

• برمجة الحدود وأداء الوكيلات.GLM 5.3 مصمم لهندسة الأنظمة المعقدة والمهام التي تتطلب وكيلات على المدى الطويل. وتشمل هذه المهام التفكير متعدد الخطوات، عمليات العمل المُعززة بأدوات، والسياق المستمر عبر قواعد كود كبيرة.
• وصول مرن إلى واجهة التطبيق. يمكنك استدعاء GLM 5.3 من خلال واجهات API Responses وChat Completions المتوافقة مع OpenAI، أو من خلال واجهات API Amazon Bedrock Invoke وConverse.
• تخزين كاش يدوي. يدعم GLM 5.3 تخزين الكاش اليدوي بشكل افتراضي، بالإضافة إلى تحكمات واضحة في التخزين (مُوصى بها) عبر واجهات برمجة الأنظمة Responses وChat Completions. بالنسبة للأعمال التي تتطلب إعادة إرسال نصوص النظام الكبيرة أو سياق المستودع في كل جولة، فإن التخزين يقلل من التأخير وتكلفة الإدخال.
• الاستدلال بين المناطق المختلفة. الـ GLM 5.3 متاح من خلال الاستدلال عبر المناطق الأمريكية المختلفةus.zai.glm-5.3) والاستدلال عبر المناطق العالمية (global.zai.glm-5.3) الملفات. تُرسل طلباتك إلى منطقة AWS “المصدر” التي تختارها، ويقوم Amazon Bedrock بتوجيه كل طلب بشكل آمن لمعالجته. راجع دليل المستخدم لـ Amazon Bedrock للمزيد من التفاصيل.
• فئات الخدمة. اختر Flex لتحسين التكلفة لأعمال العملاء التي تتطلب وقتًا قليلًا، أو Priority لتعظيم طلبات الطلبات التي تتطلب استجابة سريعة مقابل سعر أعلى، أو Standard للتوازن الافتراضي بين السعر والسرعة.

متطلبات الاشتراك

لأمثلة الاستخدام التالية، تحتاج إلى:

1. حساب AWS مع إمكانية الوصول إلى Amazon Bedrock.
2. إدارة الهوية والوصول في AWS (IAM) الصلاحيات لاستدعاء النموذج الأساسي وملف التخمين الهدف: bedrock:InvokeModel، bedrock:InvokeModelWithResponseStream، و bedrock:CallWithBearerToken.
3. (للمحاضرات القائمة على الكود) Python 3.10 أو أحدث.
4. (لأغراض العرض التوضيحي للاختبار الأمني الاختياري فقط) قم بتثبيت Docker وStrix مع الإضافة bedrock.

جرب GLM 5.3 على جهاز Amazon Bedrock

يمكنك البدء في إرسال التعليمات إلى GLM 5.3 من خلال واجهة إدارة AWS، دون الحاجة إلى كتابة كود أو تثبيت أدوات المطورين. للبدء، انتقل إلى Amazon Bedrock، ثم اختر Test > Playground من قائمة الجانب الأيسر.

من واجهة اللعبة هذه، يمكنك اختيار GLM 5.3 من قائمة النماذج، ثم إرسال أوامرك الأولي من خلال واجهة الدردشة، كما هو موضح في الصورة الشاشة التالية:

الشكل 1: التحدث مع GLM 5.3 على لوحة تحكم Amazon Bedrock

ابدأ باستخدام واجهة برمجة التطبيقات لخدمات الاستجابات

بشكل برمجي، يمكنك استدعاء النموذج من خلال نقطة النهاية bedrock-runtime. يدعم ذلك كلا من واجهات برمجة التطبيقات Responses والواجهة Chat Completions المتوافقة مع OpenAI، بالإضافة إلى واجهات برمجة التطبيقات Amazon Bedrock Invoke والواجهة Converse لـ GLM 5.3. بالنسبة للتطبيقات الجديدة، يُنصح باستخدام واجهات برمجة التطبيقات المتوافقة مع OpenAI، حيث تدعم هذه الواجهات مجموعة أكثر شمولاً من الميزات.

يدعم Amazon Bedrock توليد مفاتيح API للتكاملات المتوافقة مع OpenAI التي تحتاجها. ومع ذلك، نوصي بشدة باستخدام بطاقات الاعتماد قصيرة المدة بدلاً من مفاتيح API طويلة المدة عند الإمكان.

في المثال التالي، سنستخدم واجهة برمجة التطبيقات من API Responses باستخدام منصة OpenAI للبرمجة باللغة Python، وال مولد توكينات aws-bedrock-token مكتبة لإنشاء توقيعات قصيرة الأمد من المعايير الخاصة بك مفاتيح واجهة سطر الأوامر لـ AWS (AWS CLI).

1. قم بتثبيت الحزم المطلوبة.

   pip install -U openai aws-bedrock-token-generator

2. قم بتحميل الكود التالي كائنًا باسم bedrock-request.py.

   from aws_bedrock_token_generator import provide_token
   from openai import OpenAI
   
   region = "us-west-2"  # Your source AWS Region
   
   client = OpenAI(
       api_key=provide_token(region=region),
       base_url=f"https://bedrock-runtime.{region}.amazonaws.com/openai/v1",
   )
   
   resp = client.responses.create(
       input="Refactor this Python function to be iterative instead of recursive: ...",
       model="global.zai.glm-5.3",
   )
   
   print(resp.output_text)

3. قم بتشغيل البرنامج، سيُظهر ذلك ناتج النموذج.

   python bedrock-request.py

تحسين الاستدلال من خلال تخزين التحفيز بشكل صريح

تقوم عمليات البرمجة والمعرفة التي تستمر لفترة طويلة غالبًا بإعادة إرسال السياق المستقر عبر عدة جولات من المحادثة، مثل نصوص الطلبات النظامية، وتعريفات الأدوات، أو ملفات المستودع.

GLM 5.3 على Amazon Bedrock يدعم تخزين التحفيز الضمني بشكل افتراضي، مما يساعد على تقليل زمن الاستجابة وتكاليف كلمات الإدخال للاستدعاءات المتكررة التي تشترك في نفس بادئ التحفيز.

باستخدام وضع التخزين المؤكد للتذكيرات، يمكنك تحديد بادئات التذكيرات القابلة لإعادة الاستخدام بشكل محدد، مما يمكن أن يحسن من نسبة النجاح في التخزين (وبالتالي تقليل التاخر وتوفير التكاليف) أكثر من التخزين الضمني.

لاستخدام التخزين المؤقت للتعليمات الصريحة مع GLM 5.3، كما هو موضح في المثال التالي:

1. اختر وضع التخزين المؤقت الواضح من خلال prompt_cache_options في طلبك.
2. أضف واحد أو أكثر من علامات prompt_cache_breakpoint على كتل المحتوى المدخل لتحديد نهاية (بما في ذلك) بداية التعليمات القابلة لإعادة الاستخدام. يجب أن يحتوي كل نقطة توقف على ما لا يقل عن 1,024 توكينات ليكون مؤهلاً للتخزين المؤقت.

resp = client.responses.create(
    model="global.zai.glm-5.3",
    # Enable explicit caching mode:
    extra_body={"prompt_cache_options": {"mode": "explicit"}},
    input=[
        {
            "type": "message",
            "role": "system",
            "content": [
                {
                    "type": "input_text",
                    "text": SYSTEM_PROMPT,
                    # A long, static system prompt is a great target for caching:
                    "prompt_cache_breakpoint": {"mode": "explicit"},
                },
            ]
        },
        {
            "type": "message",
            "role": "user",
            "content": [
                {
                    "type": "input_text",
                    "text": USER_INPUT,
                    # Multiple breakpoints can also be defined, for layered cache:
                    "prompt_cache_breakpoint": {"mode": "explicit"},
                },
            ],
        },
    ],
)

if resp.usage.input_tokens_details.cached_tokens:
    print("Hit cache!")

للمزيد من المعلومات، يرجى الرجوع إلى قسم تخزين الكلمات المطبوعة في دليل مستخدم Amazon Bedrock.

مثال على حمل العمل: اختبارات الأمان المصرح بها مع Strix

واحدة من أعمال العمل التي تستفيد مباشرة من مزايا GLM 5.3 هي اختبارات الأمان الآلية لتطبيقاتك الخاصة. Strix هو عامل اختبار الاختراق الذكي مفتوح المصدر يعمل بشكل ديناميكي على كودك، ويكتشف الثغرات، ويصدقها باستخدام اختبارات برهان المفهوم. حالياً، تستخدم وثائق Strix GLM 5.3 كنموذج افتراضي. يمكنك ضبط Strix لاستخدام GLM 5.3 على Amazon Bedrock بدلاً من مزود الإدراك الخارجي، بحيث يتم تنفيذ الإدراك النموذجي تحت سيطرة حساب AWS الخاص بك.

يجب اختبار التطبيقات التي تملكها أو التي حصلت على إذن كتابي صريح لاختبارها فقط. إن اختبار الأمان دون تصريح على الأنظمة التي لا تملكها هو غير قانوني في معظم الولايات القضائية وينتهك سياسة استخدام AWS المقبولة. في هذا الدليل، الهدف هو OWASP Juice Shop، وهو تطبيق نموذجي عرضي ضعيفًا مصممًا يعمل محليًا على جهازك.

إذا كنت ترغب في اختبارات أمان مستمرة مُدارة بالكامل، بالإضافة إلى تشغيل الوكلاء المفتوحة المصدر بنفسك، فإن AWS Continuum يوفر اختبارات اختراق على طلب وغيرها من التحليلات الأمنية كخدمة مُدارة. الطريقتان متكاملة: الوكلاء المفتوحة المصدر مثل Strix توفر اختبارات يتم تنفيذها بواسطة المطورين، وتتم في السياق الفعلي، ويمكن تخصيصها بشكل عميق ضد البناءات المحلية، بينما AWS Continuum يقوم بإجراء التقييمات المدارة على نطاق واسع.

لإجراء اختبار أمني مُصرح له

1. ابدأ تطبيق Juice Shop target التجريبي محليًا.

   docker run --rm -p 3000:3000 bkimminich/juice-shop

2. قم بتكوين Strix لاستخدام GLM 5.3 على Amazon Bedrock. يستخدم Strix LiteLLM في الخلفية، وبالتالي (كما هو موضح في وثائقهم المتعلقة بAmazon Bedrock) سيتم استخدام معرفات AWS CLI الخاصة بك تلقائيًا. هذا يعني أنه لا حاجة لاستخدام مفتاح API، ولكن قد ترغب في تعيين متغيرات البيئة مثل AWS_PROFILE و AWS_REGION لتكوين اتصالك. في وقت كتابة هذا النص، لا يقوم LiteLLM بعد حل مشكلة bedrock/global.zai.glm-5.3. حتى يتم حل هذه المشكلة، يمكنك تحديد مسار API Converse وملف التمييز Amazon Resource Name (ARN) بشكل صريح كما هو موضح في المثال التالي:

   # Fill in the REGION and ACCOUNT_ID placeholders below before running!
   export STRIX_LLM="bedrock/converse/arn:aws:bedrock:{AWS_REGION}:{AWS_ACCOUNT_ID}:inference-profile/global.zai.glm-5.3"

3. قم بتشغيل Strix ضد الهدف المحلي.

   strix --target http://localhost:3000

4. انتظر حتى ينتهي العميل Strix الجذري، ثم قم بمراجعة النتائج.

يقوم Strix بإنشاء فريق من الوكلاء الفرعيين لتصور سطح التهديدات، واستكشاف مجموعة متنوعة من فئات الثغرات المحتملة، ومحاولة تأكيد كل اكتشاف باستخدام برهان مفهوم عملي. هذا يساعد على تقليل الوقت المستغرق في تصنيف الحالات الخاطئة. إذا نجح التشغيل، سيتم إنتاج تقرير يشمل درجة الخطورة، والأدلة، وإرشادات التصحيح لكل اكتشاف.

الفيديو التالي يوضح الرحلة الكاملة من إعداد وتشغيل برنامج Strix ضد التطبيق المثالي، وكذلك استكشاف النتائج:

الشكل 2: إجراء اختبار أمان مثال باستخدام GLM 5.3 وStrix

تنظيف

أوقف حاوية متجر العصير باستخدام Ctrl+C في الترمين حيث تُشغل، أو قم بتشغيل docker ps لإيجاد رقم الحاوية وأوقفها باستخدام docker stop <container-id>. تكاليف استدلال Amazon Bedrock تُحسب حسب كل توكين، ولا توجد موارد مستمرة، لذلك لا توجد رسوم إضافية بعد انتهاء طلباتك. إذا قمت بتوليد مفتاح API Amazon Bedrock لهذه العملية ولم تعد بحاجة إليه، قم بحذفه من لوحة تحكم Amazon Bedrock.

التوفر

جرب GLM 5.3 على وحدة التحكم Amazon Bedrock، استخدمه من خلال مساعدات البرمجة مثل OpenCode كما هو موضح في مقالنا الأخير مع Kimi K3، أو قم بربط تطبيقاتك المخصصة من خلال واجهات برمجة التطبيقات المدعومة.

هل أنت مهتم بكيفية دعم Amazon Bedrock لمجموعة العمل الخاصة بك؟ اتصل بنا لبدء الحديث.

حول المؤلفين