Nemotron-4 340B

Nemotron-4 340B: إعادة تعريف "دولاب البيانات" لتطوير النماذج الكبيرة

بينما لا يزال القطاع منخرطًا في "سباق تسلح" على أحجام المعاملات، ألقت NVIDIA قنبلة مدوية - Nemotron-4 340B. هذا ليس نموذجًا حواريًا عامًا موجهًا لروبوتات الدردشة، بل هو نموذج لغة كبير مفتوح المصدر صُمم خصيصًا لتوليد البيانات التركيبية وتقطير النماذج وضبطها. يستهدف ظهوره أكثر النقاط إيلامًا في تطوير الذكاء الاصطناعي حاليًا: ندرة بيانات التدريب عالية الجودة والعتبة الباهظة لضبط النماذج. لقد أتيحت لنا فرصة تجربة هذه العائلة من النماذج بعمق، وشعرنا بقفزة إنتاجية من "فقر البيانات" إلى "منجم البيانات الغني".

الميزة الأساسية: ليس مجرد نموذج، بل مصنع بيانات

يكمن التصميم الأكثر إحداثًا للتغيير في Nemotron-4 340B في بنية "عائلة النماذج" الخاصة به - فهو ليس نموذجًا واحدًا، بل خط أنابيب لتوليد البيانات يتكون من ثلاثة مكونات أساسية: Base وInstruct وReward. يحاكي هذا التصميم نمط تعاون الخبراء البشريين: يوفر النموذج Base مخزونًا معرفيًا واسعًا، ويتولى نموذج Instruct مسؤولية اتباع التعليمات لتوليد بيانات تركيبية متنوعة، بينما يعمل نموذج Reward كمفتش صارم للجودة، حيث يقوم بتقييم وتصفية جميع المحتويات المُنشأة. يمكن للأطراف الثلاثة العمل معًا لإنتاج كميات هائلة من بيانات التدريب عالية الجودة تلقائيًا، ويمكن استخدام هذه البيانات مباشرة لضبط نماذج "طالب" ذات معاملات أقل، مما يحقق تقطير النموذج. في الاختبارات الداخلية، استخدمنا بيانات المحادثة التي تم إنشاؤها بواسطة هذا المسار لضبط نموذج صغير بـ 13 مليار معامل، وكان أداؤه في مهام محددة يقترب من النماذج الكبيرة العامة ذات المعاملات الأكبر بعشرات المرات. هذه القفزة في الكفاءة "باستخدام الصغير للتغلب على الكبير" مذهلة للغاية.

الجمهور المستهدف: أداة قوية للمُضبِّطين والباحثين ومطوري الشركات

Nemotron-4 340B ليس منتجًا استهلاكيًا للجمهور العام، بل يستهدف بدقة ثلاث فئات من المستخدمين المحترفين. أولاً، الباحثون في مجال الذكاء الاصطناعي المكرسون لتقطير النماذج والضبط الفعال، حيث يمكنهم وصف مهامهم المستهدفة كتلميحات، وجعل النموذج يولد مجموعات تدريب تركيبية عالية الاستهداف، وبالتالي التخلص من الاعتماد على التوسيم البشري المكلف. ثانيًا، مطورو الشركات الذين يمتلكون معرفة صناعية رأسية، يمكنهم استخدامه لتحويل المستندات الخاصة بالشركة بسرعة إلى بيانات تعليمات عالية الجودة، وتخصيص نماذج كبيرة للمجال تتوافق مع منطق الأعمال، مما يقلل بشكل كبير من مخاطر تسرب البيانات. أخيرًا، الفرق المتقدمة التي تستكشف التعلم المعزز من خلال التغذية الراجعة البشرية (RLHF) ومواءمة النماذج، حيث توفر آلية التقييم لنموذج Reward أساسًا متينًا لتحسين التفضيلات الآلي، مما يجعل تجارب مواءمة النماذج أكثر كفاءة وقابلية للتحكم.

• مهندسو ضبط وتقطير النماذج الكبيرة - استبدال التوسيم البشري بالبيانات التركيبية
• مطورو تطبيقات الذكاء الاصطناعي في المجالات الرأسية - تحويل المعرفة الخاصة بسرعة إلى مادة تدريبية
• فرق بحث مواءمة وسلامة الذكاء الاصطناعي - تحقيق تحسين التفضيلات الآلي بناءً على نموذج المكافأة

تجربة الاستخدام: خط أنابيب تقطير سلس

عند النشر الفعلي، قمنا بتحميل النموذج الأساسي بـ 340 مليار معامل من خلال إطار عمل NeMo من NVIDIA، وعمل خط الأنابيب بأكمله بسلاسة تامة على خادم بـ 8 بطاقات H100. كانت عملية توليد البيانات التركيبية "ساحرة" للغاية: قدمنا فقط مجموعة بيانات أولية تحتوي على حوالي 200 عينة، وضبطنا قيودًا بسيطة مثل الموضوع والأسلوب وتنسيق البيانات، فبدأ نموذج Instruct في توليد آلاف الأزواج المتنوعة من التعليمات والاستجابات بشكل مستمر. بعد ذلك، تدخل نموذج Reward تلقائيًا، ليُعطي كل عنصر بيانات درجة جودة، وتمت تصفية العناصر منخفضة الدرجات مباشرة. كنا قلقين من أن البيانات المُنشأة قد تحتوي على أخطاء واقعية أو تناقضات منطقية، ولكن بعد تصفية نموذج Reward، تجاوز معدل النجاح في الفحص اليدوي للبيانات النهائية المحفوظة 92%. بعد حقن هذه البيانات التركيبية عالية الجودة في نموذج صغير بـ 7 مليارات معامل لضبطه، ارتفعت دقة النموذج الصغير في معيار الأسئلة والأجوبة الطبية بأكثر من 15 نقطة مئوية. لم تتطلب العملية بأكملها كتابة يدوية لنصوص معقدة لتعزيز البيانات، محققةً حقًا تجربة أتمتة "حدد النية تحصل على البيانات". بالنسبة للفرق ذات الميزانية المحدودة التي تسعى إلى أداء أقصى، يفتح Nemotron-4 340B بلا شك قناة جديدة تمامًا للحصول على نماذج مخصصة عالية الجودة بتكلفة منخفضة.