لهذا السبب ستلعب محركات الأقراص ذات الحالة الثابتة (SSD) التي تزيد سعتها عن 100 تيرابايت دورًا كبيرًا في نماذج اللغات الكبيرة جدًا في المستقبل القريب

لهذا السبب ستلعب محركات الأقراص ذات الحالة الثابتة (SSD) التي تزيد سعتها عن 100 تيرابايت دورًا كبيرًا في نماذج اللغات الكبيرة جدًا في المستقبل القريب

  • تكشف Kioxia عن مشروع جديد يسمى AiSAQ والذي يريد استبدال ذاكرة الوصول العشوائي (RAM) بمحركات أقراص الحالة الصلبة (SSD) لمعالجة بيانات الذكاء الاصطناعي
  • يمكن لمحركات أقراص الحالة الصلبة الأكبر حجمًا (اقرأ: 100 تيرابايت +) تحسين RAG بتكلفة أقل من استخدام الذاكرة فقط
  • لم يتم تحديد جدول زمني، ولكن من المتوقع أن يقدم منافسو Kioxia تقنية مماثلة

غالبًا ما تولد النماذج اللغوية الكبيرة مخرجات معقولة ولكنها غير صحيحة في الواقع – وبعبارة أخرى، فإنها تختلق الأشياء. يمكن لهذه “الهلوسة” أن تلحق الضرر بالموثوقية في المهام الحيوية للمعلومات مثل التشخيص الطبي، والتحليل القانوني، وإعداد التقارير المالية، والبحث العلمي.

يعمل الجيل المعزز للاسترجاع (RAG) على تخفيف هذه المشكلة من خلال دمج مصادر البيانات الخارجية، مما يسمح لـ LLMs بالوصول إلى المعلومات في الوقت الفعلي أثناء الإنشاء، وتقليل الأخطاء، ومن خلال ترسيخ المخرجات في البيانات الحالية، وتحسين الدقة السياقية. يتطلب تنفيذ RAG بشكل فعال ذاكرة كبيرة وموارد تخزين، وهذا ينطبق بشكل خاص على البيانات والمؤشرات المتجهة واسعة النطاق. تقليديًا، تم تخزين هذه البيانات في ذاكرة DRAM، والتي على الرغم من سرعتها إلا أنها باهظة الثمن ومحدودة السعة.

المراجع المصدرية

You might also like