الآن وبعد أن أصبحت صناعة AI GPU عالية الأداء بشكل استثنائي مع ذاكرة عالية النطاق (HBM) ، فإن أحد الاختناقات التي تواجهها أنظمة التدريب والاستدلال من الذكاء الاصطناعي هي أداء التخزين. تحقيقًا لهذه الغاية ، تعمل NVIDIA مع شركاء لإنشاء SSDs التي يمكن أن تصل إلى أداء عشوائي للقراءة البالغة 100 مليون عملية إدخال/إخراج في الثانية (IOPS) في أعباء العمل الصغيرة ، وفقًا لما قاله والاس كو ، الذي تحدث مع أجهزة توم في مقابلة حصرية.
وقال كوو لـ Tom's Hardware: “في الوقت الحالي ، يهدفون إلى 100 مليون IOPs – وهو أمر ضخم”.
تتميز مسرعات AI الحديثة ، مثل NVIDIA B200 ، بعرض النطاق الترددي للذاكرة HBM3E يبلغ حوالي 8 تيرابايت/ثانية ، مما يتجاوز بشكل كبير قدرات الأنظمة الفرعية للتخزين الحديثة في كل من الإنتاجية الإجمالية والكمون. PCIe Modern 5.0 X4 SSDs أعلى من حوالي 14.5 جيجابايت/ثانية وتقديم 2 – 3 ملايين IOPs لكل من القراءة العشوائية 4K و 512B. على الرغم من أن كتل 4K مناسبة بشكل أفضل لعرض النطاق الترددي ، إلا أن نماذج الذكاء الاصطناعى تؤدي عادةً جلبًا عشوائيًا صغيرًا ، مما يجعل 512B كتلًا أفضل لأنماطها الحساسة للاستمرار. ومع ذلك ، فإن زيادة عدد عمليات الإدخال/الإخراج في الثانية على 33 مرة أمر صعب ، بالنظر إلى قيود كل من وحدات تحكم SSD وذاكرة NAND.
في الواقع ، تعمل Kioxia بالفعل على “AI SSD” استنادًا إلى ذاكرة XL-Flash المصممة لتجاوز 10 ملايين IOPs 512k. تخطط الشركة حاليًا لإصدار هذه الحملة خلال النصف الثاني من العام المقبل ، وربما تتزامن مع عرض منصة Vera Rubin في Nvidia. للوصول إلى 100 مليون IOPS ، قد يستخدم المرء “SSDs” المتعددة.
ومع ذلك ، يعتقد رئيس SMI أن تحقيق 100 مليون IOPS على محرك واحد يتميز بـ NAND التقليدية مع تكلفة لائقة وقوة الطاقة سيكون صعبًا للغاية ، لذلك قد تكون هناك حاجة إلى نوع جديد من الذاكرة.
وقال كو “أعتقد أنهم يبحثون عن تغيير وسائل الإعلام”. “كان من المفترض أن يكون الأوبتان هو الحل المثالي ، لكنه انتهى الآن. يحاول Kioxia إحضار XL-NAND وتحسين أدائه. يحاول Sandisk تقديم وميض النطاق الترددي العالي (HBF) ، لكن بصراحة ، لا أؤمن به حقًا. في الوقت الحالي ، لا يزال الجميع يروجون لتكنولوجياهم الخاصة ، لكن الصناعة تحتاج إلى شيء جديد.
حاليًا ، تقوم العديد من الشركات ، بما في ذلك Micron و Sandisk ، بتطوير أنواع جديدة من الذاكرة غير المتطايرة. ومع ذلك ، عندما تكون هذه الأنواع الجديدة من الذاكرة قابلة للتطبيق تجاريًا ، فهذا شيء حتى رأس حركة السيليكون غير متأكد.
يتبع أجهزة توم على Google News للحصول على الأخبار والتحليلات والمراجعات المحدثة لدينا في خلاصاتك. تأكد من النقر فوق الزر متابعة.