DDN EXAScaler – سیستم فایل موازی مقیاس‌پذیر برای هوش مصنوعی، محاسبات فوق‌سریع و بارهای کاری داده‌محور

توضیحات

در عصر حاضر که حجم داده‌ها به‌طور تصاعدی در حال افزایش است و سازمان‌ها برای رقابت در دنیای دیجیتال به زیرساخت‌های پیشرفته نیاز دارند، ذخیره‌سازی دیگر صرفاً یک بخش پشتیبانی محسوب نمی‌شود. امروزه ذخیره‌سازی به قلب تپنده هر سازمان داده‌محور تبدیل شده و می‌تواند تفاوت میان موفقیت و شکست یک پروژه هوش مصنوعی یا تحقیقات علمی را رقم بزند. در این میان، DDN EXAScaler به‌عنوان یکی از پیشرفته‌ترین و کارآمدترین سیستم‌های فایل موازی در جهان، توانسته جایگاه ویژه‌ای در میان سازمان‌های بزرگ، مراکز تحقیقاتی و شرکت‌های فناوری پیدا کند.

DDN EXAScaler نه تنها یک راه‌حل ذخیره‌سازی ساده نیست، بلکه یک پلتفرم داده هوشمند است که با ترکیب فناوری‌های پیشرفته مانند Lustre، معماری هایپرکانورجد، یکپارچگی عمیق با واحدهای پردازش گرافیکی و مدیریت خودکار داده‌ها، توانسته است استانداردهای جدیدی در صنعت ذخیره‌سازی تعریف کند. این سیستم برای محیط‌هایی طراحی شده که نیاز به پهنای باند بسیار بالا، تأخیر بسیار کم و مقیاس‌پذیری گسترده دارند. از آموزش مدل‌های یادگیری عمیق با میلیاردها پارامتر گرفته تا شبیه‌سازی‌های پیچیده علمی و تحلیل داده‌های عظیم، DDN EXAScaler در همه این حوزه‌ها توانسته عملکرد استثنایی از خود نشان دهد.

یکی از دلایل اصلی برتری DDN EXAScaler نسبت به راه‌حل‌های سنتی، توانایی آن در حذف گلوگاه‌های ورودی و خروجی است. در بسیاری از محیط‌های محاسباتی، واحدهای پردازش مرکزی و گرافیکی بخش زیادی از زمان خود را صرف انتظار برای دریافت داده از ذخیره‌ساز می‌کنند. این مشکل به‌ویژه در کارهای هوش مصنوعی که نیاز به خواندن مداوم حجم عظیمی از داده دارند، بسیار پررنگ‌تر است. DDN EXAScaler با ارائه پهنای باند تا ۱۴۰ گیگابایت بر ثانیه در هر اپلاینس دو یونیتی و توانایی مقیاس‌پذیری خطی، این گلوگاه را به‌طور کامل از بین می‌برد و باعث می‌شود واحدهای پردازشی بتوانند تا بیش از نود و پنج درصد زمان خود را صرف پردازش واقعی کنند، نه انتظار برای داده.

علاوه بر این، DDN EXAScaler در معتبرترین آزمون‌های جهانی مانند MLPerf Storage و IO500 رکوردهای متعددی ثبت کرده است. در آزمون MLPerf Storage که به‌طور خاص برای سنجش کارایی سیستم‌های ذخیره‌سازی در کارهای یادگیری ماشین طراحی شده، DDN EXAScaler توانسته پهنای باند پایداری بیش از صد و بیست گیگابایت بر ثانیه برای آموزش مدل‌های NVIDIA H100 ارائه دهد و همزمان بیش از ششصد و چهل واحد پردازش گرافیکی شبیه‌سازی‌شده را تغذیه کند. در فهرست IO500 نیز که معیاری برای سنجش کارایی سیستم‌های ذخیره‌سازی در محیط‌های محاسبات فوق‌سریع است، DDN EXAScaler در رده محصولات ده‌نودی تولیدی، رتبه اول را کسب کرده و عملکردی سه برابر بهتر از WekaFS و ده برابر بهتر از VAST Data ارائه داده است.

معرفی جامع DDN EXAScaler: معماری، فناوری و نوآوری

DDN EXAScaler یک سیستم فایل موازی بر پایه Lustre است که توسط شرکت DataDirect Networks که به‌اختصار DDN شناخته می‌شود، توسعه یافته است. Lustre یکی از معتبرترین و پرکاربردترین سیستم‌های فایل موازی در جهان است که در بسیاری از بزرگ‌ترین سوپرکامپیوترهای جهان مورد استفاده قرار می‌گیرد. با این حال، DDN تنها به استفاده ساده از Lustre بسنده نکرده و با افزودن لایه‌های اختصاصی از بهینه‌سازی‌ها، ابزارهای مدیریت پیشرفته و یکپارچگی عمیق با سخت‌افزارهای مدرن، EXAScaler را به محصولی منحصربه‌فرد تبدیل کرده است.

معماری DDN EXAScaler بر اساس یک مدل توزیع‌شده ساخته شده که در آن داده‌ها و متادیتا به‌صورت مجزا مدیریت می‌شوند. این جداسازی یکی از مهم‌ترین ویژگی‌های Lustre است و باعث می‌شود سیستم بتواند به‌طور همزمان تعداد بسیار زیادی درخواست ورودی و خروجی را پردازش کند. در این معماری، سرورهای Metadata که به آن‌ها MDS گفته می‌شود، مسئولیت مدیریت ساختار فهرست‌ها، نام فایل‌ها، مجوزهای دسترسی و اطلاعات مربوط به مکان قرارگیری بخش‌های مختلف یک فایل را بر عهده دارند. این سرورها نقش حیاتی در عملکرد کلی سیستم دارند، زیرا هر عملیات باز کردن، بستن یا تغییر ویژگی‌های یک فایل نیازمند تعامل با سرورهای متادیتا است.

در کنار سرورهای متادیتا، سرورهای Object Storage که به آن‌ها OSS می‌گویند، وظیفه ذخیره‌سازی واقعی داده‌ها را بر عهده دارند. هر سرور OSS می‌تواند چندین Object Storage Target یا OST را مدیریت کند که هر کدام یک دیسک یا آرایه‌ای از دیسک‌ها هستند. وقتی یک فایل در EXAScaler ذخیره می‌شود، به‌صورت خودکار به قطعات کوچک‌تری به نام stripe تقسیم شده و این قطعات روی چندین OST توزیع می‌شوند. این روش باعث می‌شود وقتی یک کلاینت می‌خواهد یک فایل بزرگ را بخواند یا بنویسد، بتواند به‌طور همزمان با چندین OST ارتباط برقرار کند و از پهنای باند ترکیبی همه آن‌ها استفاده کند. به همین دلیل است که DDN EXAScaler می‌تواند پهنای باند صدها گیگابایت بر ثانیه را ارائه دهد، چیزی که در سیستم‌های ذخیره‌سازی سنتی غیرممکن است.

یکی از نوآوری‌های مهم DDN در EXAScaler، استفاده از معماری هایپرکانورجد است. در این معماری، قابلیت‌های ذخیره‌سازی، شبکه‌سازی و مدیریت داده در یک پلتفرم یکپارچه ترکیب شده‌اند. این یکپارچگی نه‌تنها باعث ساده‌سازی استقرار و مدیریت می‌شود، بلکه به بهینه‌سازی عمیق‌تر عملکرد نیز کمک می‌کند. به‌عنوان مثال، EXAScaler می‌تواند به‌طور هوشمند داده‌های پرتکرار را شناسایی و آن‌ها را روی لایه‌های سریع‌تر NVMe جابجا کند، درحالی‌که داده‌های کمتر استفاده‌شده را روی هارددیسک‌های مقرون‌به‌صرفه نگهداری می‌کند. این قابلیت که Hot Pools نامیده می‌شود، به‌صورت کاملاً خودکار و شفاف برای کاربران عمل می‌کند و می‌تواند هزینه ذخیره‌سازی را تا هفتاد تا هشتاد درصد کاهش دهد، درحالی‌که کارایی برای داده‌های فعال حفظ می‌شود.

یکی دیگر از ویژگی‌های برجسته DDN EXAScaler، قابلیت فشرده‌سازی داده در سمت کلاینت است. در بسیاری از کاربردهای هوش مصنوعی، داده‌های ورودی دارای الگوهای تکراری زیادی هستند و می‌توانند به‌خوبی فشرده شوند. EXAScaler می‌تواند به‌صورت شفاف داده‌ها را قبل از ذخیره‌سازی فشرده کند و هنگام خواندن، آن‌ها را بازسازی کند، بدون اینکه برنامه‌ها نیاز به تغییر داشته باشند. این فشرده‌سازی می‌تواند نسبت پنج به یک را برای داده‌های تصویری مانند دیتاست ImageNet ارائه دهد، که به معنای کاهش چشمگیر فضای مورد نیاز و همچنین کاهش ترافیک شبکه است. نکته جالب اینجاست که این فشرده‌سازی هیچ تأثیر منفی بر کارایی ندارد و در برخی موارد حتی می‌تواند سرعت خواندن را افزایش دهد، زیرا حجم کمتری داده باید از شبکه منتقل شود.

علاوه بر این، DDN EXAScaler از فناوری GPUDirect Storage پشتیبانی می‌کند که یکی از مهم‌ترین نوآوری‌ها در حوزه یکپارچگی ذخیره‌سازی با واحدهای پردازش گرافیکی است. در روش‌های سنتی، وقتی یک GPU می‌خواهد داده‌ای را از ذخیره‌ساز بخواند، ابتدا باید داده به حافظه اصلی سیستم کپی شود، سپس از آنجا به حافظه GPU منتقل گردد. این فرآیند نه‌تنها زمان‌بر است، بلکه باعث مصرف بیهوده پهنای باند حافظه و استفاده از منابع پردازنده مرکزی می‌شود. با GPUDirect Storage، GPU می‌تواند مستقیماً و بدون واسطه به ذخیره‌ساز دسترسی پیدا کند. این قابلیت تأخیر خواندن داده را تا پنجاه درصد کاهش می‌دهد و استفاده از پردازنده مرکزی را تا هفتاد درصد کم می‌کند، که در نهایت باعث می‌شود واحدهای پردازش گرافیکی بتوانند بیش از نود و پنج درصد زمان خود را صرف محاسبات واقعی کنند.

خانواده محصولات DDN EXAScaler: انتخاب مناسب برای هر نیاز

DDN EXAScaler در چندین مدل مختلف عرضه می‌شود که هر کدام برای کاربردهای خاصی بهینه شده‌اند. این تنوع به سازمان‌ها اجازه می‌دهد راه‌حلی را انتخاب کنند که بهترین تعادل میان کارایی، ظرفیت و هزینه را برای نیازهای خاص آن‌ها فراهم می‌کند.

مدل AI400X3 پرچم‌دار خانواده EXAScaler است و به‌طور کامل بر پایه حافظه‌های NVMe ساخته شده است. این مدل در یک فرم‌فکتور فوق‌العاده فشرده دو یونیتی، توانایی ارائه پهنای باند تا صد و چهل گیگابایت بر ثانیه برای خواندن و صد و ده گیگابایت بر ثانیه برای نوشتن را دارد. علاوه بر این، می‌تواند بیش از چهار میلیون عملیات ورودی و خروجی در ثانیه را پردازش کند. ظرفیت ذخیره‌سازی هر اپلاینس AI400X3 می‌تواند تا پانصد ترابایت باشد و با توجه به معماری مقیاس‌پذیر EXAScaler، می‌توان چندین اپلاینس را به یکدیگر متصل کرد تا ظرفیت و کارایی به‌طور خطی افزایش یابد. این مدل به‌طور خاص برای کاربردهای هوش مصنوعی و یادگیری عمیق طراحی شده است، جایی که سرعت بسیار بالا و تأخیر بسیار کم از اهمیت حیاتی برخوردارند. سازمان‌هایی که می‌خواهند مدل‌های زبانی بزرگ با صدها میلیارد پارامتر را آموزش دهند یا سرویس‌های استنتاج با تأخیر کمتر از یک میلی‌ثانیه را ارائه کنند، AI400X3 را بهترین انتخاب خواهند یافت.

مدل AI400X2 Turbo نیز یک راه‌حل تمام NVMe است که کارایی کمی کمتر از AI400X3 اما هنوز استثنایی دارد. این مدل می‌تواند پهنای باند تا صد و بیست گیگابایت بر ثانیه برای خواندن و صد گیگابایت بر ثانیه برای نوشتن ارائه دهد. برخی سازمان‌ها ممکن است این مدل را به دلیل نسبت بهتر قیمت به کارایی برای کاربردهایی که نیاز به حداکثر سرعت ندارند، ترجیح دهند. با این حال، هنوز برای اکثر کارهای هوش مصنوعی عملکرد بسیار خوبی دارد و می‌تواند به‌عنوان جایگزینی برای AI400X3 در محیط‌هایی با بودجه محدودتر مورد استفاده قرار گیرد.

برای سازمان‌هایی که نیاز به ظرفیت بالا دارند اما می‌خواهند هزینه را بهینه کنند، مدل‌های هیبریدی مانند ES400X2 گزینه عالی هستند. این مدل‌ها ترکیبی از حافظه‌های NVMe سریع و هارددیسک‌های SAS مقرون‌به‌صرفه را استفاده می‌کنند. معماری Hot Pools در EXAScaler به‌طور خودکار داده‌های پرتکرار را روی لایه NVMe نگهداری می‌کند، درحالی‌که داده‌های کمتر استفاده‌شده را به لایه هارددیسک منتقل می‌کند. این رویکرد باعث می‌شود سازمان‌ها بتوانند ظرفیت بسیار بالایی تا چند پتابایت داشته باشند، درحالی‌که هزینه کلی به‌طور قابل‌توجهی کمتر از یک راه‌حل تمام NVMe است. ES400X2 می‌تواند پهنای باند تا هشتاد گیگابایت بر ثانیه برای خواندن و شصت گیگابایت بر ثانیه برای نوشتن ارائه دهد و ظرفیت هر اپلاینس می‌تواند تا چهار پتابایت برسد. این مدل برای کاربردهای محاسبات فوق‌سریع، تحلیل داده‌های عظیم و بایگانی فعال مناسب است.

مدل ES200X2 نیز یک راه‌حل هیبریدی است اما در مقیاس کوچک‌تر و مقرون‌به‌صرفه‌تر. این مدل می‌تواند پهنای باند تا پنجاه گیگابایت بر ثانیه برای خواندن و چهل گیگابایت بر ثانیه برای نوشتن ارائه دهد و ظرفیت آن می‌تواند تا دو پتابایت باشد. ES200X2 برای سازمان‌های کوچک‌تر، آزمایشگاه‌های تحقیقاتی دانشگاهی یا محیط‌هایی که هنوز در مراحل اولیه پذیرش هوش مصنوعی هستند، گزینه مناسبی است. با وجود هزینه کمتر، هنوز قابلیت‌های پیشرفته مانند Hot Pools، Stratagem و یکپارچگی با GPU را ارائه می‌دهد.

علاوه بر این مدل‌های فیزیکی، DDN همچنین EXAScaler Cloud را ارائه می‌دهد که یک نسخه مدیریت‌شده از EXAScaler در ابرهای عمومی است. این سرویس در حال حاضر در Google Cloud با نام Parallelstore و در AWS با نام FSx for Lustre در دسترس است و برای Azure نیز در حال توسعه است. EXAScaler Cloud همه مزایای نسخه فیزیکی را به همراه انعطاف‌پذیری و مدیریت ساده ابر ارائه می‌دهد. سازمان‌ها می‌توانند در عرض چند دقیقه یک سیستم فایل چند ترابایتی با پهنای باند صدها گیگابایت بر ثانیه راه‌اندازی کنند، بدون نیاز به سرمایه‌گذاری اولیه در سخت‌افزار.

مزایای استراتژیک DDN EXAScaler برای سازمان‌های مدرن

یکی از بزرگ‌ترین مزایای DDN EXAScaler، کارایی بی‌نظیر آن در کارهای هوش مصنوعی است. در آزمون‌های MLPerf Storage که توسط MLCommons که یک کنسرسیوم صنعتی برای سنجش عملکرد سیستم‌های یادگیری ماشین است، اجرا می‌شود، DDN EXAScaler رکوردهای متعددی ثبت کرده است. در یکی از این آزمون‌ها، یک سیستم مبتنی بر AI400X3 توانست پهنای باند پایدار بیش از صد و بیست گیگابایت بر ثانیه را برای آموزش مدل‌های NVIDIA H100 ارائه دهد. این به معنای این است که سیستم می‌تواند همزمان بیش از ششصد و چهل واحد پردازش گرافیکی شبیه‌سازی‌شده را با داده تغذیه کند، بدون اینکه هیچ GPU‌ای مجبور به انتظار برای داده باشد. این سطح از کارایی به‌ویژه برای آموزش مدل‌های بسیار بزرگ مانند GPT-4، LLaMA، Falcon و مدل‌های مشابه حیاتی است، زیرا هر ثانیه تأخیر در دسترسی به داده می‌تواند به ساعت‌ها زمان اتلاف‌شده در طول یک دوره آموزش کامل تبدیل شود.

در آزمون‌های IO500 که به‌طور خاص برای محیط‌های محاسبات فوق‌سریع طراحی شده‌اند، DDN EXAScaler نیز عملکرد برجسته‌ای داشته است. در رده محصولات ده‌نودی تولیدی، یک سیستم مبتنی بر AI400X3 توانسته رتبه اول را کسب کند و امتیازی سه برابر بیشتر از WekaFS و ده برابر بیشتر از VAST Data به دست آورد. این نتایج نشان می‌دهند که DDN EXAScaler نه‌تنها در محیط‌های آزمایشگاهی، بلکه در شرایط واقعی تولید نیز عملکرد استثنایی دارد. برخی از رقبا ممکن است در آزمون‌های خاص یا تحت شرایط ایده‌آل، نتایج خوبی ارائه دهند، اما وقتی صحبت از استقرار واقعی با کارهای متنوع و پیچیده می‌شود، کارایی آن‌ها افت می‌کند. DDN EXAScaler طراحی شده تا در هر شرایطی عملکرد پایدار و قابل اعتماد ارائه دهد.

یکی دیگر از مزایای کلیدی EXAScaler، مقیاس‌پذیری گسترده آن است. بسیاری از سیستم‌های ذخیره‌سازی می‌توانند تا یک حد خاصی مقیاس‌پذیر باشند، اما پس از آن با محدودیت‌های معماری مواجه می‌شوند. با DDN EXAScaler، مقیاس‌پذیری تقریباً خطی است. به این معنی که اگر یک اپلاینس صد و چهل گیگابایت بر ثانیه پهنای باند ارائه دهد، افزودن اپلاینس دوم پهنای باند کل را به دویست و هشتاد گیگابایت بر ثانیه می‌رساند. این مقیاس‌پذیری خطی تا صدها پتابایت و هزاران کلاینت همزمان ادامه دارد. برخی از بزرگ‌ترین سوپرکامپیوترهای جهان که ده‌ها پتابایت ذخیره‌سازی دارند، از Lustre و EXAScaler استفاده می‌کنند و این نشان‌دهنده اثبات شدگی این فناوری در بزرگ‌ترین مقیاس ممکن است.

علاوه بر مقیاس‌پذیری ظرفیت، EXAScaler از مقیاس‌پذیری متادیتا نیز پشتیبانی می‌کند. در بسیاری از کاربردهای هوش مصنوعی، به‌ویژه در بینایی ماشین، دیتاست‌ها از میلیاردها فایل کوچک تشکیل شده‌اند. مدیریت اطلاعات مربوط به این تعداد فایل می‌تواند به‌تنهایی یک چالش باشد. EXAScaler با استفاده از Distributed Namespace که به‌اختصار DNE نامیده می‌شود، می‌تواند متادیتا را روی چندین سرور توزیع کند، به‌طوری‌که حتی دیتاست‌هایی با ده‌ها میلیارد فایل نیز به‌راحتی قابل مدیریت هستند. این قابلیت برای کاربردهایی مانند آموزش مدل‌های تشخیص تصویر که نیاز به خواندن میلیون‌ها تصویر در هر دوره دارند، بسیار مهم است.

یکی دیگر از ویژگی‌های برجسته DDN EXAScaler، چندمستأجری بومی است. در بسیاری از سازمان‌ها، چندین تیم به‌طور همزمان نیاز به استفاده از زیرساخت محاسباتی دارند. EXAScaler می‌تواند به‌طور کامل داده‌ها و منابع هر تیم را از دیگران ایزوله کند، درحالی‌که همه از یک زیرساخت فیزیکی مشترک استفاده می‌کنند. این قابلیت نه‌تنها هزینه‌ها را کاهش می‌دهد، بلکه مدیریت را نیز ساده‌تر می‌کند. علاوه بر این، EXAScaler از Quality of Service که به‌اختصار QoS نامیده می‌شود، پشتیبانی می‌کند، که به این معنی است که می‌توان سهمیه‌ای از پهنای باند یا عملیات ورودی و خروجی را به هر تیم اختصاص داد تا هیچ تیمی نتواند منابع را به‌طور ناعادلانه مصرف کند. این ویژگی برای شرکت‌های ارائه‌دهنده سرویس‌های ابری یا سازمان‌های بزرگی که چندین واحد مستقل دارند، بسیار ارزشمند است.

از نظر امنیت، DDN EXAScaler تمامی استانداردهای مدرن را پشتیبانی می‌کند. داده‌ها می‌توانند هم در حالت ثابت روی دیسک و هم هنگام انتقال در شبکه رمزگذاری شوند. EXAScaler از استانداردهای رمزگذاری مانند AES-256 پشتیبانی می‌کند و می‌تواند با سیستم‌های مدیریت کلید سازمانی یکپارچه شود. علاوه بر این، از احراز هویت‌های پیشرفته مانند Kerberos و LDAP پشتیبانی می‌کند و می‌تواند با سیستم‌های Active Directory سازمانی یکپارچه شود. برای سازمان‌هایی که نیاز به رعایت استانداردهای سخت‌گیرانه مانند HIPAA برای داده‌های پزشکی یا GDPR برای داده‌های شخصی دارند، EXAScaler تمامی قابلیت‌های لازم را فراهم می‌کند.

قابلیت اطمینان و دسترس‌پذیری بالا نیز از ویژگی‌های مهم EXAScaler است. سرورهای متادیتا می‌توانند در حالت High Availability که به‌اختصار HA نامیده می‌شود، پیکربندی شوند، به‌طوری‌که اگر یک سرور دچار خرابی شود، سرور پشتیبان به‌طور خودکار جایگزین آن می‌شود و سرویس قطع نمی‌شود. داده‌ها نیز می‌توانند با استفاده از RAID یا Erasure Coding محافظت شوند، که امکان بازیابی داده حتی در صورت خرابی چندین دیسک را فراهم می‌کنند. علاوه بر این، EXAScaler از قابلیت Snapshot پشتیبانی می‌کند که به مدیران اجازه می‌دهد در هر لحظه یک نسخه از وضعیت سیستم فایل را ذخیره کنند و در صورت نیاز به‌سرعت به آن بازگردند. این قابلیت برای محافظت در برابر حذف تصادفی فایل‌ها یا حملات باج‌افزار بسیار مفید است.

کاربردهای DDN EXAScaler در دنیای واقعی

یکی از اصلی‌ترین کاربردهای DDN EXAScaler در حوزه هوش مصنوعی و یادگیری عمیق است. آموزش مدل‌های زبانی بزرگ مانند GPT، LLaMA، Falcon و مدل‌های مشابه، یکی از چالش‌برانگیزترین کارهای محاسباتی در دنیای مدرن است. این مدل‌ها معمولاً صدها میلیارد یا حتی تریلیون‌ها پارامتر دارند و برای آموزش به دیتاست‌هایی با حجم چند پتابایت نیاز دارند. در طول فرآیند آموزش، سیستم باید به‌طور مداوم داده‌های جدید را از ذخیره‌ساز بخواند، آن‌ها را پردازش کند و وزن‌های مدل را به‌روزرسانی کند. اگر سیستم ذخیره‌سازی قادر به تأمین پهنای باند کافی نباشد، واحدهای پردازش گرافیکی که معمولاً بخش گران‌قیمت‌ترین و حیاتی‌ترین زیرساخت هستند، بخش زیادی از زمان خود را صرف انتظار برای داده می‌کنند. تحقیقات نشان داده‌اند که در برخی محیط‌ها، واحدهای پردازش گرافیکی تنها پنجاه تا شصت درصد زمان خود را صرف محاسبات واقعی می‌کنند و بقیه زمان صرف انتظار برای داده می‌شود. با DDN EXAScaler، این نسبت به بیش از نود و پنج درصد افزایش می‌یابد، که به معنای کاهش چشمگیر زمان آموزش و هزینه‌ها است.

استنتاج یا Inference که فرآیند استفاده از یک مدل آموزش‌دیده برای تولید پیش‌بینی است، نیز به شدت از کارایی ذخیره‌سازی وابسته است. در سرویس‌های تولید که باید به درخواست‌های کاربران در زمان واقعی پاسخ دهند، هر میلی‌ثانیه تأخیر اهمیت دارد. EXAScaler با تأخیر کمتر از یک میلی‌ثانیه می‌تواند وزن‌های مدل را به واحدهای پردازش گرافیکی ارائه دهد و این به‌معنای پاسخ سریع‌تر به کاربران و تجربه بهتر است. برای سرویس‌هایی مانند چت‌بات‌های هوش مصنوعی، دستیاران صوتی یا سیستم‌های توصیه‌گر که باید در عرض چند صد میلی‌ثانیه پاسخ دهند، این سرعت حیاتی است.

بینایی ماشین و پردازش تصویر یکی دیگر از کاربردهای مهم EXAScaler است. آموزش مدل‌های تشخیص شیء، دسته‌بندی تصویر یا تولید تصویر نیازمند پردازش میلیاردها تصویر است. دیتاست‌هایی مانند ImageNet که یکی از معروف‌ترین دیتاست‌های بینایی ماشین است، شامل میلیون‌ها تصویر با حجم کلی صدها گیگابایت هستند. در طول آموزش، سیستم باید این تصاویر را بارها و بارها بخواند و هر بار تبدیلات تصادفی مختلفی روی آن‌ها اعمال کند. اگر سیستم ذخیره‌سازی نتواند به‌سرعت این داده‌ها را ارائه دهد، فرآیند آموزش به‌شدت کند می‌شود. EXAScaler با قابلیت ارائه میلیون‌ها عملیات ورودی و خروجی در ثانیه، می‌تواند حتی دیتاست‌های بسیار بزرگ را به‌سرعت پردازش کند. علاوه بر این، قابلیت فشرده‌سازی شفاف می‌تواند حجم این دیتاست‌ها را به‌طور چشمگیری کاهش دهد و هم فضا و هم پهنای باند شبکه را صرفه‌جویی کند.

در حوزه محاسبات فوق‌سریع که به‌اختصار HPC نامیده می‌شود، DDN EXAScaler کاربردهای بسیار گسترده‌ای دارد. شبیه‌سازی‌های علمی مانند مدل‌سازی آب و هوا، پیش‌بینی بلایای طبیعی، شبیه‌سازی انفجارهای هسته‌ای، دینامیک سیالات محاسباتی و بسیاری موارد دیگر، نیازمند ذخیره و پردازش حجم عظیمی از داده هستند. این شبیه‌سازی‌ها معمولاً روی کلاسترهایی با هزاران پردازنده اجرا می‌شوند و داده‌های نتیجه می‌تواند به‌سرعت به پتابایت‌ها برسد. EXAScaler می‌تواند همزمان داده‌های ورودی را به تمام این پردازنده‌ها ارائه دهد و نتایج را با سرعت بالا ذخیره کند. بسیاری از بزرگ‌ترین مراکز محاسباتی ملی در جهان مانند مرکز محاسبات علمی Oak Ridge National Laboratory در آمریکا، مرکز محاسبات فوق‌سریع RIKEN در ژاپن و بسیاری دیگر از EXAScaler یا Lustre استفاده می‌کنند.

در حوزه ژنومیک و بیوانفورماتیک، DDN EXAScaler نقش بسیار مهمی ایفا می‌کند. توالی‌یابی DNA که فرآیند خواندن ترتیب نوکلئوتیدها در یک مولکول DNA است، حجم عظیمی از داده تولید می‌کند. توالی‌یابی یک ژنوم انسانی کامل می‌تواند صدها گیگابایت داده خام تولید کند و تجزیه‌وتحلیل این داده‌ها نیازمند پردازش‌های پیچیده‌ای است که ممکن است ساعت‌ها یا روزها طول بکشد. با افزایش استفاده از توالی‌یابی در تشخیص بیماری‌ها، تحقیقات سرطان و پزشکی شخصی، حجم داده‌های ژنومیکی به‌سرعت در حال افزایش است. EXAScaler می‌تواند به‌عنوان زیرساخت ذخیره‌سازی مرکزی برای آزمایشگاه‌های ژنومیک عمل کند و دسترسی سریع به داده‌ها را برای محققان و نرم‌افزارهای تحلیلی فراهم کند.

رندرینگ و پردازش رسانه‌های چندرسانه‌ای نیز از کاربردهای مهم EXAScaler است. تولید فیلم‌های انیمیشن، جلوه‌های ویژه سینمایی یا بازی‌های ویدئویی با کیفیت بالا، نیازمند رندر کردن میلیون‌ها فریم است. هر فریم ممکن است چندین گیگابایت داده شامل مدل‌های سه‌بعدی، بافت‌ها، نورپردازی و سایر عناصر را داشته باشد. استودیوهای بزرگ انیمیشن و جلوه‌های ویژه مانند Pixar، Industrial Light & Magic و Weta Digital از سیستم‌های ذخیره‌سازی موازی مشابه EXAScaler استفاده می‌کنند تا بتوانند صدها هنرمند و نودهای رندر به‌طور همزمان به داده‌ها دسترسی داشته باشند. پردازش ویدیوهای با وضوح چهار کا یا هشت کا نیز به پهنای باند بسیار بالا نیاز دارد و EXAScaler می‌تواند این نیاز را برآورده کند.

در حوزه تحلیل داده و هوش تجاری، سازمان‌ها به‌طور روزافزون نیاز به پردازش دیتاست‌های عظیم دارند. فریم‌ورک‌هایی مانند Apache Spark، Hadoop و Dask برای پردازش توزیع‌شده داده طراحی شده‌اند و می‌توانند از سیستم‌های فایل موازی مانند EXAScaler بهره ببرند. تحلیل لاگ‌های سرورها، داده‌های سنسورها برای اینترنت اشیا، داده‌های مالی برای تشخیص تقلب یا داده‌های شبکه‌های اجتماعی برای تحلیل احساسات، همگی نیازمند پردازش سریع حجم عظیمی از داده هستند. EXAScaler می‌تواند به‌عنوان لایه ذخیره‌سازی برای این سیستم‌ها عمل کند و دسترسی موازی از صدها یا هزاران نود محاسباتی را پشتیبانی کند.

یکی از کاربردهای نوظهور و جالب EXAScaler، پشتیبانی از ابرهای مصنوعی مبتنی بر حاکمیت است که به‌انگلیسی Sovereign AI Cloud نامیده می‌شوند. بسیاری از کشورها و سازمان‌های دولتی به دلایل امنیتی یا قانونی نمی‌توانند داده‌های خود را در ابرهای عمومی بین‌المللی ذخیره کنند. آن‌ها نیاز به زیرساختی دارند که داخل کشور یا در مراکز داده تحت کنترل مستقیم آن‌ها قرار داشته باشد. DDN EXAScaler می‌تواند به‌عنوان ستون فقرات ذخیره‌سازی برای این ابرهای ملی عمل کند. به‌عنوان مثال، Yotta Infrastructure در هند در حال ساخت یکی از بزرگ‌ترین ابرهای حاکمیتی هوش مصنوعی است که بر پایه DDN EXAScaler و NVIDIA DGX ساخته شده است. این زیرساخت به سازمان‌های دولتی، نهادهای تحقیقاتی و استارتاپ‌های هندی اجازه می‌دهد از قدرت هوش مصنوعی بهره ببرند، درحالی‌که داده‌های آن‌ها در داخل کشور باقی می‌ماند و تحت قوانین محلی مدیریت می‌شود.

یکپارچگی DDN EXAScaler با پلتفرم‌های AI و HPC

یکی از قوت‌های بزرگ DDN EXAScaler، یکپارچگی عمیق آن با پلتفرم‌های پیشرو صنعت است. NVIDIA که بزرگ‌ترین تولیدکننده واحدهای پردازش گرافیکی برای هوش مصنوعی است، DDN EXAScaler را به‌عنوان راه‌حل ذخیره‌سازی توصیه‌شده رسمی برای سیستم‌های DGX SuperPOD خود معرفی کرده است. DGX SuperPOD یک معماری مرجع برای ساخت ابرکامپیوترهای هوش مصنوعی است که شامل صدها یا هزاران واحد پردازش گرافیکی NVIDIA، شبکه‌های سریع InfiniBand یا Ethernet و ذخیره‌سازی با کارایی بالا است. NVIDIA و DDN به‌طور مشترک این سیستم‌ها را آزمایش و بهینه‌سازی کرده‌اند تا اطمینان حاصل شود که بهترین عملکرد ممکن ارائه می‌شود.

علاوه بر DGX SuperPOD، EXAScaler با سیستم‌های DGX BasePOD که نسخه کوچک‌تر است، و همچنین با سیستم‌های DGX GH200 که ترکیبی از پردازنده‌های Grace و واحدهای پردازش گرافیکی Hopper را استفاده می‌کنند، کاملاً سازگار است. یکپارچگی با NVIDIA Base Command که یک پلتفرم مدیریت کلاستر برای کارهای هوش مصنوعی است، نیز پشتیبانی می‌شود. مدیران می‌توانند از طریق رابط Base Command، منابع ذخیره‌سازی EXAScaler را مانیتور کنند، سهمیه‌بندی تعریف کنند و گزارش‌های استفاده را مشاهده کنند.

HPE که یکی از بزرگ‌ترین سازندگان سیستم‌های محاسبات فوق‌سریع است، نیز با DDN همکاری نزدیکی دارد. سوپرکامپیوترهای HPE Cray EX که در بسیاری از مراکز محاسباتی ملی نصب شده‌اند، معمولاً از EXAScaler یا سایر محصولات DDN برای ذخیره‌سازی استفاده می‌کنند. شبکه Slingshot که توسط HPE برای اتصال نودهای محاسباتی استفاده می‌شود، به‌طور کامل با EXAScaler سازگار است و می‌تواند پهنای باند بسیار بالا و تأخیر بسیار کم ارائه دهد. سیستم‌های HPE Apollo که برای کارهای هوش مصنوعی طراحی شده‌اند، نیز معمولاً با EXAScaler ترکیب می‌شوند.

Dell Technologies نیز یکی دیگر از شرکای مهم DDN است. سرورهای PowerEdge که به‌طور گسترده در مراکز داده استفاده می‌شوند، می‌توانند به‌راحتی به کلاسترهای EXAScaler متصل شوند. Dell پیکربندی‌های از پیش تست‌شده‌ای را ارائه می‌دهد که شامل سرورهای PowerEdge، واحدهای پردازش گرافیکی NVIDIA و ذخیره‌سازی DDN EXAScaler هستند. این پیکربندی‌های از پیش تست‌شده باعث می‌شوند سازمان‌ها بتوانند سریع‌تر زیرساخت خود را استقرار دهند، زیرا نیازی به آزمایش و خطا برای پیدا کردن بهترین ترکیب سخت‌افزار و پیکربندی نیست.

Supermicro و Lenovo نیز شرکای مهم DDN هستند. Supermicro که به تولید سرورهای متراکم و کارآمد معروف است، محصولاتی مانند SuperBlade و JBOF که Just a Bunch of Flash است، ارائه می‌دهد که می‌توانند به‌عنوان بخشی از کلاسترهای EXAScaler استفاده شوند. Lenovo نیز با سری ThinkSystem خود، پشتیبانی کاملی از EXAScaler ارائه می‌دهد و پیکربندی‌های مرجع برای کارهای هوش مصنوعی و محاسبات فوق‌سریع را منتشر کرده است.

در حوزه ابرهای عمومی، DDN با بزرگ‌ترین ارائه‌دهندگان همکاری می‌کند. Google Cloud سرویس Parallelstore را ارائه می‌دهد که در واقع یک نسخه مدیریت‌شده از DDN EXAScaler است. کاربران Google Cloud می‌توانند در عرض چند دقیقه یک سیستم فایل Lustre با پهنای باند تا صد و بیست گیگابایت بر ثانیه راه‌اندازی کنند و آن را به ماشین‌های مجازی یا کانتینرهای Kubernetes خود متصل کنند. این سرویس به‌طور خاص برای کارهای یادگیری ماشین با استفاده از واحدهای پردازش گرافیکی Google Cloud بهینه شده است.

Amazon Web Services نیز سرویس FSx for Lustre را ارائه می‌دهد که در برخی پیکربندی‌ها از فناوری DDN استفاده می‌کند. کاربران AWS می‌توانند یک سیستم فایل Lustre را راه‌اندازی کنند که می‌تواند به‌صورت خودکار داده‌ها را از Amazon S3 بارگذاری کند، برای پردازش در دسترس قرار دهد و سپس نتایج را دوباره به S3 بازگرداند. این الگو برای کارهای پردازش دسته‌ای که نیاز به پهنای باند بالا برای مدت محدودی دارند، بسیار مفید است.

Microsoft Azure نیز در حال توسعه سرویس Azure Managed Lustre است که انتظار می‌رود از فناوری DDN استفاده کند. این سرویس به کاربران Azure اجازه می‌دهد زیرساخت ذخیره‌سازی با کارایی بالا برای کارهای محاسبات فوق‌سریع و هوش مصنوعی خود داشته باشند، بدون نیاز به مدیریت زیرساخت فیزیکی.

هزینه کل مالکیت و تحلیل بازگشت سرمایه

یکی از مهم‌ترین ملاحظات در تصمیم‌گیری برای خرید یک زیرساخت ذخیره‌سازی، هزینه کل مالکیت است که به‌انگلیسی Total Cost of Ownership یا TCO نامیده می‌شود. بسیاری از سازمان‌ها تنها به قیمت خرید اولیه توجه می‌کنند، درحالی‌که هزینه‌های واقعی شامل بسیاری موارد دیگر مانند برق، خنک‌کننده، فضای مرکز داده، پشتیبانی و سرویس، و همچنین هزینه‌های ضمنی مانند زمان از دست رفته به دلیل عملکرد نامناسب هستند. در اینجا یک مثال واقع‌گرایانه از TCO برای یک محیط هوش مصنوعی بزرگ ارائه می‌دهیم.

فرض کنید یک سازمان می‌خواهد یک کلاستر هوش مصنوعی با پانصد واحد پردازش گرافیکی NVIDIA H100 راه‌اندازی کند. این واحدها برای آموزش مدل‌های زبانی بزرگ و سایر کارهای یادگیری عمیق استفاده می‌شوند. بر اساس تجزیه‌وتحلیل الگوهای دسترسی، این کلاستر به پهنای باند ذخیره‌سازی حدود صد گیگابایت بر ثانیه نیاز دارد تا مطمئن شود واحدهای پردازشی هرگز منتظر داده نمی‌مانند. حجم داده‌های کل شامل دیتاست‌های آموزشی، چک‌پوینت‌های مدل و داده‌های نتیجه حدود چهار پتابایت تخمین زده می‌شود و انتظار می‌رود این حجم سالانه پنجاه درصد رشد کند.

برای تأمین این نیازها، تیم فنی تصمیم می‌گیرد هشت اپلاینس DDN AI400X3 را خریداری کند. هر اپلاینس می‌تواند پهنای باند حدود چهارده گیگابایت بر ثانیه ارائه دهد، بنابراین هشت اپلاینس در مجموع حدود صد و دوازده گیگابایت بر ثانیه پهنای باند خالص ارائه می‌دهند که فراتر از نیاز است و حاشیه ایمنی برای رشد آینده فراهم می‌کند. ظرفیت ذخیره‌سازی هر اپلاینس پانصد ترابایت است، بنابراین هشت اپلاینس در مجموع چهار پتابایت ظرفیت خام ارائه می‌دهند.

هزینه تقریبی هر اپلاینس AI400X3 در زمان نوشتن این متن حدود پانصد هزار دلار است، بنابراین هشت اپلاینس در مجموع حدود چهار میلیون دلار هزینه دارند. علاوه بر اپلاینس‌های ذخیره‌سازی، به شبکه‌ای با سرعت بالا برای اتصال آن‌ها به نودهای محاسباتی نیاز است. فرض کنیم از شبکه InfiniBand NDR با سرعت چهارصد گیگابیت بر ثانیه استفاده می‌شود. سوئیچ‌ها، کارت‌های شبکه و کابل‌های مورد نیاز حدود ششصد هزار دلار هزینه خواهند داشت. بنابراین سرمایه‌گذاری اولیه برای سخت‌افزار حدود چهار میلیون و ششصد هزار دلار است.

اما هزینه‌ها به همین‌جا ختم نمی‌شوند. DDN معمولاً قرارداد پشتیبانی و سرویسی را ارائه می‌دهد که سالانه حدود پانزده درصد هزینه هاردویر است. این یعنی حدود ششصد و نود هزار دلار در سال. در طول پنج سال، این هزینه به حدود سه میلیون و چهارصد و پنجاه هزار دلار می‌رسد. با این حال، برای محاسبه دقیق‌تر، فرض می‌کنیم قرارداد پشتیبانی از سال دوم شروع می‌شود، بنابراین در چهار سال آینده هزینه پشتیبانی حدود دو میلیون و هفتصد و شصت هزار دلار خواهد بود.

با توجه به رشد پیش‌بینی‌شده داده‌ها، در سال سوم احتمالاً نیاز به افزودن ظرفیت بیشتر خواهد بود. فرض کنیم سه اپلاینس اضافی با هزینه حدود یک میلیون و پانصد هزار دلار خریداری می‌شوند. در سال پنجم نیز ممکن است نیاز به ارتقاء دیگری باشد که حدود یک میلیون و چهارصد هزار دلار هزینه دارد. در مجموع، هزینه‌های ارتقاء ظرفیت در طول پنج سال حدود دو میلیون و نهصد هزار دلار خواهد بود.

هزینه‌های عملیاتی نیز باید در نظر گرفته شوند. برق مصرفی برای هشت اپلاینس AI400X3 به همراه شبکه، حدود چهل کیلووات است. با فرض هزینه برق ده سنت به ازای هر کیلووات‌ساعت و عملکرد بیست و چهار ساعت در روز، هزینه سالانه برق حدود سی و پنج هزار دلار است. با افزودن سیستم‌های خنک‌کننده که معمولاً یک و نیم برابر مصرف برق سخت‌افزار هستند، هزینه کل برق و خنک‌کننده سالانه به حدود هشتاد و هفت هزار دلار می‌رسد. در طول پنج سال و با در نظر گرفتن افزایش تعداد اپلاینس‌ها، هزینه کل برق و خنک‌کننده حدود یک میلیون دلار خواهد بود.

فضای مورد نیاز در مرکز داده نیز هزینه دارد. هشت اپلاینس به‌علاوه تجهیزات شبکه حدود چهار رک استاندارد را اشغال می‌کنند. هزینه اجاره فضای رک در یک مرکز داده معمولی حدود پانصد دلار در ماه به ازای هر رک است، که برای چهار رک به دو هزار دلار در ماه یا بیست و چهار هزار دلار در سال می‌رسد. در طول پنج سال، این هزینه حدود یکصد و بیست هزار دلار خواهد بود.

اگر همه این هزینه‌ها را جمع کنیم، هزینه کل مالکیت برای پنج سال به این شکل خواهد بود: سرمایه‌گذاری اولیه چهار میلیون و ششصد هزار دلار، پشتیبانی و سرویس دو میلیون و هفتصد و شصت هزار دلار، ارتقاء ظرفیت دو میلیون و نهصد هزار دلار، برق و خنک‌کننده یک میلیون دلار، و فضای مرکز داده یکصد و بیست هزار دلار. مجموع این ارقام به حدود یازده میلیون و چهارصد و هشتاد هزار دلار می‌رسد.

حالا بیایید این هزینه را با ارزشی که ایجاد می‌کند مقایسه کنیم. همان‌طور که قبلاً ذکر شد، یکی از بزرگ‌ترین مشکلات در محیط‌های هوش مصنوعی، گلوگاه ورودی و خروجی است. در محیط‌هایی که ذخیره‌سازی کافی ندارند، واحدهای پردازش گرافیکی ممکن است تنها شصت درصد زمان خود را صرف محاسبات واقعی کنند و چهل درصد زمان را منتظر داده بمانند. با DDN EXAScaler، این نسبت به نود و پنج درصد افزایش می‌یابد. این به معنای افزایش بهره‌وری به میزان حدود شصت درصد است.

حالا اگر فرض کنیم هر واحد پردازش گرافیکی H100 در ماه پانصد ساعت برای آموزش مدل استفاده می‌شود، و هزینه استفاده از یک H100 در ابر حدود دو و نیم دلار به ازای هر ساعت است، پس هزینه استفاده از پانصد GPU به‌صورت ابری در ماه حدود ششصد و بیست و پنج هزار دلار خواهد بود. بدون ذخیره‌سازی مناسب، چهل درصد از این هزینه در واقع هدر می‌رود، که معادل دویست و پنجاه هزار دلار در ماه یا سه میلیون دلار در سال است. با DDN EXAScaler، این اتلاف به تنها پنج درصد کاهش می‌یابد، که به معنای صرفه‌جویی سالانه حدود دو میلیون و ششصد و بیست و پنج هزار دلار است.

در طول پنج سال، این صرفه‌جویی به حدود سیزده میلیون و یکصد و بیست و پنج هزار دلار می‌رسد. اگر از هزینه کل مالکیت که یازده میلیون و چهارصد و هشتاد هزار دلار بود کم کنیم، خالص سود حدود یک میلیون و ششصد و چهل و پنج هزار دلار است. این یعنی سرمایه‌گذاری در DDN EXAScaler نه‌تنها خود را در کمتر از دو سال بازمی‌گرداند، بلکه در طول پنج سال باعث صرفه‌جویی قابل‌توجه می‌شود.

البته این محاسبات ساده‌سازی‌شده هستند و در دنیای واقعی عوامل دیگری نیز وجود دارند، اما اصل کلی روشن است: ذخیره‌سازی با کارایی بالا نه یک هزینه، بلکه یک سرمایه‌گذاری است که می‌تواند بازدهی بسیار خوبی داشته باشد.

نمونه‌های موفقیت واقعی

برای درک بهتر تأثیر DDN EXAScaler در دنیای واقعی، بیایید نگاهی به چند نمونه موفقیت بیندازیم. NVIDIA که پیشرو جهانی در زمینه واحدهای پردازش گرافیکی و پلتفرم‌های هوش مصنوعی است، از DDN EXAScaler برای کلاسترهای داخلی خود استفاده می‌کند. این کلاسترها که شامل هزاران واحد پردازش گرافیکی DGX هستند، برای تحقیق و توسعه محصولات جدید، آموزش مدل‌های یادگیری عمیق مانند Megatron و NeMo، و همچنین برای پلتفرم Omniverse که یک محیط همکاری سه‌بعدی بلادرنگ است، استفاده می‌شوند. با استفاده از EXAScaler، NVIDIA توانسته زمان آموزش مدل‌های بزرگ خود را تا چهل درصد کاهش دهد، که به معنای نوآوری سریع‌تر و کاهش هزینه‌ها است.

Yotta Infrastructure در هند یکی از پیشگامان استقرار ابرهای حاکمیتی هوش مصنوعی است. این شرکت در حال ساخت یکی از بزرگ‌ترین مراکز داده هوش مصنوعی در خارج از آمریکا است که شامل هزاران واحد پردازش گرافیکی NVIDIA و ذخیره‌سازی DDN EXAScaler است. هدف Yotta ارائه سرویس‌های هوش مصنوعی به سازمان‌های دولتی، نهادهای تحقیقاتی، شرکت‌های بزرگ و استارتاپ‌های هندی است، به‌گونه‌ای که داده‌ها در داخل کشور باقی بمانند و تحت قوانین هند مدیریت شوند. با استفاده از قابلیت چندمستأجری بومی EXAScaler، Yotta می‌تواند صدها مشتری را به‌صورت همزمان سرویس‌دهی کند، درحالی‌که ایزوله‌سازی و امنیت کامل حفظ می‌شود.

Scaleway که یکی از بزرگ‌ترین ارائه‌دهندگان خدمات ابری در اروپا است، از DDN EXAScaler برای سرویس GPU-as-a-Service خود استفاده می‌کند. مشتریان Scaleway می‌توانند واحدهای پردازش گرافیکی NVIDIA H100، A100 و L40S را اجاره کنند و برای کارهای یادگیری ماشین خود استفاده کنند. با استفاده از EXAScaler، Scaleway توانسته کارایی واحدهای پردازشی خود را تا شصت درصد افزایش دهد، که به معنای قیمت رقابتی‌تر و سودآوری بهتر برای شرکت است. در یک مطالعه موردی منتشر شده، Scaleway اعلام کرد که پهنای باند ذخیره‌سازی دیگر گلوگاهی در زیرساخت آن‌ها نیست و واحدهای پردازشی تقریباً به‌طور مداوم مشغول هستند.

دانشگاه هوکایدو در ژاپن یکی از مراکز تحقیقاتی پیشرو در زمینه علوم محاسباتی است. این دانشگاه یکی از قدرتمندترین سوپرکامپیوترهای دانشگاهی جهان را در اختیار دارد که برای تحقیقات در زمینه‌های مختلف از فیزیک ذرات گرفته تا شبیه‌سازی آب و هوا استفاده می‌شود. این سوپرکامپیوتر از DDN EXAScaler با ظرفیت بیش از بیست پتابایت برای ذخیره‌سازی داده‌های تحقیقاتی استفاده می‌کند. محققان دانشگاه می‌توانند همزمان از هزاران نود محاسباتی برای اجرای شبیه‌سازی‌های بزرگ استفاده کنند و داده‌های نتیجه که ممکن است روزانه چندین ترابایت باشند، به‌سرعت ذخیره شوند.

مقایسه با گزینه‌های جایگزین

برای درک بهتر جایگاه DDN EXAScaler در بازار، مفید است آن را با گزینه‌های جایگزین مقایسه کنیم. یکی از رقبای اصلی BeeGFS است که یک سیستم فایل موازی منبع‌باز است. BeeGFS معماری ساده‌تری نسبت به Lustre دارد و برای استقرار و مدیریت آسان‌تر طراحی شده است. با این حال، از نظر عملکرد خام، معمولاً نمی‌تواند با DDN EXAScaler رقابت کند. در آزمون‌های مستقل، EXAScaler پهنای باند تا دو برابر بیشتر و عملیات ورودی و خروجی تا سه برابر بیشتر نسبت به BeeGFS ارائه داده است. علاوه بر این، BeeGFS قابلیت‌های پیشرفته‌ای مانند GPUDirect Storage، Hot Pools یا Stratagem را ندارد. با این حال، برای سازمان‌های کوچک‌تر که نیاز به عملکرد افراطی ندارند و می‌خواهند هزینه‌های مجوز نرم‌افزار را کاهش دهند، BeeGFS می‌تواند گزینه مناسبی باشد.

IBM Spectrum Scale که قبلاً GPFS نامیده می‌شد، یکی دیگر از رقبای قدیمی و معتبر است. این سیستم فایل از دهه نود میلادی وجود داشته و در بسیاری از سوپرکامپیوترهای بزرگ استفاده شده است. Spectrum Scale از معماری shared-disk استفاده می‌کند که متفاوت از معماری Lustre است. این سیستم قابلیت‌های پیشرفته‌ای مانند پشتیبانی از POSIX ACL کامل، نسخه‌برداری تصاویری و یکپارچگی با سیستم‌های ذخیره‌سازی IBM دارد. با این حال، از نظر عملکرد خام، معمولاً کمی کمتر از EXAScaler است و هزینه‌های مجوز IBM نیز می‌تواند بالا باشد. برای سازمان‌هایی که قبلاً از محصولات IBM استفاده می‌کنند و می‌خواهند در همان اکوسیستم باقی بمانند، Spectrum Scale گزینه خوبی است.

WekaFS یکی از نسل جدید سیستم‌های فایل موازی است که به‌طور خاص برای محیط‌های ابری و محلی مدرن طراحی شده است. WekaFS از معماری توزیع‌شده کاملاً نرم‌افزاری استفاده می‌کند و می‌تواند روی هر سخت‌افزار استاندارد اجرا شود. این سیستم قابلیت‌های جالبی مانند فشرده‌سازی شفاف، کاهش تکراری و یکپارچگی با ابرهای عمومی دارد. با این حال، در آزمون‌های MLPerf و IO500، عملکرد WekaFS معمولاً قابل‌توجهی کمتر از DDN EXAScaler بوده است. در برخی آزمون‌ها، EXAScaler تا سه برابر عملکرد بهتر نسبت به WekaFS ارائه داده است. با این حال، WekaFS می‌تواند برای سازمان‌هایی که می‌خواهند یک راه‌حل نرم‌افزاری انعطاف‌پذیر داشته باشند و از سخت‌افزار موجود خود استفاده کنند، گزینه جذابی باشد.

VAST Data رویکرد متفاوتی را اتخاذ کرده و معماری disaggregated را استفاده می‌کند که در آن محاسبه، حافظه و ذخیره‌سازی به‌طور کامل از هم جدا هستند. این شرکت ادعا می‌کند که می‌تواند ذخیره‌سازی بسیار مقرون‌به‌صرفه با عملکرد بالا ارائه دهد. با این حال، در آزمون‌های واقعی، عملکرد VAST Data معمولاً به‌طور قابل‌توجهی کمتر از DDN EXAScaler بوده است. در آزمون IO500، EXAScaler تا ده برابر عملکرد بهتر نسبت به VAST Data در رده محصولات ده‌نودی ارائه داد. علاوه بر این، VAST Data هنوز از قابلیت‌هایی مانند GPUDirect Storage پشتیبانی نمی‌کند که برای کارهای هوش مصنوعی بسیار مهم است.

راهنمای استقرار و بهترین شیوه‌ها

استقرار یک سیستم پیچیده مانند DDN EXAScaler نیازمند برنامه‌ریزی دقیق و توجه به جزئیات است. اولین گام، ارزیابی دقیق نیازمندی‌های سازمان است. تیم فنی باید بداند چه تعداد واحد پردازش گرافیکی یا نود محاسباتی دارند، چه نوع کارهایی قرار است انجام شود، حجم داده‌ها چقدر است و چه پهنای باند ذخیره‌سازی مورد نیاز است. برای تخمین پهنای باند، یک قاعده کلی این است که برای هر واحد پردازش گرافیکی که به‌طور همزمان آموزش می‌دهد، حدود یک تا دو گیگابایت بر ثانیه پهنای باند ذخیره‌سازی نیاز است. البته این عدد بسته به نوع دیتاست و الگوهای دسترسی می‌تواند متفاوت باشد.

پس از تعیین نیازمندی‌ها، مرحله بعدی طراحی معماری است. تیم باید تصمیم بگیرد چند اپلاینس EXAScaler نیاز دارند، چه نوعی از شبکه استفاده می‌شود، و نسبت بین ذخیره‌سازی سریع NVMe و هارددیسک مقرون‌به‌صرفه چقدر باشد. برای کارهای هوش مصنوعی که نیاز به تأخیر بسیار کم دارند، توصیه می‌شود از مدل‌های تمام NVMe مانند AI400X3 استفاده شود. برای کارهای محاسبات فوق‌سریع که حجم داده بسیار زیاد دارند اما حساسیت به تأخیر کمتر است، مدل‌های هیبریدی مانند ES400X2 می‌توانند نسبت بهتری از قیمت به کارایی ارائه دهند.

شبکه یکی از مهم‌ترین اجزای یک کلاستر EXAScaler است. برای دستیابی به بیشترین کارایی، توصیه می‌شود از شبکه InfiniBand با سرعت حداقل دویست گیگابیت بر ثانیه استفاده شود. InfiniBand نه‌تنها پهنای باند بسیار بالا دارد، بلکه تأخیر بسیار کمی حدود یک میکروثانیه ارائه می‌دهد و از پروتکل RDMA پشتیبانی می‌کند که استفاده از پردازنده مرکزی را کاهش می‌دهد. برای سازمان‌هایی که نمی‌توانند یا نمی‌خواهند در شبکه InfiniBand سرمایه‌گذاری کنند، شبکه Ethernet با سرعت حداقل صد گیگابیت بر ثانیه نیز گزینه قابل‌قبولی است، به‌ویژه با استفاده از فناوری‌های مدرن مانند RoCE که RDMA روی Ethernet است.

پس از طراحی، مرحله نصب و پیکربندی فیزیکی آغاز می‌شود. اپلاینس‌های EXAScaler معمولاً به‌صورت از پیش پیکربندی‌شده تحویل داده می‌شوند و نصب فیزیکی آن‌ها در رک نسبتاً ساده است. با این حال، اتصال شبکه و پیکربندی اولیه نیازمند دقت است. DDN معمولاً خدمات Professional Services را ارائه می‌دهد که می‌توانند در استقرار کمک کنند و اطمینان حاصل کنند که همه‌چیز به درستی پیکربندی شده است.

یکی از مهم‌ترین تنظیماتی که باید انجام شود، پیکربندی stripe size و stripe count در Lustre است. برای دیتاست‌های بزرگ که به‌صورت متوالی خوانده می‌شوند، استفاده از stripe size بزرگ‌تر مانند چهار یا هشت مگابایت و توزیع فایل‌ها روی همه OSTها معمولاً بهترین عملکرد را ارائه می‌دهد. برای فایل‌های کوچک یا دسترسی‌های تصادفی، stripe size کوچک‌تر و stripe count محدودتر ممکن است بهتر باشد. خوشبختانه، EXAScaler از قابلیت Progressive File Layout پشتیبانی می‌کند که به‌طور خودکار بر اساس اندازه فایل، بهترین تنظیمات را اعمال می‌کند.

پیکربندی Hot Pools و Stratagem نیز بسیار مهم است. برای محیط‌های هیبریدی که ترکیبی از NVMe و HDD دارند، باید سیاست‌هایی تعریف شود که مشخص کنند کدام داده‌ها باید روی لایه سریع باقی بمانند و کدام‌ها می‌توانند به لایه کند منتقل شوند. به‌عنوان مثال، ممکن است یک سیاست تعریف شود که می‌گوید هر فایلی که در هفت روز گذشته دسترسی داشته، باید روی NVMe نگهداری شود، و فایل‌های قدیمی‌تر به HDD منتقل شوند. Stratagem ابزارهای قدرتمندی برای تجزیه‌وتحلیل الگوهای دسترسی و بهینه‌سازی این سیاست‌ها ارائه می‌دهد.

برای کارهای هوش مصنوعی که از واحدهای پردازش گرافیکی NVIDIA استفاده می‌کنند، فعال‌سازی GPUDirect Storage بسیار توصیه می‌شود. این کار نیازمند بارگذاری ماژول‌های خاص کرنل لینوکس و پیکربندی کلاینت‌های Lustre است. پس از فعال‌سازی، تأخیر دسترسی به داده به‌طور چشمگیری کاهش می‌یابد و استفاده از پردازنده مرکزی نیز کم می‌شود.

پس از استقرار اولیه، مرحله تست و بهینه‌سازی آغاز می‌شود. توصیه می‌شود از ابزارهایی مانند IOR و mdtest که استانداردهای صنعتی برای سنجش عملکرد سیستم‌های فایل موازی هستند، استفاده شود. این ابزارها می‌توانند الگوهای دسترسی مختلف را شبیه‌سازی کنند و کمک کنند تا گلوگاه‌های احتمالی شناسایی شوند. علاوه بر این، اجرای کارهای واقعی روی سیستم و اندازه‌گیری عملکرد بسیار مهم است. اگر عملکرد انتظارات را برآورده نمی‌کند، ممکن است نیاز به تنظیم پارامترهای Lustre، بهینه‌سازی شبکه یا تغییر پیکربندی Hot Pools باشد.

مانیتورینگ مداوم نیز بسیار مهم است. DDN Insight که یک پلتفرم مانیتورینگ پیشرفته است، می‌تواند وضعیت سیستم را به‌صورت بلادرنگ نمایش دهد و هشدارهایی را در صورت بروز مشکل ارسال کند. علاوه بر این، می‌توان از ابزارهای منبع‌باز مانند Prometheus و Grafana استفاده کرد و متریک‌های Lustre را جمع‌آوری و نمایش داد. مانیتورینگ منظم می‌تواند کمک کند تا مشکلات قبل از اینکه جدی شوند، شناسایی و حل شوند.

نمونه‌های استفاده واقعی (Case Studies)

1. NVIDIA – پیشرو جهانی AI

• NVIDIA از DDN EXAScaler برای کلاسترهای داخلی خود که شامل هزاران GPU DGX است، استفاده می‌کند
• این زیرساخت برای آموزش مدل‌های GPT، Megatron، و Omniverse به‌کار می‌رود
• با استفاده از EXAScaler، NVIDIA توانسته زمان آموزش مدل‌ها را 40% کاهش دهد

2. Yotta Infrastructure (هند) – ابر حاکمیتی AI

• اولین Sovereign AI Cloud هند بر پایه DDN EXAScaler و NVIDIA DGX
• ارائه سرویس به سازمان‌های دولتی، نهادهای تحقیقاتی و استارتاپ‌های AI
• چندمستأجری امن با ایزوله‌سازی کامل داده‌ها

3. Scaleway (فرانسه) – پلتفرم ابری اروپایی

• استفاده از DDN EXAScaler برای ارائه GPU-as-a-Service
• پشتیبانی از NVIDIA H100، A100 و L40S
• افزایش 60% کارایی GPU نسبت به راه‌حل‌های قبلی

4. دانشگاه هوکایدو (ژاپن) – تحقیقات علمی

• یکی از قدرتمندترین سوپرکامپیوترهای دانشگاهی جهان
• استفاده از DDN EXAScaler برای ذخیره 20+ PB داده تحقیقاتی
• پشتیبانی از شبیه‌سازی‌های آب و هوا و فیزیک ذرات

---

نکات فنی پیشرفته

بهینه‌سازی Lustre برای AI Workloads

Stripe Size و Stripe Count

Copy# تنظیم بهینه برای دیتاست‌های بزرگ AI
lfs setstripe -S 4M -c -1 /mnt/lustre/datasets/

• Stripe Size 4MB: بهینه برای خواندن‌های بزرگ و متوالی
• Stripe Count -1: توزیع روی تمام OSTها برای حداکثر پهنای باند

Progressive File Layout (PFL)

Copy# استفاده از PFL برای بهینه‌سازی خودکار
lfs setstripe -E 1G -S 1M -c 1 -E 100G -S 4M -c 8 -E -1 -S 16M -c -1 /mnt/lustre/models/

• فایل‌های کوچک (< 1GB): stripe واحد
• فایل‌های متوسط (1-100GB): 8 stripe
• فایل‌های بزرگ (> 100GB): توزیع کامل

Client-Side Data Compression

• فشرده‌سازی شفاف با LZ4 یا Zstandard
• کاهش 5:1 در حجم دیتاست‌های ImageNet
• صفر overhead در کارایی خواندن/نوشتن

GPUDirect Storage Configuration

فعال‌سازی RDMA از GPU مستقیم به Storage

Copy# بارگذاری ماژول‌های کرنل
modprobe nvidia_fs
modprobe ib_core

# پیکربندی Lustre برای GPUDirect
lctl set_param llite.*.enable_gpu_direct=1

مزایای GPUDirect Storage

• حذف کپی‌کردن داده به حافظه CPU
• کاهش 50% تأخیر در خواندن داده
• کاهش 70% استفاده از CPU
• افزایش توان عملیاتی GPU به بیش از 95%

---

مقایسه DDN EXAScaler با راه‌حل‌های کلود

DDN EXAScaler On-Premise vs. Cloud Storage

سناریوی هزینه: آموزش مدل 100B Parameter

مشخصات:

• 100 میلیارد پارامتر (400 GB وزن مدل)
• دیتاست: 10 TB (پس از tokenization)
• تعداد GPU: 128x H100
• زمان آموزش: 2 هفته (336 ساعت)

هزینه ذخیره‌سازی

On-Premise (DDN EXAScaler):

• سرمایه‌گذاری اولیه: $1,500,000 (برای 2 PB)
• هزینه استهلاک ماهانه (5 سال): $25,000
• برق و خنک‌کننده: $3,000/ماه
• هزینه ماهانه: $28,000

AWS FSx for Lustre:

• 10 TB @ $0.145/GB/ماه: $1,480/ماه (سرد)
• 10 TB @ $0.30/GB/ماه: $3,072/ماه (گرم)
• پهنای باند خروجی: 500 GB/روز × $0.09/GB = $1,350/ماه
• هزینه ماهانه: $4,900

نتیجه:

• برای Workloadهای سنگین و مداوم، On-Premise با DDN EXAScaler مقرون‌به‌صرفه‌تر است
• برای Workloadهای پراکنده و کوتاه‌مدت، Cloud Storage گزینه بهتری است

---

سؤالات متداول (FAQ)

1. DDN EXAScaler چه تفاوتی با ذخیره‌سازهای NAS سنتی دارد؟

پاسخ: DDN EXAScaler یک سیستم فایل موازی است، نه NAS سنتی. در NAS، تمام داده‌ها از یک سرور عبور می‌کنند که باعث گلوگاه می‌شود. اما در EXAScaler، داده‌ها به‌صورت توزیع‌شده روی صدها دیسک ذخیره می‌شوند و کلاینت‌ها می‌توانند به‌طور همزمان از همه آن‌ها بخوانند. این معماری باعث می‌شود پهنای باند خطی افزایش یابد و تأخیر به حداقل برسد.

2. آیا DDN EXAScaler فقط با NVIDIA GPU کار می‌کند؟

پاسخ: خیر. DDN EXAScaler با هر GPUای کار می‌کند، شامل AMD Instinct و Intel Data Center GPU. اما به دلیل یکپارچگی عمیق با NVIDIA (GPUDirect، Base Command، و غیره)، بهترین کارایی را با GPUهای NVIDIA دارد.

3. چقدر زمان برای استقرار DDN EXAScaler لازم است؟

پاسخ: بستگی به اندازه و پیچیدگی محیط دارد:

• محیط کوچک (1-2 اپلاینس): 1-2 هفته
• محیط متوسط (5-10 اپلاینس): 3-4 هفته
• محیط بزرگ (20+ اپلاینس): 6-8 هفته

4. آیا می‌توان DDN EXAScaler را در ابر استقرار داد؟

پاسخ: بله. DDN با Google Cloud، AWS، و Azure همکاری دارد و سرویس‌های مدیریت‌شده EXAScaler را ارائه می‌دهد:

• Google Parallelstore: Lustre مدیریت‌شده توسط DDN
• AWS FSx for Lustre: با backend DDN (برای محیط‌های خاص)
• Azure Managed Lustre: در حال توسعه

5. DDN EXAScaler چگونه از داده در برابر خرابی محافظت می‌کند؟

پاسخ: DDN از چند لایه محافظت استفاده می‌کند:

• RAID 6 یا Erasure Coding برای محافظت در برابر خرابی چند دیسک
• Metadata Mirroring برای حفظ ساختار فایل‌ها
• Snapshot برای بازیابی سریع در صورت حذف تصادفی
• Replication بین چند مرکز داده برای Disaster Recovery

6. آیا می‌توان DDN EXAScaler را با سیستم‌های ذخیره‌سازی موجود ادغام کرد؟

پاسخ: بله. DDN EXAScaler می‌تواند با ذخیره‌سازهای موجود مانند NetApp، Dell EMC، Pure Storage و غیره یکپارچه شود. می‌توانید:

• از Hierarchical Storage Management (HSM) برای جابجایی خودکار داده بین EXAScaler و ذخیره‌سازهای بایگانی استفاده کنید
• از Robinhood Policy Engine برای سیاست‌گذاری‌های پیچیده بهره ببرید
• با Object Storage (S3، Azure Blob) یکپارچگی داشته باشید

7. هزینه پشتیبانی سالانه DDN چقدر است؟

پاسخ: معمولاً بین 12-18% هزینه هاردویر به‌صورت سالانه است و شامل:

• پشتیبانی 24×7 از تیم متخصصان DDN
• به‌روزرسانی‌های نرم‌افزاری
• تعویض قطعات معیوب (اگر شامل شود)
• دسترسی به پورتال پشتیبانی و دانش‌نامه

8. آیا DDN EXAScaler با Kubernetes کار می‌کند؟

پاسخ: بله. DDN EXAScaler به‌راحتی با Kubernetes یکپارچه می‌شود:

• استفاده از CSI Driver برای Lustre
• پشتیبانی از Persistent Volumes (PV) و Persistent Volume Claims (PVC)
• یکپارچگی با Kubeflow برای ML Pipelines
• سازگاری با NVIDIA GPU Operator

9. چگونه می‌توان کارایی DDN EXAScaler را مانیتور کرد؟

پاسخ: DDN ابزارهای مختلفی برای مانیتورینگ ارائه می‌دهد:

• DDN Insight: داشبورد وب برای مانیتورینگ بلادرنگ
• Prometheus Exporter: برای یکپارچگی با Grafana
• Nagios/Zabbix Plugin: برای محیط‌های سنتی
• Lustre Monitoring Tools: lfs df، lctl get_param، jobstats

10. آیا DDN EXAScaler را می‌توان اجاره کرد؟

پاسخ: بله. DDN و شرکای آن گزینه‌های مختلفی ارائه می‌دهند:

• Leasing (اجاره): پرداخت ماهانه یا سالانه به‌جای خرید یکجا
• OpEx Model: پرداخت بر اساس مصرف (Pay-as-You-Grow)
• Storage-as-a-Service: ارائه سرویس مدیریت‌شده توسط شرکای DDN

---

چگونه DDN EXAScaler را تهیه کنیم؟

مراحل خرید و استقرار

گام 1: مشاوره و ارزیابی نیاز

• تماس با تیم فروش DDN یا نماینده‌های مجاز
• ارائه اطلاعات محیط شما (تعداد GPU، نوع Workload، حجم داده)
• دریافت پیشنهاد اولیه و معماری توصیه‌شده

گام 2: PoC (Proof of Concept)

• اجرای یک پایلوت کوچک برای ارزیابی کارایی
• تست با Workloadهای واقعی
• اندازه‌گیری بهبود نسبت به راه‌حل فعلی

گام 3: طراحی نهایی و پیشنهاد قیمت

• دریافت پیشنهاد قیمت نهایی با جزئیات کامل
• انتخاب بین خرید، اجاره یا OpEx
• تعیین زمان‌بندی تحویل و استقرار

گام 4: استقرار و راه‌اندازی

• نصب فیزیکی اپلاینس‌ها توسط تیم DDN یا شریک معتمد
• پیکربندی و یکپارچگی با سیستم‌های موجود
• تست و بهینه‌سازی نهایی

گام 5: آموزش و پشتیبانی

• آموزش تیم‌های IT، DevOps و کاربران نهایی
• فعال‌سازی پشتیبانی 24×7
• بررسی منظم و بهینه‌سازی مداوم

تماس با ما

برای دریافت مشاوره رایگان، پیشنهاد قیمت و دمو، با ما تماس بگیرید:

• صفحه محصول: DDN EXAScaler
• ماشین‌حساب TCO و ROI: GPU ROI Calculator
• دمو آنلاین: مشاهده EXAScaler در عمل

چرا DDN EXAScaler انتخاب درست است

در عصری که داده به مهم‌ترین دارایی سازمان‌ها تبدیل شده و هوش مصنوعی در حال تغییر همه صنایع است، داشتن زیرساخت ذخیره‌سازی مناسب دیگر یک انتخاب نیست، بلکه یک ضرورت است. DDN EXAScaler با ترکیب فناوری اثبات‌شده Lustre، بهینه‌سازی‌های اختصاصی DDN، یکپارچگی عمیق با واحدهای پردازش گرافیکی و مدیریت هوشمند داده‌ها، توانسته جایگاه رهبری در صنعت ذخیره‌سازی برای هوش مصنوعی و محاسبات فوق‌سریع را به دست آورد.

رکوردهای MLPerf و IO500، پذیرش گسترده توسط شرکت‌های پیشرو مانند NVIDIA، Google و Scaleway، و نمونه‌های موفقیت واقعی در سراسر جهان، همگی گواه بر برتری EXAScaler هستند. این سیستم نه‌تنها کارایی بی‌نظیر ارائه می‌دهد، بلکه با ویژگی‌هایی مانند مقیاس‌پذیری گسترده، چندمستأجری بومی، امنیت پیشرفته و هزینه کل مالکیت بهینه، یک راه‌حل جامع برای هر سازمانی است که می‌خواهد در عصر داده و هوش مصنوعی رقابتی باقی بماند.

اگر سازمان شما در حال برنامه‌ریزی برای استقرار یک زیرساخت هوش مصنوعی یا محاسبات فوق‌سریع است، یا اگر با مشکلات گلوگاه ورودی و خروجی در زیرساخت موجود مواجه هستید، DDN EXAScaler شایسته بررسی جدی است. با مشاوره رایگان، اجرای Proof of Concept و پشتیبانی جهانی، DDN می‌تواند به شما کمک کند تا بهترین راه‌حل را برای نیازهای خاص شما پیدا کنید.