تسریع AI/ML و برنامه های داده محور با ذخیره موقت | توسط اینتل | فناوری اینتل | آوریل 2022

نویسنده: آلیسون گودمن، مهندس اصلی و مدیر معماری Optane Solutions در اینتل

در حالی که مزایای کش موقت واضح است، توسعه دهندگان هنگام طراحی آن ها با چالش های متعددی روبرو هستند. این چالش ها شامل ابعاد کش موقت (به ویژه مربوط به شبکه های تحویل محتوا)، و همچنین بهبود بهره وری انرژی مدیریت حافظه است. چالش اخیر را می توان تا حدی با استفاده از مدیریت منطقه مرده به کمک زمان اجرا (RADAR) برای پیش بینی و حذف بلوک های مرده در کش های سطح آخر برطرف کرد.[iv]

توجه: مفهوم «محل معنایی» به عنوان بخشی از مدیریت دانش خارج از محدوده این وبلاگ است.

کش موقت در موارد مختلف استفاده می شود:

• داده های سری زمانی بسیاری از برنامه های برنامه ریزی، بانکی، پزشکی و علمی داده های زمانی را مدیریت می کنند. یک پایگاه داده زمانی داده های مربوط به نمونه های زمانی را ذخیره می کند. به طور خاص، داده ها را با زمان شروع و زمان پایان مرتبط می کند. داده‌ها را می‌توان با دو مفهوم زمان مشخص کرد: یک بازه زمانی معتبر (زمانی که رویداد داده در واقعیت مدل‌سازی شده رخ می‌دهد) و یک بازه زمانی تراکنش (دوره‌ای که اطلاعات رویداد در پایگاه داده ذخیره می‌شود).
• عملیات شبکه ذخیره موقت محتوا می تواند با کاهش مسافتی که بسته ها باید در یک شبکه طی کنند، به بهبود عملکرد شبکه و تجربه کاربر نهایی کمک کند.[iii]

روش‌های سنتی مدیریت داده مبتنی بر I/O که بر دستورالعمل‌های Load-Store برای دسترسی به داده‌های درون حافظه و ورودی/خروجی فایل POSIX برای دسترسی به داده‌های پایدار تکیه می‌کنند، سازگاری، دوام یا یکپارچگی را ارائه نمی‌کنند که هوش مصنوعی و سایر برنامه‌های کاربردی داده فشرده نیاز. به عنوان یک جایگزین، ما از استفاده از گزینه های حافظه ثانویه مانند حافظه با پهنای باند بالا (HBM) و Intel Optane PMem برای یکسان سازی دسترسی موقت به داده های حافظه پنهان و به حداقل رساندن تأخیر حمایت می کنیم. در اصل، Intel Optane PMem یک سیستم حافظه لایه‌ای ایجاد می‌کند، جایی که DRAM به عنوان یک حافظه پنهان L4 برای PMem اینتل Optane با ظرفیت بالا و تاخیر کم عمل می‌کند.

نمونه ای از یک مدل کش موقت کلی، یک کار موازی است که برای اجرای طرح اجرای پرس و جو در برابر داده های تغییرناپذیر طراحی شده است که به صورت جدولی که توسط یک طرح توصیف شده ارائه می شود. (طرح اجرای پرس و جو، دنباله ای از مراحل است که برای دسترسی به داده ها در یک سیستم مدیریت پایگاه داده رابطه ای SQL استفاده می شود.) جدول از ساختارهای گزارشی که شامل بخش گزارش قابل تغییر (غیر مهر و موم) فعلی و همچنین بسیاری از غیرقابل تغییر (مهر شده) است، تولید می شود. ) بخش های ورود به سیستم. Amazon Redshift، Databricks Delta Lake، F1 Lightning و Procella همگی معماری مشترکی دارند که از این مدل استفاده می کند، همانطور که در شکل 1 نشان داده شده است.

اگر یک سیستم محاسباتی توزیع‌شده از «اشتراک‌گذاری واقعی» استفاده می‌کند، پردازنده‌های درگیر باید حافظه‌های پنهان خود را همگام‌سازی کنند تا از صحت برنامه اطمینان حاصل کنند، که می‌تواند دسترسی حافظه پنهان را کاهش دهد. در این وبلاگ، ما بر روی کش های موقت تمرکز می کنیم، که می توان به مراتب سریعتر از بسیاری از کش های دیگر به آنها دسترسی داشت، زیرا برنامه هایی با موقعیت زمانی بالا تمایل کمتری به اشتراک گذاری واقعی حافظه پنهان دارند. هنگامی که دو پردازنده به یک کلمه داده دسترسی پیدا می کنند، می تواند رخ دهد که بلوک کش در حافظه پنهان یک پردازنده باطل شود.

فناوری‌های اینتل ممکن است به فعال‌سازی سخت‌افزار، نرم‌افزار یا سرویس نیاز داشته باشند.
© شرکت اینتل. اینتل، لوگوی اینتل و سایر علائم اینتل علائم تجاری Intel Corporation یا شرکت های تابعه آن هستند. نام ها و مارک های دیگر ممکن است به عنوان مالکیت دیگران ادعا شود.