اگر اخیراً لپ‌تاپ جدیدی خریده‌اید، احتمالاً این دستگاه به واحد پردازش عصبی یا NPU مجهز است؛ اما ممکن است ندانید این قطعه دقیقاً چه کاری انجام می‌دهد و آیا واقعاً به آن نیاز دارید یا خیر.

NPU یا Neural Processing Unit، یک تراشه تخصصی است که برای اجرای محاسبات هوش مصنوعی با مصرف انرژی بسیار کمتر از پردازنده مرکزی (CPU) یا پردازنده گرافیکی (GPU) طراحی شده است. به‌طور مثال، این واحد تنها حدود ۲ وات انرژی مصرف می‌کند در حالی که کارت‌های گرافیک لپ‌تاپ معمولی برای انجام همان وظایف بیش از ۱۰۰ وات مصرف دارند.

اگرچه هنوز همه لپ‌تاپ‌ها به NPU مجهز نیستند، اما این فناوری در دستگاه‌های میان‌رده و رده‌بالا به استاندارد تبدیل شده است. شرکت مشاوره گارتنر تخمین می‌زند که بیش از نیمی از لپ‌تاپ‌های عرضه‌شده در جهان اکنون دارای قابلیت‌های هوش مصنوعی و NPU هستند.

تصویر خبر

چرا NPU در لپ‌تاپ‌ها رایج شده است؟

<pدلیل اصلی افزایش حضور NPUها در لپ‌تاپ‌ها، الزام مایکروسافت برای دریافت گواهی‌نامه Copilot + PC است. از سال ۲۰۲۴، مایکروسافت اعلام کرده است که لپ‌تاپ‌ها باید حداقل توان پردازشی ۴۰ تریلیون عملیات در ثانیه (TOPS) را از طریق NPU ارائه دهند تا بتوانند از ویژگی‌های هوش مصنوعی جدید ویندوز بهره‌مند شوند. این توان باید از NPU تامین شود و نمی‌توان آن را از GPU گرفت.

برای مثال، تراشه‌های Snapdragon X Elite و Plus کوالکام اولین نمونه‌هایی بودند که NPU با توان ۴۵ TOPS داشتند. پس از آن، اینتل با پردازنده‌های Lunar Lake و Panther Lake و AMD با Ryzen AI 300 توان NPU را به ۴۸ تا ۵۰ TOPS رساندند. کوالکام نیز در جدیدترین تراشه Snapdragon X2 Elite توان NPU را به ۸۵ TOPS افزایش داده است که بیش از دو برابر حداقل مورد نیاز مایکروسافت است.

تصویر خبر

کاربردهای واقعی NPU چیست؟

NPUها برای سرعت بخشیدن به مرحله «استنتاج» یا اجرای مدل‌های هوش مصنوعی طراحی شده‌اند، نه برای آموزش آن‌ها. این واحدها عملیات پیچیده‌ای مانند ضرب ماتریس و توابع فعال‌سازی غیرخطی را با سرعت و مصرف انرژی بسیار پایین انجام می‌دهند. به عنوان مثال، افکت‌های پس‌زمینه در تماس‌های ویدیویی که معمولاً توسط CPU یا GPU انجام می‌شوند، می‌توانند با NPU با مصرف انرژی بسیار کمتر و بدون افزایش دمای دستگاه اجرا شوند.

با این حال، NPUها برای آموزش مدل‌های بزرگ هوش مصنوعی یا اجرای مدل‌های بزرگ محلی مانند Llama 70B مناسب نیستند و برای این کار هنوز به کارت گرافیک‌های قدرتمند نیاز است. همچنین سرویس‌هایی مانند ChatGPT یا Gemini که روی سرورهای ابری اجرا می‌شوند، نیازی به NPU در دستگاه کاربر ندارند.

در حال حاضر، کاربردهای NPU محدود به مواردی مانند افکت‌های وب‌کم، حذف نویز در تماس‌های صوتی، ترجمه زنده و ایندکس‌گذاری جستجوی محلی است که به صورت مداوم و با مصرف انرژی پایین اجرا می‌شوند.

چگونه بفهمیم لپ‌تاپ ما NPU دارد؟

اگر لپ‌تاپ شما دارای گواهی Copilot + PC باشد، به احتمال زیاد NPU با حداقل توان ۴۰ TOPS دارد. این موضوع را می‌توان در ویندوز ۱۱ و از طریق Task Manager بررسی کرد، هرچند در بسیاری از لپ‌تاپ‌های معمولی میزان استفاده از NPU صفر است زیرا نرم‌افزارهای زیادی از آن بهره نمی‌برند.

عملکرد واقعی NPU در استفاده‌های روزمره

برای آزمایش عملکرد NPU، یک مدل هوش مصنوعی باز متن به نام Mistral 7B با استفاده از ابزار OpenVINO اینتل روی لپ‌تاپ مجهز به NPU اجرا شد. این مدل توانست با استفاده از ۹۸ درصد ظرفیت NPU و تنها ۳ درصد CPU، متنی ۲۵۰۰ کلمه‌ای تولید کند بدون اینکه سرعت دستگاه کاهش یابد.

در مقایسه، اجرای همین مدل فقط با CPU باعث استفاده ۵۲ درصدی از پردازنده و مصرف بالای حافظه می‌شود که می‌تواند عملکرد کلی لپ‌تاپ را کند کند. این نشان می‌دهد که NPU می‌تواند بار کاری هوش مصنوعی را بدون تاثیر منفی بر سایر بخش‌های سیستم مدیریت کند، اما برای بهره‌برداری کامل از آن نیاز به نرم‌افزارهای تخصصی و دانش فنی است.

در نهایت، با اینکه سخت‌افزار NPU به سرعت در حال پیشرفت و افزایش توان است، نرم‌افزارهای کاربردی که بتوانند به طور گسترده از این توان بهره ببرند هنوز محدود هستند. اما به نظر می‌رسد در آینده نزدیک، لپ‌تاپ‌های مجهز به NPU به گزینه‌ای استاندارد و حتی انحصاری تبدیل شوند.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون