آشنایی TPU ( تراشه گوگل )

با رشد چشمگیر مدل‌های یادگیری عمیق و افزایش حجم محاسبات مورد نیاز هوش مصنوعی، پردازنده‌های همه منظوره مانند CPU و حتی GPU همیشه نمی توانند بهترین گزینه برای اجرای این محاسبات سنگین باشند. گوگل برای پاسخ به این نیاز، تراشه ای اختصاصی با نام TPU طراحی کرد. سخت افزاری که از ابتدا با تمرکز بر شتاب دهی به محاسبات تنسوری و عملیات مورد نیاز شبکه های عصبی ساخته شده است.

TPU با معماری متفاوت خود می تواند بسیاری از محاسبات مورد نیاز مدل های هوش مصنوعی را با سرعت و بهره وری بالا انجام دهد و به همین دلیل در زیرساخت برخی از سرویس های گوگل و پردازش مدل های بزرگ یادگیری ماشین مورد استفاده قرار گرفته است.

TPU چیست؟

TPU (مخفف Tensor Processing Unit) یک تراشه اختصاصی از نوع ASIC است که گوگل برای شتاب دهی به محاسبات یادگیری ماشین، به ویژه عملیات ضرب ماتریسی، طراحی کرده است. عملیاتی که بخش مهمی از پردازش در شبکه های عصبی را تشکیل می دهد.

مزایای استفاده از TPU

• سرعت بالا در پردازش های یادگیری ماشین
• بازده انرژی بالا
• طراحی اختصاصی برای عملیات تنسوری
• مقیاس پذیری بالا
• کاهش هزینه آموزش مدل های بزرگ
• کاهش زمان آموزش مدل های هوش مصنوعی
• استفاده از حافظه با پهنای باند بالا (HBM)
• یکپارچگی با TensorFlow، JAX و XLA
• دسترسی از طریق Google Cloud

معایب و محدودیت های TPU

• انعطاف پذیری نرم افزاری کمتر: اجرای برنامه ها روی TPU معمولاً به کامپایلر XLA نیاز دارد و توسعه و اشکال زدایی را نسبت به GPU پیچیده تر می کند.
• دسترسی محدودتر: TPU برخلاف GPU معمولاً از طریق Google Cloud در دسترس است و گزینه های سخت افزاری و ابری محدودتری دارد.
• اکوسیستم کوچک تر: اکوسیستم CUDA انویدیا از نظر ابزارها، کتابخانه ها و پشتیبانی توسعه دهندگان، گسترده تر و بالغ تر است.
• مناسب نبودن برای همه مدل ها: معماری TPU برای برخی مدل ها و بارهای کاری هوش مصنوعی عملکرد بسیار خوبی دارد، اما در همه انواع مدل ها لزوماً بهترین گزینه نیست.
• وابستگی به گوگل: TPU توسط گوگل طراحی و عرضه می شود و همین موضوع وابستگی بیشتری به یک تامین کننده ایجاد می کند.

تفاوت TPU با CPU و GPU

CPU، GPU و TPU هرکدام با هدف متفاوتی طراحی شده اند و به همین دلیل، عملکرد آن ها در پردازش های هوش مصنوعی یکسان نیست. CPU یک پردازنده همه منظوره و انعطاف پذیر است که برای اجرای طیف گسترده ای از برنامه ها و دستورات پیچیده مناسب است، اما در محاسبات موازی و تکراری موردنیاز مدل های هوش مصنوعی، معمولاً به اندازه GPU و TPU کارآمد نیست.

GPU در ابتدا برای پردازش و رندر گرافیکی توسعه پیدا کرد، اما معماری موازی آن باعث شد به گزینه ای قدرتمند برای آموزش و اجرای مدل های یادگیری عمیق تبدیل شود. با این حال، GPU همچنان یک پردازنده عمومی برای محاسبات موازی است و فقط به هوش مصنوعی اختصاص ندارد.

TPU از ابتدا به عنوان یک شتاب دهنده تخصصی برای محاسبات یادگیری ماشین طراحی شده است. این تراشه با تمرکز ویژه بر عملیات تنسوری و ضرب ماتریسی، می تواند در بارهای کاری مشخص هوش مصنوعی، بهره وری و سرعت بالایی ارائه دهد.

در نتیجه، CPU بیشتر برای انعطاف پذیری، GPU برای ترکیبی از انعطاف پذیری و پردازش موازی، و TPU برای محاسبات تخصصی هوش مصنوعی مناسب است. بنابراین نمی توان گفت TPU همیشه از GPU بهتر است. انتخاب بین این دو به نوع مدل، حجم محاسبات، نرم افزار مورد استفاده و زیرساخت موردنیاز بستگی دارد.

کاربردهای TPU

TPU در ابتدا برای پردازش های هوش مصنوعی در سرویس های داخلی گوگل توسعه پیدا کرد، اما امروزه کاربرد آن بسیار گسترده تر شده است. این تراشه در آموزش و اجرای مدل های یادگیری ماشین، پردازش تصویر، ترجمه، سیستم های پیشنهاد دهنده و مدل های زبانی بزرگ مورد استفاده قرار می گیرد.

• گوگل سرچ (رتبه‌بندی نتایج جست‌وجو)
• گوگل فوتوز (تشخیص و پردازش تصویر)
• گوگل ترنسلیت (ترجمه‌ی هوشمند)
• گوگل مپس
• گوگل استریت‌ویو
• مدل‌های خانواده‌ی Gemini
• AlphaGo و AlphaFold (پیش‌بینی ساختار پروتئین)
• مدل‌های زبانی بزرگ (LLM) و چت‌بات‌های هوش مصنوعی
• بینایی ماشین و پردازش تصویر
• سیستم‌های توصیه‌گر (Recommendation Systems)
• عامل‌های هوشمند (AI Agents) و استدلال چندمرحله‌ای
• تولید کد با هوش مصنوعی
• پژوهش‌های علمی مانند مدل‌سازی اقلیمی و کشف دارو
• زیرساخت ابری Google Cloud برای آموزش و اجرای مدل‌های شخص‌ثالث

معماری و ساختار TPU

هسته اصلی TPU واحدی به نام MXU (Matrix Multiply Unit) است که وظیفه انجام عملیات ضرب و جمع ماتریسی را بر عهده دارد. محاسباتی که بخش مهمی از پردازش شبکه های عصبی را تشکیل می دهند. MXU بر پایه معماری آرایه سیستولیک (Systolic Array) ساخته شده است؛ ساختاری متشکل از تعداد زیادی واحد محاسباتی که به صورت هم زمان و هماهنگ با یکدیگر کار می کنند. برای مثال، TPU نسل اول از یک آرایه ۲۵۶ در ۲۵۶ استفاده می کرد که شامل ۶۵٬۵۳۶ واحد محاسباتی بود.

در آرایه سیستولیک، داده ها از یک واحد محاسباتی به واحد بعدی منتقل می شوند و برای هر مرحله نیاز نیست دوباره از حافظه خوانده و نوشته شوند. این ساختار باعث کاهش رفت وآمد داده با حافظه و افزایش سرعت پردازش می شود.

اجزای کلیدی معماری TPU

• واحد ضرب ماتریسی (MXU): بخش اصلی TPU برای انجام سریع عملیات ضرب و جمع ماتریسی
• حافظه با پهنای باند بالا (HBM): برای انتقال سریع حجم زیادی از داده به واحدهای پردازشی
• کوانتیزیشن (Quantization): استفاده از فرمت های عددی کم حجم تر برای کاهش مصرف حافظه و هزینه محاسبات
• اینترکانکت بین تراشه ای (Inter-Chip Interconnect): شبکه ارتباطی پرسرعت برای اتصال چندین TPU و تشکیل زیرساخت های محاسباتی بزرگ

ترکیب این اجزا باعث می شود TPU بتواند محاسبات سنگین هوش مصنوعی را با سرعت و بهره وری بالا انجام دهد و چندین تراشه نیز برای اجرای مدل های بزرگ به صورت هماهنگ با یکدیگر کار کنند.

تاریخچه و نسل های TPU

TPU مسیر توسعه خود را از یک پروژه داخلی و محرمانه گوگل آغاز کرد و به مرور به یکی از مهم ترین زیرساخت های پردازش هوش مصنوعی تبدیل شد.

نسل اول (۲۰۱۵): اولین TPU در سال ۲۰۱۵ معرفی شد و در ابتدا فقط برای اجرای مدل های از پیش آموزش دیده (Inference) طراحی شده بود. این تراشه با فناوری ۲۸ نانومتری و مصرف حدود ۴۰ وات، در سرویس هایی مانند Google Search، Google Photos، Google Translate و YouTube مورد استفاده قرار گرفت.

نسل دوم (۲۰۱۷): TPU نسل دوم علاوه بر اجرای مدل ها، امکان آموزش (Training) آن ها را نیز فراهم کرد و به حافظه HBM مجهز شد تا سرعت دسترسی به داده افزایش پیدا کند.

نسل سوم تا ششم: در نسل های بعدی، قدرت پردازشی، ظرفیت حافظه، بهره وری انرژی و مقیاس پذیری TPU به شکل قابل توجهی افزایش یافت و این تراشه ها برای آموزش مدل های بزرگ هوش مصنوعی در مقیاس وسیع به کار گرفته شدند.

نسل هفتم، Ironwood (۲۰۲۵): جدیدترین نسل TPU با تمرکز بر آموزش و اجرای مدل های بزرگ هوش مصنوعی توسعه یافته و امکان اتصال هزاران تراشه را در یک زیرساخت محاسباتی فراهم می کند.

قرارداد Anthropic با گوگل برای TPU

یکی از مهم ترین اتفاقات اخیر در حوزه زیرساخت هوش مصنوعی، قرارداد بزرگ Anthropic با گوگل برای استفاده از TPU است. طبق اعلام گوگل در اکتبر ۲۰۲۵، Anthropic امکان استفاده از حداکثر یک میلیون تراشه TPU را دریافت کرده است.

این قرارداد که قرار است بیش از یک گیگاوات ظرفیت محاسباتی را در سال ۲۰۲۶ فراهم کند، نشان می دهد TPU دیگر فقط یک فناوری داخلی گوگل نیست و به گزینه ای جدی برای شرکت های بزرگ هوش مصنوعی تبدیل شده است.

گسترش استفاده Anthropic از TPU همچنین نشان می دهد که بهره وری انرژی و نسبت قیمت به عملکرد این تراشه ها می تواند آن ها را به رقیبی جدی برای GPU در مقیاس های بزرگ تبدیل کند.

سخن پایانی

TPU نمونه ای از این است که یک سخت افزار تخصصی می تواند در یک حوزه مشخص، عملکرد و بهره وری بالاتری نسبت به پردازنده های همه منظوره داشته باشد. گوگل با طراحی تراشه ای اختصاصی برای عملیات تنسوری، توانست سرعت پردازش و بازده انرژی را افزایش دهد و این فناوری را از سرویس هایی مانند Google Search و Google Photos به زیرساخت مدل های بزرگ هوش مصنوعی برساند.

با این حال، TPU را نمی توان جایگزین قطعی GPU دانست. هرکدام از این دو فناوری مزایا و محدودیت های خاص خود را دارند و انتخاب بین آن ها به نوع پروژه، مقیاس پردازش، بودجه و نیازهای نرم افزاری بستگی دارد. ورود شرکت هایی مانند Anthropic به استفاده گسترده از TPU نیز نشان می دهد که این تراشه به تدریج از یک فناوری داخلی گوگل به یکی از گزینه های مهم زیرساخت پردازش هوش مصنوعی تبدیل شده است.