بزرگترین رقیب انویدیا در صنعت هوش مصنوعی، نه AMD یا اینتل، بلکه گوگل است که با سرعت در حال پیشی گرفتن در این رقابت نفسگیر است. نکته جالب توجه اینجاست که مدیرعامل انویدیا جنسن هوانگ، خود به خوبی از این واقعیت آگاه است. گوگل یکی از اولین بازیگران در رقابت سختافزار هوش مصنوعی محسوب میشود که اولین تراشه سفارشی TPU خود را در سال ۲۰۱۶ معرفی کرد.
به گزارش رسانه اخبار تکنولوژی تکنا، این غول فناوری اخیراً از نسل هفتم TPU خود با نام Ironwood رونمایی کرده است. این اقدام، طوفانی در صنعت به پا کرد و ایده رقابت اصلی میان انویدیا و گوگل را به واقعیتی انکارناپذیر تبدیل ساخت. برای درک بهتر این موضوع، باید بررسی کرد که جدیدترین تراشههای Ironwood گوگل چگونه در برابر محصولات انویدیا قد علم میکنند.
تراشههای Ironwood گوگل که به زودی در دسترس قرار میگیرند، گزینههایی متمرکز بر استنتاج توصیف شدهاند. این شرکت ادعا میکند که Ironwood عصر جدیدی را در عملکرد استنتاج در محاسبات عمومی آغاز خواهد کرد. این تراشه برای بهرهبرداری از تغییر روند بازار از آموزش مدل به سمت استنتاج موقعیتیابی شده است.
از ویژگیهای کلیدی این تراشه میتوان به ده برابر بهبود عملکرد حداکثری نسبت به TPU v5p و چهار برابر کارایی بهتر در هر تراشه برای بارهای کاری آموزشی و استنتاجی در مقایسه با TPU v6e اشاره کرد. این محصول قویترین و کممصرفترین سیلیکون سفارشی ساخته شده توسط گوگل تا به امروز است.
تراشه Ironwood از ۱۹۲ گیگابایت حافظه HBM با پهنای باند ۷.۴ ترابایت بر ثانیه و ۴۶۱۴ ترافلاپس عملکرد محاسباتی بهره میبرد که افزایشی ۱۶ برابری نسبت به TPUv4 نشان میدهد. مهمتر از آن، با استفاده از TPU Superpod، گوگل ۹۲۱۶ تراشه را در هر غلاف گرد هم میآورد. این مجموعه به عملکرد تجمعی ۴۲.۵ اگزافلاپس دست مییابد.
تعداد بالای تراشهها در SuperPod نشان میدهد که گوگل از یک راهحل اتصال داخلی مؤثر برخوردار است. این شرکت توانسته در زمینه مقیاسپذیری حتی از NVLink انویدیا نیز پیشی بگیرد. گوگل از اتصال داخلی بین تراشهای یا ICI در یک شبکه مقیاسپذیر استفاده میکند. این فناوری به آنها اجازه میدهد تا با استفاده از یک شبکه ۱.۸ پتابایتی، غلافهای Superpod را به هم متصل سازند.
ارتباطات داخلی با استفاده از طیف وسیعی از NIC ها مدیریت میشوند و گوگل از یک طرحبندی Torus سهبعدی برای TPU های خود بهره میبرد. این ساختار امکان اتصال با چگالی بالا را در میان تعداد زیادی تراشه فراهم میکند. مقیاسپذیری و تراکم اتصالات، نقاط برتری گوگل نسبت به NVLink هستند و SuperPod را به یک پیشنهاد تحولآفرین تبدیل کردهاند.
برای درک اهمیت Ironwood باید به تغییر بزرگ بعدی در صنعت هوش مصنوعی توجه کرد. آموزش مدل، روند غالب در این صنعت بوده و به همین دلیل سبد محاسباتی انویدیا گزینه اصلی غولهای فناوری بود. اما اکنون که مدلهای اصلی مستقر شدهاند، تعداد پرسوجوهای استنتاجی میتواند بسیار بیشتر از وظایف آموزشی باشد.
در استنتاج، دستیابی به بیشترین ترافلاپس تنها فاکتور مهم نیست. معیارهای دیگری مانند تأخیر، توان عملیاتی، کارایی و هزینه به ازای هر پرسوجو اهمیت حیاتی پیدا میکنند. اینجاست که پیشنهاد گوگل با Ironwood برتری خود را در رقابت با انویدیا آشکار میسازد. حافظه عظیم روی بسته این تراشه، همرده با پردازندههای گرافیکی Blackwell B200 انویدیا است.
با این حال، زمانی که خوشه SuperPod با ۹۲۱۶ تراشه در یک محیط واحد را در نظر بگیرید، ظرفیت حافظه در دسترس به طور قابل توجهی فراتر میرود. حافظه بالاتر برای استنتاج بسیار حیاتی است زیرا سربار ارتباط بین تراشهها را کاهش میدهد و تأخیر را برای مدلهای بزرگ بهبود میبخشد. این یکی از دلایلی است که Ironwood را به گزینهای جذابتر تبدیل میکند.
معماری Ironwood به صراحت برای استنتاج طراحی شده است. این بدان معناست که گوگل به طور خاص بر تضمین تأخیر کم با پشتوانه بهرهوری انرژی بالا تمرکز کرده است. استنتاج در مقیاسهای بزرگ نیازمند هزاران تراشه است که در محیطی به صورت شبانهروزی کار میکنند. ارائهدهندگان خدمات ابری بیش از عملکرد، بر هزینههای استقرار و راهاندازی تمرکز دارند.
گوگل با Ironwood به دو برابر بهرهوری انرژی بیشتر نسبت به نسلهای قبلی دست یافته است. این امر استقرار TPU های گوگل را در بارهای کاری استنتاجی به حرکتی منطقیتر تبدیل میکند. رقابت در هوش مصنوعی از اینکه چه کسی فلاپس بیشتری دارد به این تغییر میکند که چه کسی میتواند پرسوجوهای بیشتری را با تأخیر کمتر، هزینه پایینتر و انرژی کمتر ارائه دهد.
گوگل به دنبال تسخیر زودهنگام این محور رقابتی جدید است. مهمتر از آن، Ironwood منحصراً در بستر ابری گوگل ارائه خواهد شد که میتواند منجر به ایجاد یک قفل اکوسیستمی شود. این انحصار، یک ضربه بالقوه مرگبار به سلطه طولانیمدت انویدیا در هوش مصنوعی خواهد بود.
شکی نیست که TPU های گوگل با هر تکرار، رقابتیتر میشوند و این باید زنگ خطر را در اردوگاه انویدیا به صدا درآورد. البته انویدیا با ظهور عصر استنتاج ساکت نمانده و قصد دارد با Rubin CPX راهحلهای مقیاسپذیر خود را ارائه دهد. اما با گذشت زمان آشکار شده که گوگل در حال تثبیت موقعیت خود به عنوان رقیب واقعی انویدیا است.
مدیرعامل انویدیا نیز پیشتر به رقابتی بودن سیلیکون سفارشی گوگل اذعان کرده بود. او چالشهای ساخت تراشههای سفارشی موسوم به ASIC را تایید کرده و فعالیت گوگل در این زمینه را دشوار و قابل توجه دانسته بود. این نشان میدهد که رهبر انویدیا از مدتها قبل متوجه این رقیب جدی بوده است.
source