
شرکت Cerebras تراشهای در اندازه ویفر را برای پاسخگویی سریعتر AI معرفی کرد
شرکت Cerebras Systems میگوید تراشه بزرگش در اندازه یک ویفر سیلیکونی میتواند پاسخهای AI را سریعتر از سامانههایی تولید کند که از تعداد زیادی GPU معمولی ساخته شدهاند. این شرکت بهجای بریدن ویفر به تراشههای کوچکتر، بخش عمده آن را به یک پردازنده واحد تبدیل میکند تا نیاز به جابهجایی داده میان چند تراشه کمتر شود. به گفته یکی از مسئولان مرکز داده Cerebras، این تراشه حدود ۵۸ برابر از یک GPU بزرگتر است و در مرحله «استنتاج» AI، یعنی زمانی که مدل پاسخ تولید میکند، تا ۱۵ برابر سرعت بیشتری دارد. شرکت همچنین اعلام کرد که سامانهاش هنگام اجرای مدل Solar از Upstage بیش از ۲٬۰۰۰ توکن در ثانیه تولید کرده است. سرعت بالاتر میتواند زمان انتظار در دستیارها و عاملهای AI را کاهش دهد، اما این طراحی ظرفیت ذخیرهسازی نسبتاً محدودی دارد و ساخت آن پیچیده است.
اخبار chosun.com · مشاهده منبع












