На изложението CES 2025 главният изпълнителен директор на Nvidia Дженсън Хуанг обяви проекта DIGITS – новаторски персонален суперкомпютър с изкуствен интелект, който има за цел да предостави нови възможностти на изследователи, учени, занимаващи се с обработка на данни, и студенти от цял свят.
Създаден на базата на стабилната платформа NVIDIA Grace Blackwell, Project DIGITS предоставя безпрецедентни възможности за ИИ, като позволява на потребителите да създават прототипи, да настройват и внедряват мащабни модели на ИИ – всичко това от настолна система.
Суперчип GB10: Безпрецедентна енергийна ефективност и производителност
В сърцето на Project DIGITS е революционният суперчип NVIDIA GB10 Grace Blackwell, който предлага изключителна петафлоп производителност на ИИ с точност FP4. Тази система върху чип (SoC) съчетава авангардния графичен процесор Blackwell – с най-новите ядра CUDA и тензорни ядра – с високоефективен процесор Grace, изграден на базата на архитектурата Arm.
Суперчипът GB10 използва NVLink-C2C за безпроблемна комуникация между чиповете, което позволява несравнима производителност.
Сътрудничеството между NVIDIA и MediaTek, лидер в областта на Arm-базираните SoC технологии, води до енергоефективен дизайн, който събира значителна изчислителна мощ в устройство, работещо със стандартен електрически контакт.
Project DIGITS включва 128 GB унифицирана памет и до 4 TB NVMe памет, което го прави способен да обработва AI модели с до 200 милиарда параметъра. Чрез свързване на две системи DIGITS чрез мрежата NVIDIA ConnectX потребителите могат да разширят тези възможности, управлявайки модели с до 405 милиарда параметъра.
„Развитието на ИИ изисква инструменти, които дават възможност на изследователите да експериментират мащабно, бързо и прецизно. Проектът DIGITS на NVIDIA представлява значителен скок напред. Развълнуван съм да видя как 128 GB в такъв малък форм-фактор може да развие бъдещето на корпоративния ИИ“, казва Силвио Саварезе, главен учен в Salesforce.
Безпроблемна екосистема за разработване на ИИ
Project DIGITS се интегрира безпроблемно в екосистемата за изкуствен интелект на NVIDIA, предлагайки гъвкав конвейер за разработка. Потребителите могат да създават прототипи на модели на ИИ локално на своите DIGITS системи, работещи с Linux-базираната NVIDIA DGX OS, и лесно да мащабират тези модели в NVIDIA DGX Cloud или в среди на центрове за данни.
Тази оперативна съвместимост осигурява последователно изживяване при локални и базирани в облака разгръщания, като всичко това се захранва от архитектурата Grace Blackwell.
Разработчиците имат достъп до богат набор от инструменти чрез каталога NVIDIA NGC, включително комплекти за разработка на софтуер, рамки и инструменти за оркестрация. Усъвършенстваните приложения за изкуствен интелект могат да бъдат създадени с помощта на NVIDIA Blueprints, микросървисите NIM и рамката NeMo за фина настройка на моделите.
За учените, занимаващи се с данни, библиотеките RAPIDS предлагат ускорение на работните процеси с данни, а поддръжката на популярни инструменти като PyTorch и Jupyter notebooks подобрява използваемостта.
Когато приложенията са готови за внедряване, лицензът NVIDIA AI Enterprise осигурява необходимата сигурност и поддръжка от корпоративен клас, като гарантира плавен преход от експериментиране към производство.
Проектът DIGITS на NVIDIA преодолява пропастта между високопроизводителните изчисления с ИИ и достъпността, като дава възможност на разработчици от всички нива на умения да се включат в иновациите с ИИ.
Доставяйки суперкомпютърна мощ за ИИ на индивидуални настолни компютри, NVIDIA снабдява ново поколение изследователи и разработчици с инструментите, необходими за оформяне на бъдещето, управлявано от ИИ.
Компанията ще започне да продава системата през май тази година с начална цена от 3000 долара.
Източник: InterestingEngineering
