Модерни работни станции за AI

Големи AI модели, обучавани локално

Собствената работна станция за AI съчетава сървърна производителност с удобството на работа на място: позволява бързо прототипиране и фина настройка на модели, без данните да попадат на външни сървъри. Подходяща за екипи по data science, изследователски отдели и компании, които създават собствени AI решения.

Сървърна мощност на бюрото

Сървърна мощност на бюрото

Големи модели на едно устройство, без изграждане на клъстер.

По-бързи итерации

По-бързи итерации

Прототипиране и фина настройка по всяко време.

Данните остават във фирмата

Данните остават във фирмата

Данните се обработват на собствен хардуер, а не на външни сървъри.

Работни станции за AI

Покажи
Сортиране по
Избрани филтри:
173 759,97 € без ДДС
208 511,96 € с ДДС
172 802,25 € без ДДС
207 362,70 € с ДДС
168 933,30 € без ДДС
202 719,96 € с ДДС
148 781,06 € без ДДС
178 537,27 € с ДДС
142 548,67 € без ДДС
171 058,40 € с ДДС
132 873,43 € без ДДС
159 448,12 € с ДДС
129 421,33 € без ДДС
155 305,60 € с ДДС
125 969,23 € без ДДС
151 163,08 € с ДДС
124 243,20 € без ДДС
149 091,84 € с ДДС
120 415,37 € без ДДС
144 498,44 € с ДДС
120 174,66 € без ДДС
144 209,59 € с ДДС

Asus ExpertCenter Pro ET900N G3 Nvidia DGX Station GB300 Grace Blackwell Ultra 748GB 8TB (4x2TB)

Part number: 90WS00B2-M000S0

Manufacturer: ASUS

Семейство на процесора: NVIDIA Grace Blackwell

Процесорни ядра: 72

Максимална вътрешна памет: 748 GB

NVMe: Да

Скорости на предаване на данни LAN Ethernet: 10,100,1G,10G Мбит/с

Брой USB 2.0 порта: 1

Брой портове USB 3.2 Gen 2 (3.1 Gen 2) Type-C: 2

119 783,26 € без ДДС
143 739,91 € с ДДС
118 334,72 € без ДДС
142 001,66 € с ДДС

MSI XpertStation WS300 Nvidia DGX Station GB300 Grace Blackwell Ultra 748GB 4TB

Part number: XPERTSTATION WS300

Manufacturer: MSI

Процесорни ядра: 72

Максимална вътрешна памет: 748 GB

NVMe: Да

116 387,45 € без ДДС
139 664,94 € с ДДС
116 346,20 € без ДДС
139 615,44 € с ДДС

ASUS Nvidia DGX Station PRO ET900N G3 8TB 3yrs OSS

Part number: 90WS00B2-M000R0

Manufacturer: ASUS

Семейство на процесора: NVIDIA Grace Blackwell

Процесорни ядра: 72

Максимална вътрешна памет: 748 GB

NVMe: Да

Скорости на предаване на данни LAN Ethernet: 10,100,1G,10G Мбит/с

Брой USB 2.0 порта: 1

Брой портове USB 3.2 Gen 2 (3.1 Gen 2) Type-C: 2

115 667,34 € без ДДС
138 800,81 € с ДДС
100 946,41 € без ДДС
121 135,69 € с ДДС

Supermicro Super AI Station Nvidia DGX Station GB300 Grace Blackwell Ultra 2x 1TB + 2x 2TB

Part number: ARS-511GD-NB-LCC-01-G2

Manufacturer: Supermicro

Процесорни ядра: 72

96 740,51 € без ДДС
116 088,61 € с ДДС

Работни станции за AI в офертата на Senetic

Работните станции за AI са компютри, проектирани за работа с модели на изкуствен интелект: обучение (обучаване на модели от нулата), дообучаване (fine-tuning) (адаптиране на готови модели към собствени данни) и инференция (изпълнение на обучени модели). Те се различават от обикновените компютри по количеството бърза памет и изчислителните компоненти, подбрани за AI. Намират се на бюрото на екипа, а не в сървърно помещение.

В тази категория ще намерите станции, базирани на платформата NVIDIA DGX Station с чип GB300 Grace Blackwell Ultra. Той съчетава 72-ядрен процесор Grace и GPU Blackwell Ultra в един модул, като двете устройства използват обща, кохерентна памет. Това позволява локално изпълнение на големи езикови модели (LLM, Large Language Models), без изпращане на данни към облака.

Как да изберете работна станция за AI

Изборът се свежда до четири въпроса: обем на паметта, дискове, свързаност и дали е достатъчна работна станция, или е необходим сървър.

Кохерентна памет за CPU и GPU

Моделът на AI трябва да се побере в паметта, затова нейният обем определя колко голям модел можете да изпълнявате. Кохерентната памет означава, че процесорът и GPU имат общо адресно пространство, така че GPU използва паметта на процесора, без да копира данните. При станциите в тази категория общата кохерентна памет е 748 GB: 252 GB бърза HBM памет към GPU и 496 GB по-бавна системна памет на процесора.

Като ориентир, модел с пълна 16-битова точност се нуждае от около 2 GB за всеки милиард параметри. След квантизация (намаляване на точността на числата) до 8 бита са необходими около 1 GB на милиард параметри, плюс резерв за работните данни.

Диск и място за данни

Обучението и дообучаването изискват бърз достъп до големи набори от данни и запазени състояния на моделите. Затова се използват NVMe дискове — SSD устройства, свързани директно към PCIe шината, които са многократно по-бързи от SATA дисковете. Предлагат се конфигурации с различен капацитет, включително версии без диск, които можете да допълните със собствени носители.

Свързаност и разширяване

Станциите разполагат с LAN 10 GbE (10 Gb/s) за трансфер на данни и USB портове, включително USB-C 3.2 Gen 2. Мрежовата карта ConnectX-8 с два порта QSFP112 (2 x 400 Gb/s) позволява свързването на две станции и увеличаването на наличната изчислителна мощност и памет за моделите. Чипът GB300 няма видеоизход, затова за свързване на монитор е необходима допълнителна графична карта NVIDIA RTX PRO в PCIe слота. Част от конфигурациите се предлагат с такава карта.

Работна станция или GPU сървър

Изборът зависи от броя на потребителите и начина на работа:

  • работна станция: един потребител или малък екип, локална работа, прототипиране, дообучаване и инференция на модели,
  • GPU сървър: много потребители, монтаж в rack шкаф, непрекъсната работа в сървърно помещение и мащабиране чрез добавяне на още карти.

Приложения на работните станции за AI

Станциите в тази категория са подходящи за случаи, в които моделите и данните трябва да останат в компанията:

  • обучение и дообучаване на модели със собствени данни, например документи, код или продуктови данни,
  • локална инференция на LLM, тоест AI асистенти, генериране на код и търсене в документи (RAG, Retrieval-Augmented Generation), без данните да напускат организацията,
  • анализ на данни и компютърно зрение, тоест обработка на големи масиви от данни и изображения с GPU ускорение,
  • прототипиране на модели на станция, преди прехвърлянето им към по-голяма инфраструктура, тъй като станцията работи с архитектура и софтуер на NVIDIA, използвани и в центровете за данни,
  • работа с чувствителни данни, когато е важно да се контролира къде се обработват те, например данни, обхванати от GDPR или търговска тайна (on-premise, тоест в собствената инфраструктура).

Производители на работни станции за изкуствен интелект

Офертата включва станции от трима производители, изградени на една и съща платформа NVIDIA. Затова те се различават основно по конфигурацията на дисковете, оборудването и гаранционните условия:

  • ASUS: най-широк избор от конфигурации с NVMe дискове с различен капацитет,
  • HP: конфигурации с допълнителна графична карта NVIDIA RTX PRO,
  • MSI: станции с NVMe дискове, включително версия с диск 4 TB.

ЧЗВ – Често задавани въпроси за работните станции за AI

За какво служи работната станция за AI?

Работната станция за AI служи за локално обучение, дообучаване и изпълнение на модели на AI, без използване на облак. Подходяща е за екипи по data science, IT отдели и отдели за научноизследователска и развойна дейност (R&D), които работят със собствени данни.

Какво представлява NVIDIA DGX Station?

Това е работна станция на NVIDIA, предназначена за AI. Версията GB300 съчетава 72-ядрен процесор Grace и GPU Blackwell Ultra в общ модул с кохерентна памет. Станции на тази платформа предлагат, наред с други, ASUS, HP и MSI.

Колко памет е необходима за локално изпълнение на LLM модели?

Зависи от броя на параметрите на модела и точността на изчисленията. Като ориентир, моделът се нуждае от около 2 GB памет на милиард параметри при 16-битова точност, около 1 GB при 8-битова и около 0,5 GB при 4-битова, плюс резерв за контекст и работни данни. Следователно модел със 70 милиарда параметри при 16-битова точност заема около 140 GB. Станциите в тази категория разполагат с 748 GB кохерентна памет.

Работна станция за AI или GPU сървър – какво да изберете?

Работната станция е достатъчна за един потребител или малък екип, който прототипира, дообучава и изпълнява модели локално. GPU сървърът е по-добър избор, когато ресурсите се използват от много потребители, работата протича денонощно в сървърно помещение и мощността трябва да се мащабира чрез добавяне на още карти.

Каква е разликата между DGX Station и DGX Spark?

DGX Spark е компактен мини PC за прототипиране и по-малки модели с 128 GB памет. DGX Station е пълноразмерна станция с няколко пъти повече памет, 72-ядрен процесор и място за допълнителни карти, предназначена за по-големи модели и обучение.

Може ли към работна станция за AI да се добави допълнителна графична карта?

Да, станциите разполагат със слотове PCIe 5.0 за допълнителни карти. Платформата поддържа карти NVIDIA RTX PRO 2000, 4000 (SFF) и 6000 (Workstation и Max-Q), а броят и типът на картите зависят от производителя и конфигурацията. Чипът GB300 няма видеоизход, затова за свързване на монитор е необходима и карта RTX PRO.

Може ли да се свържат две работни станции за AI?

Да, две работни станции могат да се свържат чрез карта ConnectX-8 с два порта QSFP112 (2 x 400 Gb/s). Така се увеличават изчислителната мощност и паметта, налични за моделите.

Защо цената на много работни станции за AI се предоставя при запитване?

Цената зависи от конфигурацията (дискове, допълнителни GPU, гаранция) и наличността, затова определяме индивидуална цена за повечето станции. Свържете се с консултант, за да получите оферта за избраната конфигурация.

Бъдете актуални!
Присъединете се към нашия бюлетин и бъдете винаги в течение на нашите промоции и новини.

Като кликнете върху „Абониране“, вие приемате да получавате маркетингова информация на имейл адреса си. Администратор на вашите лични данни ще бъде Сенетик България ЕООД със седалище в ж.к. Христо Смирненски, ул. „Никола Тесла“ 3, 1574 София, България. Имате право да изискате достъп до личните си данни и да ги коригирате, изтривате или ограничавате обработването, както и да възразите срещу обработването. Подробна информация за обработването на лични данни може да намерите в декларацията за поверителност

Неправилен имейл адрес
Този имейл е потвърден.
Този имейл не е още потвърден.
Благодарим Ви!
Проверете входящата си поща – ще получите съобщение от нас, в което ще ви помолим да потвърдите абонамента си за бюлетина.
Please wait ...
Сравни (0/4)