Habana Labs анонсира AI процесори от второ поколение за обучение и практическо приложение на натрупаните знания

На събитието Intel Vision компанията обяви, че нейният екип Habana Labs, фокусиран върху процесорните технологии за deep learning на AI, пусна второ поколение процесори за обучение и практическо приложение на натрупаните знания: Habana® Gaudi®2 и Habana® Greco™. Тези нови процесори се справят с липсващите решения в индустрията, като предоставят на клиентите високопроизводителни, високоефективни изчислителни възможности за задълбочено обучение както за обучителни натоварвания, така и за практическо внедряване в центъра за данни, като същевременно снижават бариерата на AI за компании от всякакъв размер.

“Появата на новите процесори Habana е отличен пример за това как Intel следва своята AI стратегия, за да предостави на клиентите си широк спектър от решения - от облака до крайното устройство - за справяне с нарастващия брой и сложния характер на работните  AI натоварвания. Gaudi2 може да помогне на клиентите на Intel да обучават все по-големи и сложни deep learning натоварвания бързо и ефективно, и ние очакваме ефективността от практическото приложение на Greco.”– Sandra Rivera, Изпълнителен Вицепрезидент и генерален мениджър на Datacenter and AI Group 

Защо това има значение

Новите процесори Gaudi2 и Greco са специално създадени за приложения за deep learning на AI, внедрени в 7-нанометрова технология и произведени по високоефективната архитектура на Habana. В Intel Vision Habana Labs разкри производителността на обучение на Gaudi2 за модела на компютърно зрение ResNet-50, а моделът за обработка на естествен език BERT осигурява два пъти по-висока пропускателна способност на обучение спрямо графичния процесор Nvidia A100-80GB.

„В сравнение с графичния процесор A100, внедрен в същия процесен възел и приблизително същия размер на матрицата, Gaudi2 e безспорен лидер в процеса на обучение, както е демонстрирано със сравнението при ключови работни натоварвания“, каза Ейтан Медина, главен оперативен директор в Habana Labs. „Тази архитектура за ускорение с deep learning е фундаментално по-ефективна и подкрепена с планове за бъдещето.“

За Gaudi2

Процесорът Gaudi2 за deep learning предоставя:

• Ефикасно Deep learning обучение: Процесорът Habana Gaudi2 значително повишава ефективността на обучението, като се основава на същата високоефективна архитектура от предишното поколение на Gaudi, която осигурява до 40% по-добра ценова производителност в облака на AWS с инстанции на Amazon EC2 DL1 и на място със Supermicro Gaudi Training Server. Със скок в процеса от 16 nm до 7 nm, Gaudi2 осигурява значителен тласък на изчисленията, паметта и мрежовите възможности. Gaudi2 също така въвежда интегриран механизъм за обработка на  компресирана медия и разтоварване на хост подсистемата. Gaudi2 утроява капацитета на вградената памет от 32GB на 96GB HBM2E при 2,45TB/sec честотна лента и интегрира 24 x 100GbE RoCE RDMA NIC, вградени в чип, за мащабиране чрез стандартен Ethernet.

• Ползи за клиента: Gaudi2 предоставя на клиентите високопроизводително обучение за deep learning, алтернатива на съществуващото базирано на GPU ускорение, което означава повече обучение и по-малко разходи, спомагайки за намаляване на общите разходи за притежание в облака и центъра за данни. Създаден е, за да адресира много типове модели и приложения на крайния пазар, и клиентите могат да се възползват от по-бързото време за обучение с Gaudi2, което може да доведе до по-скорошни анализи и решения и по-кратко време за пускане на пазара. Gaudi2 е проектиран да подобри значително моделирането на приложения, използвани в автономни превозни средства, медицински изображения и откриване на дефекти в производството, както и приложения за обработка на естествен език.

• Мрежови възможности, гъвкавост и ефективност: Habana даде възможност на клеинтите рентабилно и лесно да разширят капацитета за обучение чрез увеличаване на честотната лента при Gaudi от второ поколение. С интегрирането на индустриалния стандарт RoCE в чип, клиентите могат лесно да мащабират и конфигурират системите Gaudi2, за да отговарят на техните изисквания за клъстер за deep learning. С внедряване на системата върху широко използвана индустриална стандартна Ethernet свързаност, Gaudi2 дава възможност на клиентите да избират от широк набор от Ethernet комутиране и свързано мрежово оборудване, което позволява спестяване на разходи. Избягването на собствени технологии за взаимно свързване в центъра за данни (както се предлагат от конкуренцията) е важно за ИТ решенията, които искат да избегнат „зависимост“ от един доставчик. Вградената в чип интеграция на портовете на контролера на мрежовия интерфейс (NIC) също намалява разходите за компоненти.

• Опростено изграждане на модел и миграция: Софтуерният пакет Habana® SynapseAI® е оптимизиран за разработване на модели за deep learning и за улесняване на миграцията на съществуващи GPU-базирани модели към хардуера на платформата Gaudi. Софтуерът SynapseAI поддържа модели за обучение на Gaudi2 и използването им за всяка цел, включително процесори Intel® Xeon®, Habana Greco или самия Gaudi2. Разработчиците са подкрепени с документация и инструменти, съдържание с инструкции и форум за поддръжка на общността на сайта за разработчици на Habana с референтни модели и roadmap на модела в Habana GitHub. Първите стъпки с миграцията на модела са толкова лесни, колкото добавянето на два реда код; за опитни потребители, които желаят да програмират свои собствени ядра, Habana предлага пълния набор от инструменти.

• Наличност на решения за обучение, базирани на Gaudi2: Процесорите Gaudi2 вече са достъпни за клиентите на Habana. Habana си партнира със Supermicro, за да пусне на пазара Supermicro Gaudi2 Training Server тази година. Habana  се обедини и с DDN®, за да предостави решения от типа „до ключ“, включващи сървъра Supermicro с увеличен капацитет за съхранение на AI в комбинация с решението за съхранение DDN AI400X2.