Nvidia хочет ускорить передачу данных, подключив графические процессоры центров обработки данных к твердотельным накопителям 

На этой неделе Microsoft представила DirectStorage для ПК с Windows. API обещает более быструю загрузку и более детализированную графику, позволяя разработчикам игр создавать приложения, которые загружают графические данные с твердотельного накопителя непосредственно на графический процессор. Теперь Nvidia и IBM создали аналогичную технологию SSD/GPU, но они нацелены на работу с массивными наборами данных в центрах обработки данных.

Вместо того чтобы сосредотачиваться на консольных или компьютерных играх, таких как DirectStorage, Big Accelerator Memory (BaM) предназначен для предоставления центрам обработки данных быстрого доступа к огромным объемам данных в приложениях с интенсивным использованием графического процессора, таких как обучение машинному обучению, аналитика и высокопроизводительные вычисления. на исследовательскую работу, обнаруженную The Register на этой неделе. В документе под названием «BaM: аргументы в пользу предоставления мелкозернистого высокоскоростного доступа к хранилищу на основе графического процессора» ( PDF ), исследователями из Nvidia, IBM и нескольких университетов США предлагается более эффективный способ запуска приложений следующего поколения в центры обработки данных с огромной вычислительной мощностью и пропускной способностью памяти.

BaM также отличается от DirectStorage тем, что системные архитекторы планируют сделать его открытым.

В документе говорится, что, хотя доступ к данным хранилища, управляемый ЦП, подходит для «классических» приложений графического процессора, таких как плотное обучение нейронной сети с «предопределенными, регулярными, плотными» шаблонами доступа к данным, он влечет за собой слишком много «накладных расходов». для синхронизации CPU-GPU и/или усиления трафика ввода-вывода». Это делает его менее подходящим для приложений следующего поколения, использующих аналитику графов и данных, рекомендательные системы, графовые нейронные сети и другие «мелкозернистые шаблоны доступа, зависящие от данных», пишут авторы.

Как и DirectStorage, BaM работает вместе с твердотельным накопителем NVMe. Согласно документу, BaM «уменьшает усиление трафика ввода-вывода, позволяя потокам графического процессора считывать или записывать небольшие объемы определяемых компьютером данных по запросу».

В частности, BaM использует встроенную память графического процессора, которая представляет собой кэш, управляемый программным обеспечением, а также библиотеку программных потоков графического процессора. Потоки получают данные с SSD и перемещают их с помощью специального драйвера ядра Linux. Исследователи протестировали прототип системы с графическим процессором Nvidia A100 PCIe емкостью 40 ГБ, двумя процессорами AMD EPYC 7702 с 64 ядрами каждый и 1 ТБ памяти DDR4-3200. Система работает под управлением Ubuntu 20.04 LTS.

Авторы отметили, что даже твердотельный накопитель «потребительского уровня» может поддерживать BaM с производительностью приложений, которая «конкурентоспособна с гораздо более дорогим решением, использующим только DRAM».