Масштабируемые процессоры Intel Xeon

В 2017 году компания Intel представила публике новое поколение процессоров для серверов – Xeon Scalable. По словам производителя, это чипы, которые станут эффективным решением как для вычислительных центров, так и для построения инфраструктуры масштабных сетей.

Новый процессор в 1,65 раза производительнее предыдущего поколения, а конкретно в области ИИ – в 2,2 раза. Платформа предусматривает возможность масштабирования. Для реализации этой задачи изготовитель внедрил некоторые технические новинки, в том числе начал применять единый сокет. Поэтому теперь для замены процессора не нужно покупать другую материнскую плату.

Xeon Scalable – это хорошая основа для создания современной серверной системы с возможностью расширения. Новое поколение обеспечивает поддержание продуктов Intel на высоком уровне и их применимость для постоянно меняющегося профиля нагрузок. А универсальный сокет позволяет сочетать разные варианты процессоров с подходящей производительностью и по выгодной клиенту цене.

Чипы Intel Xeon Scalable доступны в четырех уровнях: Bronze, Silver, Gold, Platinum. Если нужно базовое исполнение, это процессоры Bronze с двумя процессорами, у которых меньше всего свойств. У конфигурации Platinum восемь процессоров и больше всего возможностей, а уровни Silver и Gold – это решения со средней функциональностью. Они являются оптимальными для решения большинства серверных задач.

Во всех сериях, кроме Bronze, есть поддержка технологии Intel Turbo Boost (автоповышение частоты) и технологии Intel Hyper-Threading (работа с двумя параллельными потоками на каждом ядре).

Каждая модель обозначается четырьмя цифрами. Об уровне говорит первая цифра: 3 – это бронзовый уровень, 4 – серебряный, 5 и 6 – золотой, 8 и 9 – платиновый. Вторая цифра означает поколение: 1 – кодовое название Skylake, 2 – Cascade Lake, 3 – Ice Lake, 4 – Sapphire Rapids, 5 – Emerald Rapids. Третья и четвертая цифры – это SKU-номер (Stock Keeping Unit). На деле они означают артикул, который отображает набор функций.

Кроме четырех цифр, в номере может быть буква, которая говорит об определенных характеристиках модели:

• F – имеется встроенный контроллер Omni-Path;
• G – есть поддержка встроенной графики;
• H – конфигурация только для применения с 4- или 8-сокетными материнскими платами;
• L – возможность использования до 4,5 ТБ оперативной памяти на сокет;
• M – возможность использования до 2 ТБ оперативной памяти на сокет;
• N – модель, предназначенная для построения виртуальных сетей;
• P – чип, оптимизированный для облачных сред, IaaS, оркестрации в средах VM с высокими частотами;
• Q – подходит для систем с жидкостным охлаждением;
• R – может применяться только в конфигурациях с двумя сокетами;
• S – процессор предназначен для выполнения поисковых операций в облаке;
• Т – модель повышенной надежности, может использоваться при высоких температурах, имеет гарантию до 10 лет;
• U – нет возможности масштабирования – в сокете только один чип;
• V – подходит для использования большого числа виртуальных машин;
• Y – продвинутая настройка базовой и Turbo-частот для отдельных ядер.

Выпускается с 3-го квартала 2017 года по 14-нм техническому процессу. В серверах данного поколения впервые архитектура Intel Mesh Interconnect стала использоваться массово. Раньше производитель располагал ядра на матрице и соединял их кольцевым методом (архитектура Ring bus).

Теперь ядра, а также компоненты кеш-памяти и контроллеры расположены строками и столбцами. У каждого компонента есть выделенное соединение, которое проходит через каждую строку и каждый столбец. Путь между любыми точками уменьшается, задержка уменьшается, пропускная способность повышается.

Особенности поколения Skylake:

• для работы используется новая шина UPI (Ultra Path Interconnect). Благодаря ей разные процессоры могут вместе работать с одним адресным пространством. У каждого чипа есть два или три канала, которые соединяются с другими чипами;
• есть набор встроенных команд AVX-512, который улучшает производительность работы с целыми числами и с числами, у которых плавающая запятая;
• в чипах предусмотрена коммуникационная архитектура высокой производительности Omni-Path со скоростью до 100 Гбит/с. Она используется вместо технологии InfiniBand;
• в процессорах есть набор контроллеров: интегрированный VMD (Volume Management Device) для NVMe SSD и Intel VROC – встроенный для NVMe SSD;
• предусмотрена функция Quick-Assist Technology (QAT) для более быстрого шифрования и сжатия данных.

У всех процессоров есть шесть каналов DDR4 с поддержкой до 12 модулей DIMM общей вместимостью 768 гигабайт (у некоторых чипов объем 1,5 гигабайта). Также процессоры оснащаются 48 полосами PCIe 3.0 для ввода-вывода.

Серия	Ядра	Максимум процессоров	Частота базовая	Частота turbo	Память
Platinum 8100	4–28	8	2000–3600	2800–3800	DDR4-2666
Gold 6100	6–22	4	2100–3500	3000–4200	DDR4-2666
Gold 5100	4–14	4	1900–3600	2800–3700	DDR4-2666
Silver 4100	4–12	2	1800–2600	3000	DDR4-2400
Bronze 3100	6–8	2	1700	-	DDR4-2133

Появилось в апреле 2019 года. Оно сочетается с предыдущим поколением по разъему, чипсету и материнской плате, но появились некоторые новинки. Например, изменился BIOS и техпроцесс. Это тот же 14 нм, но с обновлениями.

Но главное обновление поколения – усовершенствованный встроенный контроллер памяти, который позволил внедрить поддержку постоянной памяти Intel Optane DC. Она делает систему более производительной, поэтому время задержки уменьшается, система работает быстрее.

Улучшенный контроллер совместим как с планками памяти DDR4 DIMM, так и с памятью Optane DC DIMM. Каналы можно разделять между двумя видами. Например, в одном канале может использоваться обычный модуль DDR4 DIMM, а в другом – Optane DC DIMM. Модули DIMM хорошо сочетаются с памятью DDR4. Они не такие быстрые, как модули DRAM, но быстрее простых твердотельных накопителей. Их скорости достаточно для применения в качестве «медленной основной памяти».

Также в новом поколении модернизированы технологии Intel Resource Director Technology (RDT) и Speed Select (SST). RDT позволяет проводить тонкий контроль работы приложений и применения памяти. Технология не новая, но здесь она хорошо проработана. Задача RDT – обеспечивать важным приложениям доступ к нужным ресурсам. Однако другие приложения, менее важные в данный момент, получают меньше ресурсов.

SST – такая же технология, но работает она с ядрами. С ее помощью проще отрегулировать настройки каждого ядра. Затем к более важным ядрам (с приоритетом) привязываются такие же, более важные, приложения. Обе технологии вместе обеспечивают более высокую производительность при работе всей системы в целом.

Еще одна новинка второго поколения – работа с инструкциями векторной нейронной сети AVX512 VNNI. Благодаря этому повышается пропускная способность памяти. Для процессоров золотого и платинового уровня теперь можно использовать память DDR4-2933. Но на каждый канал предусмотрен только один DIMM. В версиях с двумя DIMM на каждый канал частота будет меньше – 2666 MT/s.

Серия	Ядра	Максимум процессоров	Частота базовая	Частота turbo	Память
Platinum 9200	32–56	8	2100–2600	3700–3800	DDR4-2933
Platinum 8200	4–28	8	2200–3800	3000–4000	DDR4-2933
Gold 6200	8–24	4	1800–4500	3600–4400	DDR4-2933
Gold 5200	4–18	4	1900–3800	3400–4100	DDR4-2933
Silver 4200	8–16	2	2100–3200	3200–4000	DDR4-2400
Bronze 3200	6	2	1900	-	DDR4-2133

Появилось в апреле 2021 года. Это первые процессоры семейства, которые выполнены с использованием 10-нм техпроцесса. По данным производителя, данное поколение в 1,5 раза производительнее первого поколения. А по некоторым направлениям значение еще выше: для искусственного интеллекта – 1,7, для виртуализации – тоже 1,7, для транзакций СУБД – 1,6.

В этом поколении используется совершенно новый контроллер памяти, который имеет поддержку 8 каналов DDR4-3200, что повышает пропускную способность по сравнению с предыдущими поколениями, в которых было 6 каналов. Число точек подключения к внутренней mesh-структуре увеличилось до четырех (раньше было две). Также имеется поддержка памяти Optane DC второго поколения. Она примерно на 30 % быстрее модулей первого поколения. Управление питанием теперь производится через отдельную шину, которая работает отдельно от главной шины. Это повышает надежность системы. Теперь чип может менять частоту ядер за 12 микросекунд. При этом не возникает просадок, которыми отличались процессоры Cascade Lake.

Режим потребления энергии теперь тоже меняется проще. А частота при работе с инструкциями AVX теперь не снижается. Многие не слишком требовательные инструкции теперь выполняются на более высоких частотах.

Чипы третьего поколения имеют технологию Deep Learning Boost (DL Boost), которая позволяет ускорять работу искусственного интеллекта, а также имеет улучшенную поддержку других функций и системы безопасности. Например, теперь есть поддержка полного шифрования памяти Total Memory Encryption (TME), которая защищает данные на сервере и виртуальные машины. Защитный ключ генерируется и располагается внутри CPU.

Технология Intel Crypto Acceleration, которая тоже применяется в этом поколении процессоров, производит защиту криптографических данных. Также теперь расширена поддержка технологии SGX (Software Guard Extensions). Она используется для создания в памяти анклавов, которые защищены от влияния ОС, гипервизора и периферийных устройств.

Еще одна новинка третьего поколения – модернизированные контроллеры PCI Express 4.0 с новым модулем виртуализации и лучшей масштабируемостью при высоких нагрузках.

Серия	Ядра	Максимум процессоров	Частота базовая	Частота turbo	Память
Platinum 8300	24–40	2	2100–3200	2700–3700	DDR4-3200
Gold 6300	8–32	2	2000–3600	2600–3700	DDR4-3200
Gold 5300	8–26	2	2100–3200	2600–3600	DDR4-2933
Silver 4300	8–20	2	2100–2800	2700–3600	DDR4-2666

Появилось в январе 2023 года. Для производства чипов используется технический процесс Intel 7 (это тот же 10-нм техпроцесс, но с новым названием). Общая производительность повысилась в 1,5 раза, если сравнивать с третьим поколением. А по некоторым параметрам значения еще выше:

• в 10 – при работе искусственного интеллекта;
• в 3 раза – при анализе массивов данных;
• в 2 раза повысилась скорость выполнения архивации и конвертации;
• в 3,7 раза выросла скорость выполнения сложных вычислений (для Xeon Max).

Новая платформа поддерживает до 60 ядер, а вместо памяти DDR4 используется DDR5. Шина PCI Express 4 здесь модернизирована до 5-го поколения, а постоянная память Optane DC – до 3-го. Обновленная шина работает в два раза быстрее на каждой полосе, а для одного чипа здесь предусмотрено до 80 полос PCI Express (раньше было до 64).

Также имеется новый стандарт подключения Compute Express Link (CXL 1.1). Это улучшенный протокол PCIe, благодаря которому работа между процессором и периферией становится более согласованной.

Также в четвертом поколении используются встроенные ускорители, которые повышают производительность при выполнении целого ряда задач:

• ускоритель матричных операций (AMX) – улучшает производительность машинного обучения и ИИ;
• ускоритель динамической балансировки нагрузки (DLB) – повышает безопасность и снижает нагрузку на шлюзы;
• ускоритель потоковой передачи данных (DSA) – обеспечивает более продуктивную работу сетей и снижает нагрузку на хранилища. Данные внутри системы перемещаются, а нагрузка на основные ядра становится меньше. В новом поколении используется от 1 до 4 процессоров DSA;
• ускоритель работы оперативной памяти Intel (IAA) – позволяет быстрее обрабатывать базы данных и повышает пропускную способность.

Аппаратные ускорители часто исключают необходимость использования внешних ускорителей. К тому же часто применяется продукция других производителей, поэтому требуется подбор по совместимости.

Другая особенность поколения – услуга Intel On-Demand. При ней для ускорителя, который уже имеется в процессоре, нужна лицензия. Еще можно купить один раз или покупать по подписке. Для активации лицензии нужна поддержка ОС.

Серия	Ядра	Максимум процессоров	Частота базовая	Частота turbo	Память
Max 9400	32–56	2	1900–2700	3500	DDR5-4800
Platinum 8400	16–60	8	1700–2800	3200–4100	DDR5-4800
Gold 6400	8–32	4	1800–3600	3400–4200	DDR5-4800
Gold 5400	8–28	2	2000–2900	3800–4100	DDR5-4400
Silver 4400	12–20	2	2000	3900	DDR5-4000
Bronze 3400	8	1	1800	1900	DDR5-4000

Появилось в декабре 2023-го. Технический процесс остался прежним – 10-нм Intel 7. Назначение этого поколения – модернизация систем, которые уже применяются в четвертом поколении. Это позволяет повысить производительность и уменьшить стоимость модернизации по сравнению с полным обновлением системы.

В среднем поколение стало на 20 % более производительным, а при работе искусственного интеллекта и сложных вычислениях – на 40 %. При этом энергии потребляется на треть меньше, что снижает затраты на 77 % в течение 5 лет.

Для обеспечения такого роста в процессоре используется память DDR5-5600, а кеш последнего уровня (LLC) увеличен до 320 Мбайт. Гибкость построения подсистем памяти обеспечивается использованием CXL 1.1 Type 1/2/3.

К тому же на 25 % увеличилась работоспособность межпроцессорного интерфейса UPI, до 20 ГТ/с. Вместе с более высокой скоростью работы подсистемы памяти и повышенным LLC общая производительность становится выше. При этом платформенная совместимость остается неизменной.

Другая новинка пятого поколения – аппаратная поддержка расширений TDX (Trust Domain Extensions). На деле это совершенно новый режим работы чипа, при котором можно полностью отделить виртуальную машину от всего, что происходит вне домена. Защита содержимого тоже аппаратная, что практически исключает штраф производительности. При этом общая производительность даже с защитой остается более высокой, чем без TDX.

Серия	Ядра	Максимум процессоров	Частота базовая	Частота turbo	Память
Platinum 8500	32–64	2	1900–2800	3900–4100	DDR5-5600
Gold 6500	8–36	2	2100–3600	3900–4200	DDR5-5200
Gold 5500	8–28	2	2100–3200	3700–4100	DDR5-4800
Silver 4500	8–24	2	2000–2600	3400–4100	DDR5-4400
Bronze 3500	8	1	2100	2200	DDR5-4400