Российские силовики закупили необычные отечественные суперкомпьютеры

10.12.2018     

Более сотни суперкомпьютеров российского производства закупили силовые ведомства. Особенность устройств – система жидкостного охлаждения в прозрачном корпусе с неоновой подсветкой. Разбираемся, что это за техника, и что она может.

Супер, но мини

История мини-суперкомпьютеров «Сторус» началась шесть лет назад. В 2012 году стало известно о первой кооперации «Сторуса» с Институтом программных систем им. А. К. Айламазяна РАН (ИПС). Суперкомпьютеры в комплектации «мини» разработали специалисты ИПС по заказу «Сторуса». Устройства из первой линейки имели погружное жидкостное охлаждение, за что их называли «аквариумами». Прозвище закрепилось.

Не только для силовиков

Объемы производства для гражданских нужд не афишируют, но компания хотела активно продвигать «аквариумные устройства» в финансовой и нефтегазовой отраслях. В «Сторусе» рассказали, что первую сотню устройств выпустили ещё в 2017 году. Поставляли «аквариумы» в исследовательский ядерный университет МИФИ и Таганрогский авиационный научно-технический комплекс имени Г. М. Бериева (ТАНТК). До конца декабря должна завершится установка кластера в московском Объединенном институте высоких температур РАН (ОИВТ).

Эксперты полагают, что в ОИВТ поставили кластер за 16 млн рублей. Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3. Она поддерживает первый российский интерконнект «Ангара», созданный в НИЦЭВТ. Пиковая производительность кластера – не менее 13,5 ТФлопс.

 

Фото Cnews.ru

 

Что внутри

Российские компьютеры построены не на «Байкалах» и «Эльбрусах», а на комплектующих топовых мировых производителей. В основе – процессоры Intel и AMD, а также графические ускорители Nvidia и других брендов, сопроцессоры и сопутствующие элементы. Сама Intel, к слову, также показывала суперкомпьютеры с погружным охлаждением. Каждый из кластеров, которые поставили силовикам, содержит более тысячи вычислительных ядер. Но конфигурация хранится в секрете – ее не определить даже через прозрачный корпус.

Впрочем, на «Эльбрусах» производитель также создал «аквариумные» кластеры. Но они зависли на стадии прототипов – реальных заказчиков на такие решения пока не нашли.

Перспективность жидкостного охлаждения

Погружное жидкостное (иммерсионное) охлаждение считалось бесперспективным решением. Специалисты полагали, что для создания мощных кластеров необходимы легко масштабируемые системы, а иммерсионные охладители масштабировались плохо. Но время доказало, что жидкостное охлаждение – выбор будущего.

В топ-500 самых производительных кластеров мира входит ряд компактных систем с погружным охлаждением, которые являются крайне экономичными. В ИПС своевременно поняли, что охлаждать кластеры с помощью плат, которые прилегают к греющейся электронике, неэффективно. Воздушный вариант также не обеспечил должного эффекта, поэтому выбор пал на иммерсионные системы.

 

 

Будущее охлаждения кластеров

По мнению директора ИПС Сергея Абрамова, погружные системы в будущем смогут заменить решения с поливным охлаждением. В них процессоры опрыскивают каплями и струями. ИПС совместно со «Сторусом» уже создали такую систему. Ею заинтересовались компании, которые занимаются майнингом криптовалют.

Но когда курс биткоина (а за ним – и весь рынок) пошел вниз, от дальнейших планов по развитию поливного охлаждения пришлось отказаться. Еще один подход – охлаждение кипением. Для этого нужно использовать хладагент, у которого фазовый переход из жидкого в парообразное состояние происходит при 55-60 градусах Цельсия – это оптимальная температура для электроники.

Если непрерывно опрыскивать платы выкипающим хладагентом, можно достигнуть равномерного охлаждения всех размещенных в корпусе суперкомпьютера чипов. В погружных «аквариумах» с этим есть проблема: нижние и верхние слои жидкости имеют разную температуру из-за конвекционной циркуляции. Но пока разработчики не отработают вложения в системы погружного охлаждения, технологии вряд ли пойдут вперед. На их разработку просто нет средств.


Автор:
Ксения Шестакова Обозреватель


Имеете ли вы опыт работы с компьютерами, где используется погружное жидкостное охлаждение?


Да, такие компьютеры продуктивнее обычных устройств (2.94%, 1 голосов)
2.94%
Да, абсолютно бесполезная задумка (11.76%, 4 голосов)
11.76%
Нет, никогда с такими не сталкивался (85.29%, 29 голосов)
85.29%
Свой вариант (в комментариях) (0%, 0 голосов)
0%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. starik-2005 2229 10.12.18 10:32 Сейчас в теме
Заголовок плохо отражает суть, а она вот тут:
Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3
Т.е. не только железо импортное, но даже ось не могли взять местную, коих не мало.
evn-zorin; shard; A_Max; Йожкин Кот; ilialin; awk; +6 Ответить
2. user774630 10.12.18 10:35 Сейчас в теме
(1) зато подсветка неоновая!
shard; chebser; +2 Ответить
3. starik-2005 2229 10.12.18 10:37 Сейчас в теме
(2)
зато подсветка неоновая
Ну это в каждом домашнем компе, собранном на коленке, есть. Так что тут каждый российский продвинутый пользователь является производителем отечественных компьютеров с неоновой подсветкой.
7. feva 426 10.12.18 10:50 Сейчас в теме
(3)
суперкомпьютеров российского производства закупили силовые ведомства.

Вот это предложение раскрывает суть статьи.
"Обычный ПК" - 1000$
РОССИЙСКОГО ПРОИЗВОДСТВА "Обычный ПК" - 2500$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$
как то так.
Serega-artem; evn-zorin; abadonna83; shard; Йожкин Кот; pavlov_dv; ilialin; user764477; KEV8383; Kaspirovsky; Kochergov; +11 Ответить
8. Darklight 24 10.12.18 10:52 Сейчас в теме
(7)Ну, думаю, в США высокопроизводительные спецкомпьютеры для силовиков тоже не дёшевые будут! С домашними их уж точн не стоит сравнивать! Да и домашние, если говорить о системах энтузиастов с экстремальной производительностью (и экстремальным охлаждением) + с экслюзивным моддингом - тоже не будут дешёвыми! Совсем не будут дешёвыми!
10. feva 426 10.12.18 11:59 Сейчас в теме
(8)
"НЕ Обычный супир мощный кампуктир" - 10 000$
РОССИЙСКОГО ПРОИЗВОДСТВА "НЕ Обычный супир мощный кампуктир" - 25 000$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "НЕ Обычный супир мощный кампуктир"- 100 000$
Так лучше и понятнее суть месседжа?
12. Darklight 24 10.12.18 12:46 Сейчас в теме
(10)Ваш посыл понятен и, скорее всего, Вы правы (раз данные компьютер не поступили в розницу ни в каком виде - говорить о их фактической себестоимости, и эффективности применения на каждый потраченный рубль, не приходится), но всё-таки, давайте посчитаем и определим на сколько всё плохо:
Один 16 ядерный процессор amd epyc стоит около 100 тыс руб (к сожалению в новости почти ничего не сказано о тех. характеристиках кластера - но будем считать, что они высокие (но, конечно можно перевести указанные в новости терафлопсы в имеющееся на рынке железо - хотя, надо заметить, 13.5 Тфлопс в пике - это, по нынешним меркам, не много, как мне кажется - но я не знаю, сколько флопсов выдают современные 16 ядерные процессоры ) - раз применяют погруженное охлаждение - значит цель - максимальная производительность; чипы intel - ещё дороже). В кластере их 48 штук - т.е. одни только процессоры это около 5млн руб. Про видеоускорители почти ничего не написано - но надо полагать - там профессиональные ускорители от NVidia, например Tesla P100 - для дата центров - такой стоит более 300 тыс рублей за штуку - вот сколько их там - ну, допустим 4 (наиболее оптимально) на каждую материнскую плату. Сколько же материнских плат в таком кластере - ну, думаю, для 48 процессоров не менее 6 - итого 4*16 = 24 ускорителя - скажем по 300 тысяч (а числодробилки v100 стоили бы по 600 тыс) это уже 7 млн. Это уже 13 млн. А мы ещё не посчитали стоимости 6 специальных серверных мат плат - как минимум по 300 тыщ за штуку - это ещё более миллиона. А ведь там ещё и материнские платы, и память и СХД + БП + система жидконсного охлаждения (она одна на пару лямов может потянуть - весь специально разработанный комплект если посчитать) + сборка + разработка + тестирование + налоги + продвижение + ещё и прибыль надо получить! А ещё ПО - там наверняка не freeware edition без поддержки!

Так что, цена в 16 млн за кластер мне не кажется уж как-то сильно завышенной и попиленной на откаты!

Конечно, там, наверняка, железо всё-таки немного по проще - ну даже если сократить себестоимость раза в 2 и выкинуть все легальные накрути - всё равно это не выйдет рамки разумного! Там же не селероны или атомы поставляются - там всё-таки очень мощное железо с системой ултраэкстремального охлаждения - для получения очень высокой производительности в расчётах!

А в долларах 16 млн сейчас это 242тыс$ - много ли это для оборонного компьютера - прикидывайте сами - думаю в США это было бы на порядок дороже!
rintik; Perfolenta; +2 Ответить
9. Kaspirovsky 11 10.12.18 11:02 Сейчас в теме
(7)
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$

Главное сделать умный вид и сказать что распилили 10 тон зеленых и собрали из сделанных в Китае американских составляющих, студенты-практиканты на коленке!!! но зато какая подсветка!!!! :))
rintik; Perfolenta; user774630; +3 Ответить
19. Ziggurat 48 10.12.18 17:20 Сейчас в теме
(2) Тоже, поди, импортная, с Китая заказывали.
6. Darklight 24 10.12.18 10:47 Сейчас в теме
(1)Видать местные ОСи с жидкостью не совместимы - ржавеют и далее работают "со скрипом" ;-)
23. user1111922 16.12.18 12:54 Сейчас в теме
(1)
даже ось не могли взять местную

Где ты российские оси увидел?
4. vano-ekt 845 10.12.18 10:46 Сейчас в теме
20. Healer 1 10.12.18 17:33 Сейчас в теме
(4) Спасибо, повеселили! "Я изучил Интернет за два дня. И скачал его на флешку. Вот она!" - больше не мем. Феерический писец.
21. Perfolenta 10.12.18 22:46 Сейчас в теме
(4) да уж... к сожалению, невежество журналистов помноженное на невежество "будущих светил науки" выдают вот такие шедевры... сами "будущие светила науки" виноваты в этом меньше всего... а вот родители и педагоги очень виноваты... а главные виновники это либеральные идеологи, которые навязывают идиотские практики обучения...
5. Darklight 24 10.12.18 10:46 Сейчас в теме
Забавно. Интересно, как это сделано? Интересовался погружным охлаждение лет так 10 назад. По этой теме были прочитаны разные статьи. Но тогда всё свелось к тому, что погружение даже в деионизированную воду - не обеспечивает долговечной надёжности - типа от самих погружённых в такую жидкость компонентов выделяются ионы - которые со временем накапливаются в достаточном числе, так что, в воде легко распределяются по всему объёму и в конечном итоге создают проводимость - и система начинает глючить - в конечном итоге выключается.

Другой вариант - это использование специальных масел (ну растительное или машинное тоже годится - но менее) - так компьютер работает дольше (масло более вязкое - ионы от компонент компьютера просто дольше в нём распространяются) - но со временем компьютер тоже начинал глючить (хоть и значительно позже чем с деонизированной водой).

Вот, что за жидкостный диэлектрик, да ещё и с очень высокой теплопроводностью, использовали в этих проектах - в новости ни слова.

Да и странные фото - там в жидкость помещены компоненты с воздушными куллерами (пропеллерными вентиляторами) - они вообще не будут работать в жидкости -вернее некоторое время проработают - мутя и загрязняя жидкость маслом из подшипников - и вырубятся.

Пока это больше похоже на первоапрельскую шутку - но вроде до 1-го апреля ещё очень далеко....

Да и странно, что такие решения заказали силовики и компания в первую очередь поставляет именно им - на мой взгляд - таке компьютеры больше смотрелись бы как эксклюзивные розничные решения - там где стиль, важнее стоимости! Не думаю, что эффективность охлаждения и, как следствие, производительность таких систем так уж принципиально выше, чем классические системы экстремального охлаждения - например азотом! Уж не говоря уже о моддинге - стеклянный корпус и подсветка - такая эффектность для иммиджевых рабочих станций только требуется - а для ЦОД - все эти украшения не имеют значения.
SKravchenko; +1 Ответить
11. for_sale 821 10.12.18 12:45 Сейчас в теме
Безотказный генератор мемов:
<Наименование государственного органа> закупили отечественные <нано, супер, инновационные> <наименование какого-нибудь устройства>
13. genayo 10.12.18 12:54 Сейчас в теме
А вроде как на Эльбрусах компы силовики закупить должны были...
14. Darklight 24 10.12.18 12:58 Сейчас в теме
(13)под разные задачи - мелким чиновникам эльбрусы - кто покрупнее - тому вот такие кластеры - чтобы CS-ка не тормозила! Ну а крупным шышкам - пока ещё не спроектировали - такие шкафы мейнфреймов даже в их гигантские кабинеты не помещаются! А на менее производительных - у них косынка поддтормаживает....
15. starik-2005 2229 10.12.18 14:01 Сейчас в теме
(14)
поддтормаживает
Вот зря Шахиджанян свою программу так дешево продает )))
16. A_Max 18 10.12.18 14:42 Сейчас в теме
Тут два варианта:
* красивый сферичиский демо стенд для прессы
* мощный пропил денег

Если первое, то настучать по головам демонстраторам, потому как тогда нужно сразу говорить, что это просто для демонстрации "принципа" и НИЧЕГО общего с реальной установкой не имеет.
Если второе, то тогда "настучать по башке" расширяется и в количественном состве участников и в мощности удара вплоть до "с конфискацией".
17. TABEZI1234 10.12.18 14:54 Сейчас в теме
следить за нами, бузотерами))
18. Darklight 24 10.12.18 15:17 Сейчас в теме
Кстати, распил распилом. А у таких компьютеров с погружной жидкостной системой охлаждения для использования в силовых структурах есть определённое специфическое преимущество - такая организация корпуса (и наполнения) делает его высокоизолированным от внешнего воздействия - любая попытка несанкционированно проникнуть внутрь - приведёт к расгеремитизации корпуса - падению уровню жидкости и аварийному отключению компьютера (с оповещением).

Хотя.... любая ли..... вон шарики иголками прокалывают и ничего - не лопаются - тут, думаю тоже можно обойти разгермитизацию. И прозрачный корпус даже наоборот - может эффективно проникнуть внутрь.
22. ginesis 13.12.18 06:44 Сейчас в теме
Неоновая подсветка - очень важная часть? Без нее уже не та производительность? Как и прозрачность корпуса )
Оставьте свое сообщение

См. также

Европейский парламент хочет предоставить потребителям ЕС «право на ремонт»

Новость Законодательство ИТ-новость Микроэлектроника

Парламент ЕС проголосовал за «права на ремонт» для Европы, которые облегчат потребителям ремонт их устройств. Также одобренные правила будут пресекать методы, используемые производителями для сокращения срока службы их продуктов.

вчера в 11:42    1117    capitan    3       

Новые процессоры AMD, Intel и Qualcomm получат платформу безопасности Microsoft Pluton

Новость Windows Безопасность ИТ-новость Микроэлектроника Новости компаний

Компания Microsoft разработала платформу безопасности Pluton, чтобы защитить пользователей Windows 10 на программном и аппаратном уровнях. Производители AMD, Intel и Qualcomm подтвердили, что встроят эту платформу в чипсеты новых поколений.

вчера в 09:26    1375    user1015646    1       

Android-разработчикам продлили срок подтверждения приложений с запросом геолокации

Новость Android ИТ-новость Мобильные приложения

Корпорация Google продлила срок выполнения требований для Android-приложений, которые запрашивают данные о местоположении пользователей. По новым правилам, такие приложения должны получить одобрение Google Play.

01.12.2020    1282    user1015646    0       

Ускорение работы и защита от null: представлен PHP 8.0

Новость Интернет ИТ-новость Языки программирования

Вышла в релиз восьмая версия языка программирования PHP. Главные особенности – поддержка JIT-компилятора, появление оператора безопасного null и возможность создавать аннотации в IDE.

30.11.2020    1424    VKuser24342747    2       

Apple изменит механизм подтверждения приложений на Mac

Новость Mac OS ИТ-новость

Разработчики Apple решили пересмотреть подход к подтверждению надежности приложений для macOS. Существующий механизм после выпуска macOS Big Sur привел к глобальным сбоям.

27.11.2020    1370    user1015646    0       

Частота получена: Apple начнет тестировать в России скоростной аналог Bluetooth

Новость iOS ИТ-новость Мобильные приложения

В последних версиях iPhone Apple добавила технологию быстрой передачи данных через аналог Bluetooth. В России особенность американских смартфонов не работает, потому что компания не имеет права использовать подходящую частоту.

27.11.2020    1128    VKuser24342747    0       

Internet Archive спасёт Flash от забвения

Новость Интернет ИТ-новость

Internet Archive – некоммерческая цифровая библиотека, в преддверии запланированного прекращения поддержки Flash в конце 2020 года объявила, что сохранит Flash-анимацию и игры. Архив будет использовать эмулятор Ruffle.

26.11.2020    2145    SKravchenko    3       

Браузеры для Windows 7 смогут прожить дольше из-за коронавируса

Новость Windows Интернет ИТ-новость Новости компаний

Браузеры Google Chrome и Microsoft Edge будут получать обновления для версий под Windows 7 и в 2021 году. Компании объявили, что смещают сроки прекращения выпуска новых патчей.

26.11.2020    1564    VKuser24342747    0       

Минцифры выпустило приложение для отслеживания контактов с заболевшими коронавирусом

Новость Безопасность ИТ-новость Минкомсвязь Мобильные приложения

Министерство цифрового развития России завершило работу над приложением «Госуслуги.COVID трекер». Оно будет оповещать о контактах с людьми, которые заболели Covid-19 – это поможет остановить распространение вируса.

25.11.2020    2766    user1015646    3       

Сколтех показал полностью российскую рабочую станцию 5G

Новость Импортозамещение ИТ-новость Стартапы Телекоммуникации

Сколковский институт науки и технологий презентовал прототип первой российской станции для мобильного интернета пятого поколения. Устройство поддерживает основные рабочие диапазоны 5G. Массовое внедрение начнется в 2023 году.

25.11.2020    2804    VKuser24342747    2       

Microsoft готовит Office для Mac на базе Big Sur и M1

Новость Mac OS ИТ-новость Новости компаний

Через день после того, как Apple представила новые компьютеры на собственной микросхеме, Microsoft выпустила новый Office для Mac, который будет работать на новом оборудовании.

25.11.2020    1670    SKravchenko    0       

Крупное обновление: Chrome 87 стал в пять раз меньше нагружать процессор

Новость Google Интернет ИТ-новость

Разработчики Google представили новую версию самого популярного браузера в мире. Он загружается на 25% быстрее предшественника и в пять раз меньше нагружает ресурсы процессора.

25.11.2020    1806    user1015646    0       

Браузеры на Chromium начнут блокировать JavaScript-код при запуске новых вкладок

Новость Google Безопасность Интернет ИТ-новость

Браузер Google Chrome по умолчанию не будет поддерживать JavaScript-редирект при открытии ссылок в новой вкладке. Обновление безопасности затронет все приложения на базе движка Chromium.

24.11.2020    1927    VKuser24342747    0       

Старые Android-устройства перестанут открывать до 30% сайтов

Новость Безопасность Интернет ИТ-новость Мобильные приложения

Миллионы сайтов в 2021 году станут недоступны на устаревших Android-устройствах. Все дело в корневых сертификатах безопасности DST Root X1: организация Let's Encrypt перестанет их подписывать.

23.11.2020    1770    user1015646    3       

Евросоюз запретит сквозное шифрование в мессенджерах

Новость Безопасность ИТ-новость

Совет министров Евросоюза (ЕС) максимально приблизился к запрету сквозного шифрования в мессенджерах. Причина – серия терактов в европейских городах: власти ЕС утверждают, что атаки координировали через мессенджеры со сквозным шифрованием.

20.11.2020    1822    user1015646    39       

Huawei продает бренд Honor

Новость ИТ-новость Мобильные приложения Новости компаний

Китайская компания Huawei решила продать свой суббренд Honor. Это должно помочь ей выжить на фоне санкций, введенных властями США.

20.11.2020    2387    user1015646    0       

Microsoft представила новый Linux: CBL-Mariner

Новость Linux ИТ-новость Новости компаний

Группа Microsoft Linux Systems недавно выпустила новый дистрибутив Linux: CBL-Mariner. Дистрибутив является частью инфраструктуры Azure, используемой для пограничных сетевых служб.

20.11.2020    1552    SKravchenko    2       

Apple впервые представила ноутбуки на собственных процессорах

Новость Mac OS ИТ-новость

Компания Apple выпустила первые ноутбуки на собственных чипах Apple Silicon M1. В синтетических тестах они обогнали Intel, которые использовались ранее. Но эксперты обнаружили, что с М1 не все так однозначно.

19.11.2020    2719    user1015646    0       

Microsoft представила .NET 5 с поддержкой Linux и WebAssembly

Новость ИТ-новость Языки программирования

10 ноября Microsoft представила новый выпуск платформы .NET 5 с поддержкой Linux, macOS и WebAssembly. Это следующий крупный выпуск .NET Core после 3.1.

19.11.2020    2895    SKravchenko    3       

Безопасность и командная работа: вышел релиз GitLab 13.5

Новость git ИТ-новость Новости компаний

Репозиторий GitLab получил обновление до версии 13.5. В новом релизе разработчики сконцентрировались на безопасности мобильных приложений и совместной работе, добавили вики-страницы для групп.

19.11.2020    2566    VKuser24342747    0       

Xiaomi представила собственную платформу для устройств интернета вещей

Новость ИТ-новость Новости компаний Робототехника

Интернет вещей называют главным вектором роста глобальной сети. Чтобы обеспечить эффективное взаимодействие внутри экосистемы умных устройств, китайский гигант Xiaomi разработал собственную платформу интернета вещей – Xiaomi Vela.

18.11.2020    2460    user1015646    0       

Холодное хранение: Совет Федерации предложил построить дата-центры в Арктике

Новость Дата-центры ИТ-новость

Правительство рассмотрит идею размещения вычислительных центров в российской Арктике. ЦОДы должны обеспечить ИТ-инфраструктурой северные регионы страны.

18.11.2020    2042    VKuser24342747    1       

Создатель Python присоединился к Microsoft

Новость ИТ-новость Новости компаний Языки программирования

Разработчик языка Python Гвидо ван Россум пришел в компанию Microsoft. Год назад создатель одного из самых популярных языков в мире ушел на пенсию, но решил вернуться в «большой спорт».

18.11.2020    2461    user1015646    1       

Apple запретила владельцам устройств с iOS пользоваться эмуляторами терминала

Новость iOS Безопасность Интернет ИТ-новость Мобильные приложения

Разработчики двух популярных iOS-приложений для эмуляции Linux терминала рассказали, что их программы могут быть удалены из App Store. В Apple заявили, что санкции связаны с возможностью скачивать код через команду wget.

17.11.2020    1929    VKuser24342747    0