Российские силовики закупили необычные отечественные суперкомпьютеры

10.12.2018      23214

Более сотни суперкомпьютеров российского производства закупили силовые ведомства. Особенность устройств – система жидкостного охлаждения в прозрачном корпусе с неоновой подсветкой. Разбираемся, что это за техника, и что она может.

Супер, но мини

История мини-суперкомпьютеров «Сторус» началась шесть лет назад. В 2012 году стало известно о первой кооперации «Сторуса» с Институтом программных систем им. А. К. Айламазяна РАН (ИПС). Суперкомпьютеры в комплектации «мини» разработали специалисты ИПС по заказу «Сторуса». Устройства из первой линейки имели погружное жидкостное охлаждение, за что их называли «аквариумами». Прозвище закрепилось.

Не только для силовиков

Объемы производства для гражданских нужд не афишируют, но компания хотела активно продвигать «аквариумные устройства» в финансовой и нефтегазовой отраслях. В «Сторусе» рассказали, что первую сотню устройств выпустили ещё в 2017 году. Поставляли «аквариумы» в исследовательский ядерный университет МИФИ и Таганрогский авиационный научно-технический комплекс имени Г. М. Бериева (ТАНТК). До конца декабря должна завершится установка кластера в московском Объединенном институте высоких температур РАН (ОИВТ).

Эксперты полагают, что в ОИВТ поставили кластер за 16 млн рублей. Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3. Она поддерживает первый российский интерконнект «Ангара», созданный в НИЦЭВТ. Пиковая производительность кластера – не менее 13,5 ТФлопс.

 

Фото Cnews.ru

 

Что внутри

Российские компьютеры построены не на «Байкалах» и «Эльбрусах», а на комплектующих топовых мировых производителей. В основе – процессоры Intel и AMD, а также графические ускорители Nvidia и других брендов, сопроцессоры и сопутствующие элементы. Сама Intel, к слову, также показывала суперкомпьютеры с погружным охлаждением. Каждый из кластеров, которые поставили силовикам, содержит более тысячи вычислительных ядер. Но конфигурация хранится в секрете – ее не определить даже через прозрачный корпус.

Впрочем, на «Эльбрусах» производитель также создал «аквариумные» кластеры. Но они зависли на стадии прототипов – реальных заказчиков на такие решения пока не нашли.

Перспективность жидкостного охлаждения

Погружное жидкостное (иммерсионное) охлаждение считалось бесперспективным решением. Специалисты полагали, что для создания мощных кластеров необходимы легко масштабируемые системы, а иммерсионные охладители масштабировались плохо. Но время доказало, что жидкостное охлаждение – выбор будущего.

В топ-500 самых производительных кластеров мира входит ряд компактных систем с погружным охлаждением, которые являются крайне экономичными. В ИПС своевременно поняли, что охлаждать кластеры с помощью плат, которые прилегают к греющейся электронике, неэффективно. Воздушный вариант также не обеспечил должного эффекта, поэтому выбор пал на иммерсионные системы.

 

 

Будущее охлаждения кластеров

По мнению директора ИПС Сергея Абрамова, погружные системы в будущем смогут заменить решения с поливным охлаждением. В них процессоры опрыскивают каплями и струями. ИПС совместно со «Сторусом» уже создали такую систему. Ею заинтересовались компании, которые занимаются майнингом криптовалют.

Но когда курс биткоина (а за ним – и весь рынок) пошел вниз, от дальнейших планов по развитию поливного охлаждения пришлось отказаться. Еще один подход – охлаждение кипением. Для этого нужно использовать хладагент, у которого фазовый переход из жидкого в парообразное состояние происходит при 55-60 градусах Цельсия – это оптимальная температура для электроники.

Если непрерывно опрыскивать платы выкипающим хладагентом, можно достигнуть равномерного охлаждения всех размещенных в корпусе суперкомпьютера чипов. В погружных «аквариумах» с этим есть проблема: нижние и верхние слои жидкости имеют разную температуру из-за конвекционной циркуляции. Но пока разработчики не отработают вложения в системы погружного охлаждения, технологии вряд ли пойдут вперед. На их разработку просто нет средств.


Автор:
Обозреватель


Имеете ли вы опыт работы с компьютерами, где используется погружное жидкостное охлаждение?


Да, такие компьютеры продуктивнее обычных устройств (2.94%, 1 голосов)
2.94%
Да, абсолютно бесполезная задумка (11.76%, 4 голосов)
11.76%
Нет, никогда с такими не сталкивался (85.29%, 29 голосов)
85.29%
Свой вариант (в комментариях) (0%, 0 голосов)
0%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. starik-2005 2772 10.12.18 10:32 Сейчас в теме
Заголовок плохо отражает суть, а она вот тут:
Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3
Т.е. не только железо импортное, но даже ось не могли взять местную, коих не мало.
evn-zorin; shard; A_Max; Йожкин Кот; ilialin; awk; +6 Ответить
2. user774630 10.12.18 10:35 Сейчас в теме
(1) зато подсветка неоновая!
shard; chebser; +2 Ответить
3. starik-2005 2772 10.12.18 10:37 Сейчас в теме
(2)
зато подсветка неоновая
Ну это в каждом домашнем компе, собранном на коленке, есть. Так что тут каждый российский продвинутый пользователь является производителем отечественных компьютеров с неоновой подсветкой.
7. feva 482 10.12.18 10:50 Сейчас в теме
(3)
суперкомпьютеров российского производства закупили силовые ведомства.

Вот это предложение раскрывает суть статьи.
"Обычный ПК" - 1000$
РОССИЙСКОГО ПРОИЗВОДСТВА "Обычный ПК" - 2500$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$
как то так.
Serega-artem; evn-zorin; abadonna83; shard; Йожкин Кот; pavlov_dv; ilialin; user764477; KEV8383; Kaspirovsky; Kochergov; +11 Ответить
8. Darklight 28 10.12.18 10:52 Сейчас в теме
(7)Ну, думаю, в США высокопроизводительные спецкомпьютеры для силовиков тоже не дёшевые будут! С домашними их уж точн не стоит сравнивать! Да и домашние, если говорить о системах энтузиастов с экстремальной производительностью (и экстремальным охлаждением) + с экслюзивным моддингом - тоже не будут дешёвыми! Совсем не будут дешёвыми!
10. feva 482 10.12.18 11:59 Сейчас в теме
(8)
"НЕ Обычный супир мощный кампуктир" - 10 000$
РОССИЙСКОГО ПРОИЗВОДСТВА "НЕ Обычный супир мощный кампуктир" - 25 000$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "НЕ Обычный супир мощный кампуктир"- 100 000$
Так лучше и понятнее суть месседжа?
12. Darklight 28 10.12.18 12:46 Сейчас в теме
(10)Ваш посыл понятен и, скорее всего, Вы правы (раз данные компьютер не поступили в розницу ни в каком виде - говорить о их фактической себестоимости, и эффективности применения на каждый потраченный рубль, не приходится), но всё-таки, давайте посчитаем и определим на сколько всё плохо:
Один 16 ядерный процессор amd epyc стоит около 100 тыс руб (к сожалению в новости почти ничего не сказано о тех. характеристиках кластера - но будем считать, что они высокие (но, конечно можно перевести указанные в новости терафлопсы в имеющееся на рынке железо - хотя, надо заметить, 13.5 Тфлопс в пике - это, по нынешним меркам, не много, как мне кажется - но я не знаю, сколько флопсов выдают современные 16 ядерные процессоры ) - раз применяют погруженное охлаждение - значит цель - максимальная производительность; чипы intel - ещё дороже). В кластере их 48 штук - т.е. одни только процессоры это около 5млн руб. Про видеоускорители почти ничего не написано - но надо полагать - там профессиональные ускорители от NVidia, например Tesla P100 - для дата центров - такой стоит более 300 тыс рублей за штуку - вот сколько их там - ну, допустим 4 (наиболее оптимально) на каждую материнскую плату. Сколько же материнских плат в таком кластере - ну, думаю, для 48 процессоров не менее 6 - итого 4*16 = 24 ускорителя - скажем по 300 тысяч (а числодробилки v100 стоили бы по 600 тыс) это уже 7 млн. Это уже 13 млн. А мы ещё не посчитали стоимости 6 специальных серверных мат плат - как минимум по 300 тыщ за штуку - это ещё более миллиона. А ведь там ещё и материнские платы, и память и СХД + БП + система жидконсного охлаждения (она одна на пару лямов может потянуть - весь специально разработанный комплект если посчитать) + сборка + разработка + тестирование + налоги + продвижение + ещё и прибыль надо получить! А ещё ПО - там наверняка не freeware edition без поддержки!

Так что, цена в 16 млн за кластер мне не кажется уж как-то сильно завышенной и попиленной на откаты!

Конечно, там, наверняка, железо всё-таки немного по проще - ну даже если сократить себестоимость раза в 2 и выкинуть все легальные накрути - всё равно это не выйдет рамки разумного! Там же не селероны или атомы поставляются - там всё-таки очень мощное железо с системой ултраэкстремального охлаждения - для получения очень высокой производительности в расчётах!

А в долларах 16 млн сейчас это 242тыс$ - много ли это для оборонного компьютера - прикидывайте сами - думаю в США это было бы на порядок дороже!
rintik; Perfolenta; +2 Ответить
9. Kaspirovsky 178 10.12.18 11:02 Сейчас в теме
(7)
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$

Главное сделать умный вид и сказать что распилили 10 тон зеленых и собрали из сделанных в Китае американских составляющих, студенты-практиканты на коленке!!! но зато какая подсветка!!!! :))
rintik; Perfolenta; user774630; +3 Ответить
19. Ziggurat 50 10.12.18 17:20 Сейчас в теме
(2) Тоже, поди, импортная, с Китая заказывали.
6. Darklight 28 10.12.18 10:47 Сейчас в теме
(1)Видать местные ОСи с жидкостью не совместимы - ржавеют и далее работают "со скрипом" ;-)
23. user1111922 16.12.18 12:54 Сейчас в теме
(1)
даже ось не могли взять местную

Где ты российские оси увидел?
4. vano-ekt 850 10.12.18 10:46 Сейчас в теме
20. Healer 1 10.12.18 17:33 Сейчас в теме
(4) Спасибо, повеселили! "Я изучил Интернет за два дня. И скачал его на флешку. Вот она!" - больше не мем. Феерический писец.
21. Perfolenta 10.12.18 22:46 Сейчас в теме
(4) да уж... к сожалению, невежество журналистов помноженное на невежество "будущих светил науки" выдают вот такие шедевры... сами "будущие светила науки" виноваты в этом меньше всего... а вот родители и педагоги очень виноваты... а главные виновники это либеральные идеологи, которые навязывают идиотские практики обучения...
5. Darklight 28 10.12.18 10:46 Сейчас в теме
Забавно. Интересно, как это сделано? Интересовался погружным охлаждение лет так 10 назад. По этой теме были прочитаны разные статьи. Но тогда всё свелось к тому, что погружение даже в деионизированную воду - не обеспечивает долговечной надёжности - типа от самих погружённых в такую жидкость компонентов выделяются ионы - которые со временем накапливаются в достаточном числе, так что, в воде легко распределяются по всему объёму и в конечном итоге создают проводимость - и система начинает глючить - в конечном итоге выключается.

Другой вариант - это использование специальных масел (ну растительное или машинное тоже годится - но менее) - так компьютер работает дольше (масло более вязкое - ионы от компонент компьютера просто дольше в нём распространяются) - но со временем компьютер тоже начинал глючить (хоть и значительно позже чем с деонизированной водой).

Вот, что за жидкостный диэлектрик, да ещё и с очень высокой теплопроводностью, использовали в этих проектах - в новости ни слова.

Да и странные фото - там в жидкость помещены компоненты с воздушными куллерами (пропеллерными вентиляторами) - они вообще не будут работать в жидкости -вернее некоторое время проработают - мутя и загрязняя жидкость маслом из подшипников - и вырубятся.

Пока это больше похоже на первоапрельскую шутку - но вроде до 1-го апреля ещё очень далеко....

Да и странно, что такие решения заказали силовики и компания в первую очередь поставляет именно им - на мой взгляд - таке компьютеры больше смотрелись бы как эксклюзивные розничные решения - там где стиль, важнее стоимости! Не думаю, что эффективность охлаждения и, как следствие, производительность таких систем так уж принципиально выше, чем классические системы экстремального охлаждения - например азотом! Уж не говоря уже о моддинге - стеклянный корпус и подсветка - такая эффектность для иммиджевых рабочих станций только требуется - а для ЦОД - все эти украшения не имеют значения.
SKravchenko; +1 Ответить
11. for_sale 929 10.12.18 12:45 Сейчас в теме
Безотказный генератор мемов:
<Наименование государственного органа> закупили отечественные <нано, супер, инновационные> <наименование какого-нибудь устройства>
13. genayo 10.12.18 12:54 Сейчас в теме
А вроде как на Эльбрусах компы силовики закупить должны были...
14. Darklight 28 10.12.18 12:58 Сейчас в теме
(13)под разные задачи - мелким чиновникам эльбрусы - кто покрупнее - тому вот такие кластеры - чтобы CS-ка не тормозила! Ну а крупным шышкам - пока ещё не спроектировали - такие шкафы мейнфреймов даже в их гигантские кабинеты не помещаются! А на менее производительных - у них косынка поддтормаживает....
15. starik-2005 2772 10.12.18 14:01 Сейчас в теме
(14)
поддтормаживает
Вот зря Шахиджанян свою программу так дешево продает )))
16. A_Max 19 10.12.18 14:42 Сейчас в теме
Тут два варианта:
* красивый сферичиский демо стенд для прессы
* мощный пропил денег

Если первое, то настучать по головам демонстраторам, потому как тогда нужно сразу говорить, что это просто для демонстрации "принципа" и НИЧЕГО общего с реальной установкой не имеет.
Если второе, то тогда "настучать по башке" расширяется и в количественном состве участников и в мощности удара вплоть до "с конфискацией".
17. TABEZI1234 10.12.18 14:54 Сейчас в теме
следить за нами, бузотерами))
18. Darklight 28 10.12.18 15:17 Сейчас в теме
Кстати, распил распилом. А у таких компьютеров с погружной жидкостной системой охлаждения для использования в силовых структурах есть определённое специфическое преимущество - такая организация корпуса (и наполнения) делает его высокоизолированным от внешнего воздействия - любая попытка несанкционированно проникнуть внутрь - приведёт к расгеремитизации корпуса - падению уровню жидкости и аварийному отключению компьютера (с оповещением).

Хотя.... любая ли..... вон шарики иголками прокалывают и ничего - не лопаются - тут, думаю тоже можно обойти разгермитизацию. И прозрачный корпус даже наоборот - может эффективно проникнуть внутрь.
22. My_ 13.12.18 06:44 Сейчас в теме
Неоновая подсветка - очень важная часть? Без нее уже не та производительность? Как и прозрачность корпуса )
Оставьте свое сообщение

См. также

GitHub опубликовал статистику по языкам и проектам за 2022 год

Новость ИТ-новость Языки программирования Разработка

В статистическом отчете репозитория названы самые популярные языки программирования среди пользователей платформы, а также данные об активности аудитории сервиса.

01.12.2022    1114    VKuser24342747    11       

Инспекторы смогут проводить дистанционные проверки через смартфон

Новость ИТ-новость Мобильные приложения

Минэкономразвития представило мобильное приложение, которое позволит осуществлять надзорные мероприятия бизнеса без посещения офиса. Программа работает через Госуслуги.

28.11.2022    1132    VKuser24342747    0       

«Яндекс» представил бесплатный сервис для быстрого поиска в облаке

Новость ИТ-новость Облачные технологии

Сервис Managed Service for OpenSearch от платформы Yandex Cloud предназначен для оптимизации поисковых систем и проверки стабильности и безопасности работы приложений. Услуга доступа в режиме Public Preview.

24.11.2022    1400    VKuser24342747    1       

В декабре начнут действовать новые правила регистрации доменов .RU и .РФ

Новость ИТ-новость Роскомнадзор

С 12 декабря Роскомнадзор получит право прекращать делегирование домена, если он оформлен нелегально, или на сайте содержится запрещенная в России информация.

23.11.2022    1152    VKuser24342747    1       

Stack Overflow запустил проект для оффлайн-доступа к форуму

Новость ИТ-новость Разработка

Проект под названием Overflow Offline позволяет скачать актуальную версию архива вопросов и ответов по разработке ПО. По объему данных база форума уступает только «Википедии».

02.11.2022    1151    VKuser24342747    1       

Минцифры запустило магазин российского ПО из реестра ИТ-решений

Новость Импортозамещение ИТ-новость

Маркетплейс «Руссофт» стал доступен для всех пользователей. С его помощью можно подобрать программы от отечественных разработчиков для решения корпоративных задач бизнеса.

21.10.2022    1631    VKuser24342747    4       

В ноябре начнется создание российского государственного аналога GitHub

Новость ИТ-новость

Правительство озвучило дату запуска эксперимента по разработке отечественного репозитория ПО. Исходники программ, в том числе разработанных для госорганов, будут публиковаться в нем под открытой лицензией.

19.10.2022    2373    VKuser24342747    14       

OpenAI опубликовала код системы распознавания речи Whisper

Новость Искусственный интеллект ИТ-новость

OpenAI открыла исходный код эталонной реализации на базе фреймворка PyTorch и набор уже обученных моделей для использования под лицензией MIT. Нейросеть используется для перевода речи в текст.

28.09.2022    2617    VKuser24342747    0       

Вторая версия среды разработки для плат Arduino вышла из бета-теста

Новость ИТ-новость Микроэлектроника

Arduino IDE 2.0 получила стабильную версию, в которой появилась поддержка автодополнения кода и темная тема. Разработка заняла несколько лет. Программа распространяется бесплатно.

23.09.2022    2643    VKuser24342747    0       

Основатель движения свободного ПО выпустил руководство по языку C

Новость Linux ИТ-новость Языки программирования

Ричард Мэттью Столлман, основатель Фонда свободного программного обеспечения, представил руководство по языку C и расширениям GNU. Пособие доступно всем желающим и предназначено как для опытных, так и начинающих программистов.

19.09.2022    2197    VKuser24342747    0       

«Ростелеком» предложил создать национальную экосистему на базе «Авроры»

Новость Импортозамещение ИТ-новость Мобильные приложения

Провайдер считает, что государственная мобильная экосистема поможет обеспечить технологическую независимость и экономический подъем страны. А ОС «Аврора» наиболее перспективная разработка для достижения этих целей.

15.09.2022    2151    VKuser24342747    5       

Яндекс выложил в открытый доступ инструмент для разработки мобильных приложений

Новость ИТ-новость Мобильные приложения Яндекс

Фреймворк DivKit от Яндекса стал доступен как open source решение. Инструмент позволяет менять интерфейс приложений без скачивания обновлений и значительно ускоряет мобильную разработку.

02.09.2022    1820    VKuser24342747    0       

Группа компаний «Астра» представила собственную мобильную ОС

Новость Linux ИТ-новость Мобильные приложения

Доработанная ОС Astra Linux Special Edition может быть запущена на большом числе мобильных устройств, в том числе на планшетах и смартфонах с процессорами на архитектурах ARM, «Эльбрус» и x86-64.

25.08.2022    1498    VKuser24342747    1       

В России разработаны меры для решения проблемы нехватки ИТ-специалистов

Новость ИТ-новость

Вице-премьер Дмитрий Чернышенко сообщил, что сейчас экономике страны не хватает 1 млн ИТ-специалистов. Способы преодоления дефицита закреплены в программе нацпроекта «Цифровая экономика»

05.08.2022    1654    VKuser24342747    11       

Яндекс открыл доступ к фреймворку для создания приложений с микросервисной архитектурой

Новость GitHub ИТ-новость Яндекс

Инструмент Userver опубликован как бесплатное open source решение. Яндекс уже несколько лет эффективно его использует в своих приложениях Go, «Еда», «Лавка», «Доставка» и другие. Фреймворк находится в стадии бета – переезда на открытую разработку.

02.08.2022    2501    VKuser24342747    19       

Бизнес сможет использовать повышающий коэффициент для расходов на покупку ПО

Новость ИТ-новость

Принят закон, который позволяет компаниям учитывать расходы на отечественные программы и радиоэлектронное оборудование с коэффициентом 1,5. Решения должны быть включены в соответствующие реестры и относиться к ИИ.

26.07.2022    2268    VKuser24342747    0       

Минэкономразвития тестирует миграцию с Windows 10 на Astra Linux

Новость ИТ-новость

Министерство проводит эксперимент, в ходе которого сотрудники используют российскую ОС Astra Linux вместо Windows 10. По словам главы департамента, эксперимент проходит успешно.

11.07.2022    1827    VKuser24342747    0       

Вышла версия открытого текстового редактора Vim 9.0

Новость ИТ-новость

В приложение добавлен скриптовый язык с поддержкой компилируемых функций для создания плагинов, улучшена проверка правописания и автодополнения, предоставлен выбор цветовых схем.

07.07.2022    1996    VKuser24342747    0       

 «Яндекс» открыл доступ к SmartCaptcha и нейросети по генерации текстов 

Новость ИТ-новость Яндекс

Компания открыла доступ к алгоритму SmartCaptcha, который защищает сайт от спама и DDoS-атак, а также к проекту YaLM 100B, способному писать тексты на английском и русском языках. 

29.06.2022    2246    VKuser24342747    0       

«Яндекс» предложил разработчикам пройти диагностику технических навыков

Новость Кадровые агентства, подбор персонала ИТ-новость Яндекс

Компания запустила сервис, при помощи которого можно получить оценку своих технических навыков от специалистов «Яндекса». Тестирование включает онлайн-интервью и решение задач с реальных собеседований. 

27.06.2022    2110    VKuser24342747    1       

GitHub открыл доступ всем разработчикам к ИИ-помощнику Copilot по подписке

Новость GitHub Искусственный интеллект ИТ-новость

Github Copilot стал общедоступным, но для его использования пользователю репозитория нужно приобрести подписку. Хотя некоторые разработчики могут пользоваться инструментом бесплатно.

24.06.2022    3805    VKuser24342747    1       

В России планируют учредить Федерацию спортивного программирования

Новость ИТ-новость

Минцифры и Минспорта подписали меморандум, в котором закреплено сотрудничество ведомств по развитию в стране спортивного программирования и проведение первого официального чемпионата.

21.06.2022    2757    VKuser24342747    6       

Microsoft окончательно прекратила поддержку Internet Explorer

Новость Интернет ИТ-новость

Microsoft прекратила выпуск обновлений для своего браузера Internet Explorer, а с августа начнет удалять приложение из актуальных версий Windows. Эксперты полагают, что из-за этого пострадает много бизнес-пользователей.

17.06.2022    3254    VKuser24342747    4       

В России начал работу отечественный сервис мониторинга сбоев

Новость Импортозамещение Интернет ИТ-новость

Российская компания BrandAnalytics запустила платформу «Детектор сбоев», предназначенную для отслеживания работоспособности сайтов и сервисов, в том числе русскоязычных.

16.06.2022    2109    VKuser24342747    0       

Минцифры запустило систему отслеживания поддельных сайтов

Новость Безопасность Интернет ИТ-новость

Информационная система под названием «Антифишинг» способна обнаруживать мошеннические веб-ресурсы, которые выглядят как официальные сайты госорганов, компаний и соцсетей.

14.06.2022    2950    VKuser24342747    0