Российские силовики закупили необычные отечественные суперкомпьютеры

10.12.2018      26861

Более сотни суперкомпьютеров российского производства закупили силовые ведомства. Особенность устройств – система жидкостного охлаждения в прозрачном корпусе с неоновой подсветкой. Разбираемся, что это за техника, и что она может.

Супер, но мини

История мини-суперкомпьютеров «Сторус» началась шесть лет назад. В 2012 году стало известно о первой кооперации «Сторуса» с Институтом программных систем им. А. К. Айламазяна РАН (ИПС). Суперкомпьютеры в комплектации «мини» разработали специалисты ИПС по заказу «Сторуса». Устройства из первой линейки имели погружное жидкостное охлаждение, за что их называли «аквариумами». Прозвище закрепилось.

Не только для силовиков

Объемы производства для гражданских нужд не афишируют, но компания хотела активно продвигать «аквариумные устройства» в финансовой и нефтегазовой отраслях. В «Сторусе» рассказали, что первую сотню устройств выпустили ещё в 2017 году. Поставляли «аквариумы» в исследовательский ядерный университет МИФИ и Таганрогский авиационный научно-технический комплекс имени Г. М. Бериева (ТАНТК). До конца декабря должна завершится установка кластера в московском Объединенном институте высоких температур РАН (ОИВТ).

Эксперты полагают, что в ОИВТ поставили кластер за 16 млн рублей. Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3. Она поддерживает первый российский интерконнект «Ангара», созданный в НИЦЭВТ. Пиковая производительность кластера – не менее 13,5 ТФлопс.

 

Фото Cnews.ru

 

Что внутри

Российские компьютеры построены не на «Байкалах» и «Эльбрусах», а на комплектующих топовых мировых производителей. В основе – процессоры Intel и AMD, а также графические ускорители Nvidia и других брендов, сопроцессоры и сопутствующие элементы. Сама Intel, к слову, также показывала суперкомпьютеры с погружным охлаждением. Каждый из кластеров, которые поставили силовикам, содержит более тысячи вычислительных ядер. Но конфигурация хранится в секрете – ее не определить даже через прозрачный корпус.

Впрочем, на «Эльбрусах» производитель также создал «аквариумные» кластеры. Но они зависли на стадии прототипов – реальных заказчиков на такие решения пока не нашли.

Перспективность жидкостного охлаждения

Погружное жидкостное (иммерсионное) охлаждение считалось бесперспективным решением. Специалисты полагали, что для создания мощных кластеров необходимы легко масштабируемые системы, а иммерсионные охладители масштабировались плохо. Но время доказало, что жидкостное охлаждение – выбор будущего.

В топ-500 самых производительных кластеров мира входит ряд компактных систем с погружным охлаждением, которые являются крайне экономичными. В ИПС своевременно поняли, что охлаждать кластеры с помощью плат, которые прилегают к греющейся электронике, неэффективно. Воздушный вариант также не обеспечил должного эффекта, поэтому выбор пал на иммерсионные системы.

 

 

Будущее охлаждения кластеров

По мнению директора ИПС Сергея Абрамова, погружные системы в будущем смогут заменить решения с поливным охлаждением. В них процессоры опрыскивают каплями и струями. ИПС совместно со «Сторусом» уже создали такую систему. Ею заинтересовались компании, которые занимаются майнингом криптовалют.

Но когда курс биткоина (а за ним – и весь рынок) пошел вниз, от дальнейших планов по развитию поливного охлаждения пришлось отказаться. Еще один подход – охлаждение кипением. Для этого нужно использовать хладагент, у которого фазовый переход из жидкого в парообразное состояние происходит при 55-60 градусах Цельсия – это оптимальная температура для электроники.

Если непрерывно опрыскивать платы выкипающим хладагентом, можно достигнуть равномерного охлаждения всех размещенных в корпусе суперкомпьютера чипов. В погружных «аквариумах» с этим есть проблема: нижние и верхние слои жидкости имеют разную температуру из-за конвекционной циркуляции. Но пока разработчики не отработают вложения в системы погружного охлаждения, технологии вряд ли пойдут вперед. На их разработку просто нет средств.


Автор:
Обозреватель


Имеете ли вы опыт работы с компьютерами, где используется погружное жидкостное охлаждение?


Да, такие компьютеры продуктивнее обычных устройств (2.94%, 1 голосов)
2.94%
Да, абсолютно бесполезная задумка (11.76%, 4 голосов)
11.76%
Нет, никогда с такими не сталкивался (85.29%, 29 голосов)
85.29%
Свой вариант (в комментариях) (0%, 0 голосов)
0%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. starik-2005 3031 10.12.18 10:32 Сейчас в теме
Заголовок плохо отражает суть, а она вот тут:
Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3
Т.е. не только железо импортное, но даже ось не могли взять местную, коих не мало.
evn-zorin; shard; A_Max; Йожкин Кот; ilialin; awk; +6 Ответить
2. user774630 10.12.18 10:35 Сейчас в теме
(1) зато подсветка неоновая!
shard; chebser; +2 Ответить
3. starik-2005 3031 10.12.18 10:37 Сейчас в теме
(2)
зато подсветка неоновая
Ну это в каждом домашнем компе, собранном на коленке, есть. Так что тут каждый российский продвинутый пользователь является производителем отечественных компьютеров с неоновой подсветкой.
7. feva 513 10.12.18 10:50 Сейчас в теме
(3)
суперкомпьютеров российского производства закупили силовые ведомства.

Вот это предложение раскрывает суть статьи.
"Обычный ПК" - 1000$
РОССИЙСКОГО ПРОИЗВОДСТВА "Обычный ПК" - 2500$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$
как то так.
Serega-artem; evn-zorin; abadonna83; shard; Йожкин Кот; pavlov_dv; ilialin; user764477; KEV8383; Kaspirovsky; Kochergov; +11 Ответить
8. Darklight 32 10.12.18 10:52 Сейчас в теме
(7)Ну, думаю, в США высокопроизводительные спецкомпьютеры для силовиков тоже не дёшевые будут! С домашними их уж точн не стоит сравнивать! Да и домашние, если говорить о системах энтузиастов с экстремальной производительностью (и экстремальным охлаждением) + с экслюзивным моддингом - тоже не будут дешёвыми! Совсем не будут дешёвыми!
10. feva 513 10.12.18 11:59 Сейчас в теме
(8)
"НЕ Обычный супир мощный кампуктир" - 10 000$
РОССИЙСКОГО ПРОИЗВОДСТВА "НЕ Обычный супир мощный кампуктир" - 25 000$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "НЕ Обычный супир мощный кампуктир"- 100 000$
Так лучше и понятнее суть месседжа?
12. Darklight 32 10.12.18 12:46 Сейчас в теме
(10)Ваш посыл понятен и, скорее всего, Вы правы (раз данные компьютер не поступили в розницу ни в каком виде - говорить о их фактической себестоимости, и эффективности применения на каждый потраченный рубль, не приходится), но всё-таки, давайте посчитаем и определим на сколько всё плохо:
Один 16 ядерный процессор amd epyc стоит около 100 тыс руб (к сожалению в новости почти ничего не сказано о тех. характеристиках кластера - но будем считать, что они высокие (но, конечно можно перевести указанные в новости терафлопсы в имеющееся на рынке железо - хотя, надо заметить, 13.5 Тфлопс в пике - это, по нынешним меркам, не много, как мне кажется - но я не знаю, сколько флопсов выдают современные 16 ядерные процессоры ) - раз применяют погруженное охлаждение - значит цель - максимальная производительность; чипы intel - ещё дороже). В кластере их 48 штук - т.е. одни только процессоры это около 5млн руб. Про видеоускорители почти ничего не написано - но надо полагать - там профессиональные ускорители от NVidia, например Tesla P100 - для дата центров - такой стоит более 300 тыс рублей за штуку - вот сколько их там - ну, допустим 4 (наиболее оптимально) на каждую материнскую плату. Сколько же материнских плат в таком кластере - ну, думаю, для 48 процессоров не менее 6 - итого 4*16 = 24 ускорителя - скажем по 300 тысяч (а числодробилки v100 стоили бы по 600 тыс) это уже 7 млн. Это уже 13 млн. А мы ещё не посчитали стоимости 6 специальных серверных мат плат - как минимум по 300 тыщ за штуку - это ещё более миллиона. А ведь там ещё и материнские платы, и память и СХД + БП + система жидконсного охлаждения (она одна на пару лямов может потянуть - весь специально разработанный комплект если посчитать) + сборка + разработка + тестирование + налоги + продвижение + ещё и прибыль надо получить! А ещё ПО - там наверняка не freeware edition без поддержки!

Так что, цена в 16 млн за кластер мне не кажется уж как-то сильно завышенной и попиленной на откаты!

Конечно, там, наверняка, железо всё-таки немного по проще - ну даже если сократить себестоимость раза в 2 и выкинуть все легальные накрути - всё равно это не выйдет рамки разумного! Там же не селероны или атомы поставляются - там всё-таки очень мощное железо с системой ултраэкстремального охлаждения - для получения очень высокой производительности в расчётах!

А в долларах 16 млн сейчас это 242тыс$ - много ли это для оборонного компьютера - прикидывайте сами - думаю в США это было бы на порядок дороже!
rintik; Perfolenta; +2 Ответить
9. Kaspirovsky 214 10.12.18 11:02 Сейчас в теме
(7)
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$

Главное сделать умный вид и сказать что распилили 10 тон зеленых и собрали из сделанных в Китае американских составляющих, студенты-практиканты на коленке!!! но зато какая подсветка!!!! :))
rintik; Perfolenta; user774630; +3 Ответить
19. Ziggurat 50 10.12.18 17:20 Сейчас в теме
(2) Тоже, поди, импортная, с Китая заказывали.
6. Darklight 32 10.12.18 10:47 Сейчас в теме
(1)Видать местные ОСи с жидкостью не совместимы - ржавеют и далее работают "со скрипом" ;-)
23. user1111922 16.12.18 12:54 Сейчас в теме
(1)
даже ось не могли взять местную

Где ты российские оси увидел?
4. vano-ekt 123 10.12.18 10:46 Сейчас в теме
https://www.youtube.com/watch?v=2aE27G_PpoY
таки доучились светлые умы
user764477; +1 Ответить
20. Healer 1 10.12.18 17:33 Сейчас в теме
(4) Спасибо, повеселили! "Я изучил Интернет за два дня. И скачал его на флешку. Вот она!" - больше не мем. Феерический писец.
21. Perfolenta 203 10.12.18 22:46 Сейчас в теме
(4) да уж... к сожалению, невежество журналистов помноженное на невежество "будущих светил науки" выдают вот такие шедевры... сами "будущие светила науки" виноваты в этом меньше всего... а вот родители и педагоги очень виноваты... а главные виновники это либеральные идеологи, которые навязывают идиотские практики обучения...
5. Darklight 32 10.12.18 10:46 Сейчас в теме
Забавно. Интересно, как это сделано? Интересовался погружным охлаждение лет так 10 назад. По этой теме были прочитаны разные статьи. Но тогда всё свелось к тому, что погружение даже в деионизированную воду - не обеспечивает долговечной надёжности - типа от самих погружённых в такую жидкость компонентов выделяются ионы - которые со временем накапливаются в достаточном числе, так что, в воде легко распределяются по всему объёму и в конечном итоге создают проводимость - и система начинает глючить - в конечном итоге выключается.

Другой вариант - это использование специальных масел (ну растительное или машинное тоже годится - но менее) - так компьютер работает дольше (масло более вязкое - ионы от компонент компьютера просто дольше в нём распространяются) - но со временем компьютер тоже начинал глючить (хоть и значительно позже чем с деонизированной водой).

Вот, что за жидкостный диэлектрик, да ещё и с очень высокой теплопроводностью, использовали в этих проектах - в новости ни слова.

Да и странные фото - там в жидкость помещены компоненты с воздушными куллерами (пропеллерными вентиляторами) - они вообще не будут работать в жидкости -вернее некоторое время проработают - мутя и загрязняя жидкость маслом из подшипников - и вырубятся.

Пока это больше похоже на первоапрельскую шутку - но вроде до 1-го апреля ещё очень далеко....

Да и странно, что такие решения заказали силовики и компания в первую очередь поставляет именно им - на мой взгляд - таке компьютеры больше смотрелись бы как эксклюзивные розничные решения - там где стиль, важнее стоимости! Не думаю, что эффективность охлаждения и, как следствие, производительность таких систем так уж принципиально выше, чем классические системы экстремального охлаждения - например азотом! Уж не говоря уже о моддинге - стеклянный корпус и подсветка - такая эффектность для иммиджевых рабочих станций только требуется - а для ЦОД - все эти украшения не имеют значения.
SKravchenko; +1 Ответить
11. for_sale 970 10.12.18 12:45 Сейчас в теме
Безотказный генератор мемов:
<Наименование государственного органа> закупили отечественные <нано, супер, инновационные> <наименование какого-нибудь устройства>
13. genayo 10.12.18 12:54 Сейчас в теме
А вроде как на Эльбрусах компы силовики закупить должны были...
14. Darklight 32 10.12.18 12:58 Сейчас в теме
(13)под разные задачи - мелким чиновникам эльбрусы - кто покрупнее - тому вот такие кластеры - чтобы CS-ка не тормозила! Ну а крупным шышкам - пока ещё не спроектировали - такие шкафы мейнфреймов даже в их гигантские кабинеты не помещаются! А на менее производительных - у них косынка поддтормаживает....
15. starik-2005 3031 10.12.18 14:01 Сейчас в теме
(14)
поддтормаживает
Вот зря Шахиджанян свою программу так дешево продает )))
16. A_Max 19 10.12.18 14:42 Сейчас в теме
Тут два варианта:
* красивый сферичиский демо стенд для прессы
* мощный пропил денег

Если первое, то настучать по головам демонстраторам, потому как тогда нужно сразу говорить, что это просто для демонстрации "принципа" и НИЧЕГО общего с реальной установкой не имеет.
Если второе, то тогда "настучать по башке" расширяется и в количественном состве участников и в мощности удара вплоть до "с конфискацией".
17. TABEZI1234 10.12.18 14:54 Сейчас в теме
следить за нами, бузотерами))
18. Darklight 32 10.12.18 15:17 Сейчас в теме
Кстати, распил распилом. А у таких компьютеров с погружной жидкостной системой охлаждения для использования в силовых структурах есть определённое специфическое преимущество - такая организация корпуса (и наполнения) делает его высокоизолированным от внешнего воздействия - любая попытка несанкционированно проникнуть внутрь - приведёт к расгеремитизации корпуса - падению уровню жидкости и аварийному отключению компьютера (с оповещением).

Хотя.... любая ли..... вон шарики иголками прокалывают и ничего - не лопаются - тут, думаю тоже можно обойти разгермитизацию. И прозрачный корпус даже наоборот - может эффективно проникнуть внутрь.
22. My_ 13.12.18 06:44 Сейчас в теме
Неоновая подсветка - очень важная часть? Без нее уже не та производительность? Как и прозрачность корпуса )
Оставьте свое сообщение

См. также

В программу подготовки спортивных программистов вошли бег и скорость печати

Новость ИТ-Новость

Пятничное: в России вступил в силу стандарт подготовки по дисциплине «спортивное программирование». В стандарт вошли требования к физическим показателям спортсменов и скорости набора текста.

16.02.2024    601    VKuser24342747    2       

1

Росстандарт утвердил протокол LoRaWAN для интернета вещей

Новость ИТ-Новость

Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило национальный стандарт протокола LoRaWAN RU, таким образом он получил официальный статус. Технология используется для беспроводной передачи данных между устройствами интернета вещей.

19.01.2024    389    VKuser24342747    0       

2

Новый закон откладывает на год вступление в силу изменений в порядок регистрации на сайтах

Новость Законодательство ИТ-Новость

12 декабря вступил в силу Федеральный закон, меняющий срок, к которому все владельцы сайтов должны внести изменения в порядок авторизации пользователей на сайте. Закон вводит переходный период до 1 января 2025 года.

20.12.2023    584    VKuser24342747    2       

1

Вышло крупное обновление для Android Studio

Новость Мобильные приложения ИТ-Новость

Новая версия Android Studio под номером 2023.1 получила имя Hedgehog. Появились возможности контролировать производительность приложений и управлять подключенными устройствами.

07.12.2023    684    VKuser24342747    2       

3

GitHub опубликовал результаты ежегодного исследования проектов с открытым исходным кодом

Новость GitHub ИТ-Новость

GitHub собрал данные об Open Source проектах в рамках ежегодного исследования Octoverse. Компания изучила географию репозиториев, используемые языки программирования и нейросети, а также активность сообщества.

15.11.2023    466    VKuser24342747    1       

2

Некоммерческие проекты смогут получить бесплатный доступ к GigaChat API

Новость ИТ-компания ИТ-Новость

Компания «Сбер» заявила, что будет бесплатно предоставлять доступ к API нейросети для генерации текста GigaChat для некоммерческих проектов. Однако для них будет ограничено число доступных токенов.

01.11.2023    566    VKuser24342747    2       

3

Состоялся релиз свободной среды разработки Geany 2.0

Новость ИТ-Новость Программист

Вышла новая версия Geany 2.0. Обновление затронуло внешний вид программы, расширило поддержку файлов и сторонних проектов, добавило новые способы работы с кодом.

25.10.2023    677    VKuser24342747    0       

1

Минцифры подготовило критерии по выбору оператора реестра провайдеров хостинга

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило проект постановления, которое утверждает требования к организации, претендующей на статус оператора реестра провайдеров хостинга.

25.10.2023    338    VKuser24342747    0       

1

Минцифры составило алгоритм действий для компаний, у которых не работает VPN

Новость Минцифры ИТ-Новость

Минцифры подготовило разъяснения для российских организаций, у которых возникли перебои в работе VPN-сервисов для клиентов и сотрудников из-за блокировки запрещенных ресурсов Роскомнадзором.

24.10.2023    595    VKuser24342747    0       

0

«Сбер» объявила о доступности SberLinux OS Server для российских компаний

Новость Импортозамещение ИТ-Новость

«СберТех», дочерняя компания «Сбера», объявила о предоставлении доступа к собственной серверной операционной системе SberLinux OS Server российским компаниям. ОС включена в реестр отечественного ПО.

20.10.2023    779    VKuser24342747    0       

2

Минцифры внесло изменения в проект правил идентификации клиентов веб-хостингов

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило изменения в пакет документов, которые устанавливают новые требования для провайдеров хостинга. Ведомство расширило перечень допустимых методов идентификации клиентов.

18.10.2023    434    VKuser24342747    0       

1

Google выпустила финальную версию Android 14

Новость Android Google ИТ-Новость

Google выпустила новую версию мобильной ОС Android 14. Изменения затронули настройки внешнего вида и безопасности. Были расширены возможности камеры и инструментов для хранения данных.

12.10.2023    645    VKuser24342747    0       

1

Яндекс объявил об открытии исходного кода DataLens

Новость Аналитика ИТ-Новость Яндекс

BI-система Yandex DataLens теперь развивается в опенсорс. Код продукта выложен для всех на GitHub. Любой желающий сможет развернуть DataLens на своем железе и доработать его под свои сценарии применения.

03.10.2023    1325    ЕленаЧерепнева    1       

6

Роскомнадзор создаст реестр хостинг-провайдеров

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило несколько проектов постановлений, которые утверждают правила ведения реестра поставщиков хостинг-услуг, а также новые требования к провайдерам.

02.10.2023    536    VKuser24342747    0       

1

«СберТех» представил репозиторий GitVerse с ИИ-помощником для написания кода

Новость Импортозамещение ИТ-Новость Программист

«СберТех» начал прием заявок на тестирование веб-сервиса для публикации ИТ-проектов GitVerse. Платформа подходит для разработки программ с открытым и закрытым кодом.

26.09.2023    740    VKuser24342747    2       

1

ИП и юрлица смогут использовать смартфон для создания и замены электронной подписи

Новость ИТ-Новость ФНС Цифровая подпись

ФНС внесла изменения в правила оформления электронной подписи руководителя организации и ИП. Станет возможным продлевать ее и записывать при помощи мобильного устройства.

18.09.2023    396    VKuser24342747    1       

1

Журнал IEEE Spectrum опубликовал рейтинг популярности языков программирования

Новость ИТ-Новость Языки программирования

Журнал Института инженеров электротехники и электроники IEEE Spectrum подготовил рейтинг самых популярных языков программирования в 2023 году. Статистика разделена на три категории.

01.09.2023    1230    VKuser24342747    4       

2

В бета-версии Microsoft 365 появилась поддержка языка Python для Excel

Новость ИТ-Новость Языки программирования

С помощью библиотек и средств визуализации Python можно будет манипулировать данными Excel, а затем использовать полученные результаты в формулах, диаграммах и сводных таблицах.

28.08.2023    631    VKuser24342747    0       

2

Специалисты Калифорнийского университета установили, что боты справляются с CAPTCHA лучше, чем люди

Новость ИТ-Новость

Международная группа исследователей изучила эффективность тестов CAPTCHA. Ученые пришли к выводу, что технология больше мешает людям, потому что боты научились с ней справляться.

24.08.2023    1112    VKuser24342747    23       

2

Google Chrome начнет поддерживать квантово-устойчивые алгоритмы шифрования

Новость Google Безопасность ИТ-Новость

В версии Google Chrome 116 появится поддержка алгоритмов шифрования, устойчивых к попыткам дешифрации при помощи квантовых вычислений. Технология объединяет преимущества классической и инновационной криптографии.

24.08.2023    449    VKuser24342747    0       

1

В реестр российского ПО включен первый комплекс обработки больших данных

Новость Импортозамещение Минцифры ИТ-Новость Реестр ПО

Минцифры внесло в реестр отечественного ПО программно-аппаратный комплекс «Скала-Р», предназначенный для обработки больших данных. Это первый комплекс с таким функционалом, включенный в перечень.

22.08.2023    442    VKuser24342747    0       

1

Microsoft внедрила новые функции в GitHub Copilot и анонсировала Windows Copilot

Новость GitHub Искусственный интеллект

ИИ-помощник для разработчиков GitHub Copilot теперь не только в реальном времени анализирует код, предлагает варианты для его улучшения и помогает найти решение проблем в разработке, но и  показывает ссылки на репозитории, из которых взят код. 

17.08.2023    1122    VKuser24342747    0       

1

В JetBrains разработали ИИ-помощника для аналитиков данных

Новость Аналитика Искусственный интеллект

JetBrains представила нейросеть Ask AI для онлайн-блокнота Datalore. Виртуальный ассистент способен генерировать код на нескольких языках, предлагать доработки и упрощать процесс аналитики данных. 

16.08.2023    625    VKuser24342747    0       

1

Исследование: ChatGPT дает неправильный ответ на половину вопросов о программировании

Новость Искусственный интеллект ИТ-Новость

Чат-бот OpenAI ошибается в 52% случаев, когда отвечает на вопросы по программированию. Однако делает это так убедительно, что пользователи не замечают ошибки. 

14.08.2023    953    VKuser24342747    5       

3

Минцифры проведет эксперимент по цифровизации «жизненного цикла» госслужащего

Новость Минцифры ИТ-Новость

Минцифры подготовило постановление о проведении эксперимента по внедрению ИТ в управление «жизненным циклом» госслужащего. Ведомство намерено автоматизировать все этапы работы сотрудников госструктур.

04.08.2023    533    VKuser24342747    0       

2