Российские силовики закупили необычные отечественные суперкомпьютеры

10.12.2018     

Более сотни суперкомпьютеров российского производства закупили силовые ведомства. Особенность устройств – система жидкостного охлаждения в прозрачном корпусе с неоновой подсветкой. Разбираемся, что это за техника, и что она может.

Супер, но мини

История мини-суперкомпьютеров «Сторус» началась шесть лет назад. В 2012 году стало известно о первой кооперации «Сторуса» с Институтом программных систем им. А. К. Айламазяна РАН (ИПС). Суперкомпьютеры в комплектации «мини» разработали специалисты ИПС по заказу «Сторуса». Устройства из первой линейки имели погружное жидкостное охлаждение, за что их называли «аквариумами». Прозвище закрепилось.

Не только для силовиков

Объемы производства для гражданских нужд не афишируют, но компания хотела активно продвигать «аквариумные устройства» в финансовой и нефтегазовой отраслях. В «Сторусе» рассказали, что первую сотню устройств выпустили ещё в 2017 году. Поставляли «аквариумы» в исследовательский ядерный университет МИФИ и Таганрогский авиационный научно-технический комплекс имени Г. М. Бериева (ТАНТК). До конца декабря должна завершится установка кластера в московском Объединенном институте высоких температур РАН (ОИВТ).

Эксперты полагают, что в ОИВТ поставили кластер за 16 млн рублей. Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3. Она поддерживает первый российский интерконнект «Ангара», созданный в НИЦЭВТ. Пиковая производительность кластера – не менее 13,5 ТФлопс.

 

Фото Cnews.ru

 

Что внутри

Российские компьютеры построены не на «Байкалах» и «Эльбрусах», а на комплектующих топовых мировых производителей. В основе – процессоры Intel и AMD, а также графические ускорители Nvidia и других брендов, сопроцессоры и сопутствующие элементы. Сама Intel, к слову, также показывала суперкомпьютеры с погружным охлаждением. Каждый из кластеров, которые поставили силовикам, содержит более тысячи вычислительных ядер. Но конфигурация хранится в секрете – ее не определить даже через прозрачный корпус.

Впрочем, на «Эльбрусах» производитель также создал «аквариумные» кластеры. Но они зависли на стадии прототипов – реальных заказчиков на такие решения пока не нашли.

Перспективность жидкостного охлаждения

Погружное жидкостное (иммерсионное) охлаждение считалось бесперспективным решением. Специалисты полагали, что для создания мощных кластеров необходимы легко масштабируемые системы, а иммерсионные охладители масштабировались плохо. Но время доказало, что жидкостное охлаждение – выбор будущего.

В топ-500 самых производительных кластеров мира входит ряд компактных систем с погружным охлаждением, которые являются крайне экономичными. В ИПС своевременно поняли, что охлаждать кластеры с помощью плат, которые прилегают к греющейся электронике, неэффективно. Воздушный вариант также не обеспечил должного эффекта, поэтому выбор пал на иммерсионные системы.

 

 

Будущее охлаждения кластеров

По мнению директора ИПС Сергея Абрамова, погружные системы в будущем смогут заменить решения с поливным охлаждением. В них процессоры опрыскивают каплями и струями. ИПС совместно со «Сторусом» уже создали такую систему. Ею заинтересовались компании, которые занимаются майнингом криптовалют.

Но когда курс биткоина (а за ним – и весь рынок) пошел вниз, от дальнейших планов по развитию поливного охлаждения пришлось отказаться. Еще один подход – охлаждение кипением. Для этого нужно использовать хладагент, у которого фазовый переход из жидкого в парообразное состояние происходит при 55-60 градусах Цельсия – это оптимальная температура для электроники.

Если непрерывно опрыскивать платы выкипающим хладагентом, можно достигнуть равномерного охлаждения всех размещенных в корпусе суперкомпьютера чипов. В погружных «аквариумах» с этим есть проблема: нижние и верхние слои жидкости имеют разную температуру из-за конвекционной циркуляции. Но пока разработчики не отработают вложения в системы погружного охлаждения, технологии вряд ли пойдут вперед. На их разработку просто нет средств.


Автор:
Ксения Шестакова Обозреватель


Имеете ли вы опыт работы с компьютерами, где используется погружное жидкостное охлаждение?


Да, такие компьютеры продуктивнее обычных устройств (2.94%, 1 голосов)
2.94%
Да, абсолютно бесполезная задумка (11.76%, 4 голосов)
11.76%
Нет, никогда с такими не сталкивался (85.29%, 29 голосов)
85.29%
Свой вариант (в комментариях) (0%, 0 голосов)
0%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. starik-2005 2323 10.12.18 10:32 Сейчас в теме
Заголовок плохо отражает суть, а она вот тут:
Это система на 48-ми 16-ядерных чипах AMD под управлением ОС SUSE Linux Enterprise Server (SLES) 12 SP3
Т.е. не только железо импортное, но даже ось не могли взять местную, коих не мало.
evn-zorin; shard; A_Max; Йожкин Кот; ilialin; awk; +6 Ответить
2. user774630 10.12.18 10:35 Сейчас в теме
(1) зато подсветка неоновая!
shard; chebser; +2 Ответить
3. starik-2005 2323 10.12.18 10:37 Сейчас в теме
(2)
зато подсветка неоновая
Ну это в каждом домашнем компе, собранном на коленке, есть. Так что тут каждый российский продвинутый пользователь является производителем отечественных компьютеров с неоновой подсветкой.
7. feva 446 10.12.18 10:50 Сейчас в теме
(3)
суперкомпьютеров российского производства закупили силовые ведомства.

Вот это предложение раскрывает суть статьи.
"Обычный ПК" - 1000$
РОССИЙСКОГО ПРОИЗВОДСТВА "Обычный ПК" - 2500$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$
как то так.
Serega-artem; evn-zorin; abadonna83; shard; Йожкин Кот; pavlov_dv; ilialin; user764477; KEV8383; Kaspirovsky; Kochergov; +11 Ответить
8. Darklight 27 10.12.18 10:52 Сейчас в теме
(7)Ну, думаю, в США высокопроизводительные спецкомпьютеры для силовиков тоже не дёшевые будут! С домашними их уж точн не стоит сравнивать! Да и домашние, если говорить о системах энтузиастов с экстремальной производительностью (и экстремальным охлаждением) + с экслюзивным моддингом - тоже не будут дешёвыми! Совсем не будут дешёвыми!
10. feva 446 10.12.18 11:59 Сейчас в теме
(8)
"НЕ Обычный супир мощный кампуктир" - 10 000$
РОССИЙСКОГО ПРОИЗВОДСТВА "НЕ Обычный супир мощный кампуктир" - 25 000$
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "НЕ Обычный супир мощный кампуктир"- 100 000$
Так лучше и понятнее суть месседжа?
12. Darklight 27 10.12.18 12:46 Сейчас в теме
(10)Ваш посыл понятен и, скорее всего, Вы правы (раз данные компьютер не поступили в розницу ни в каком виде - говорить о их фактической себестоимости, и эффективности применения на каждый потраченный рубль, не приходится), но всё-таки, давайте посчитаем и определим на сколько всё плохо:
Один 16 ядерный процессор amd epyc стоит около 100 тыс руб (к сожалению в новости почти ничего не сказано о тех. характеристиках кластера - но будем считать, что они высокие (но, конечно можно перевести указанные в новости терафлопсы в имеющееся на рынке железо - хотя, надо заметить, 13.5 Тфлопс в пике - это, по нынешним меркам, не много, как мне кажется - но я не знаю, сколько флопсов выдают современные 16 ядерные процессоры ) - раз применяют погруженное охлаждение - значит цель - максимальная производительность; чипы intel - ещё дороже). В кластере их 48 штук - т.е. одни только процессоры это около 5млн руб. Про видеоускорители почти ничего не написано - но надо полагать - там профессиональные ускорители от NVidia, например Tesla P100 - для дата центров - такой стоит более 300 тыс рублей за штуку - вот сколько их там - ну, допустим 4 (наиболее оптимально) на каждую материнскую плату. Сколько же материнских плат в таком кластере - ну, думаю, для 48 процессоров не менее 6 - итого 4*16 = 24 ускорителя - скажем по 300 тысяч (а числодробилки v100 стоили бы по 600 тыс) это уже 7 млн. Это уже 13 млн. А мы ещё не посчитали стоимости 6 специальных серверных мат плат - как минимум по 300 тыщ за штуку - это ещё более миллиона. А ведь там ещё и материнские платы, и память и СХД + БП + система жидконсного охлаждения (она одна на пару лямов может потянуть - весь специально разработанный комплект если посчитать) + сборка + разработка + тестирование + налоги + продвижение + ещё и прибыль надо получить! А ещё ПО - там наверняка не freeware edition без поддержки!

Так что, цена в 16 млн за кластер мне не кажется уж как-то сильно завышенной и попиленной на откаты!

Конечно, там, наверняка, железо всё-таки немного по проще - ну даже если сократить себестоимость раза в 2 и выкинуть все легальные накрути - всё равно это не выйдет рамки разумного! Там же не селероны или атомы поставляются - там всё-таки очень мощное железо с системой ултраэкстремального охлаждения - для получения очень высокой производительности в расчётах!

А в долларах 16 млн сейчас это 242тыс$ - много ли это для оборонного компьютера - прикидывайте сами - думаю в США это было бы на порядок дороже!
rintik; Perfolenta; +2 Ответить
9. Kaspirovsky 35 10.12.18 11:02 Сейчас в теме
(7)
СПЕЦ РАЗРАБОТКА ДЛЯ СИЛОВЫХ ВЕДОМСТВ "Обычный ПК"- 10 000$

Главное сделать умный вид и сказать что распилили 10 тон зеленых и собрали из сделанных в Китае американских составляющих, студенты-практиканты на коленке!!! но зато какая подсветка!!!! :))
rintik; Perfolenta; user774630; +3 Ответить
19. Ziggurat 49 10.12.18 17:20 Сейчас в теме
(2) Тоже, поди, импортная, с Китая заказывали.
6. Darklight 27 10.12.18 10:47 Сейчас в теме
(1)Видать местные ОСи с жидкостью не совместимы - ржавеют и далее работают "со скрипом" ;-)
23. user1111922 16.12.18 12:54 Сейчас в теме
(1)
даже ось не могли взять местную

Где ты российские оси увидел?
4. vano-ekt 850 10.12.18 10:46 Сейчас в теме
20. Healer 1 10.12.18 17:33 Сейчас в теме
(4) Спасибо, повеселили! "Я изучил Интернет за два дня. И скачал его на флешку. Вот она!" - больше не мем. Феерический писец.
21. Perfolenta 10.12.18 22:46 Сейчас в теме
(4) да уж... к сожалению, невежество журналистов помноженное на невежество "будущих светил науки" выдают вот такие шедевры... сами "будущие светила науки" виноваты в этом меньше всего... а вот родители и педагоги очень виноваты... а главные виновники это либеральные идеологи, которые навязывают идиотские практики обучения...
5. Darklight 27 10.12.18 10:46 Сейчас в теме
Забавно. Интересно, как это сделано? Интересовался погружным охлаждение лет так 10 назад. По этой теме были прочитаны разные статьи. Но тогда всё свелось к тому, что погружение даже в деионизированную воду - не обеспечивает долговечной надёжности - типа от самих погружённых в такую жидкость компонентов выделяются ионы - которые со временем накапливаются в достаточном числе, так что, в воде легко распределяются по всему объёму и в конечном итоге создают проводимость - и система начинает глючить - в конечном итоге выключается.

Другой вариант - это использование специальных масел (ну растительное или машинное тоже годится - но менее) - так компьютер работает дольше (масло более вязкое - ионы от компонент компьютера просто дольше в нём распространяются) - но со временем компьютер тоже начинал глючить (хоть и значительно позже чем с деонизированной водой).

Вот, что за жидкостный диэлектрик, да ещё и с очень высокой теплопроводностью, использовали в этих проектах - в новости ни слова.

Да и странные фото - там в жидкость помещены компоненты с воздушными куллерами (пропеллерными вентиляторами) - они вообще не будут работать в жидкости -вернее некоторое время проработают - мутя и загрязняя жидкость маслом из подшипников - и вырубятся.

Пока это больше похоже на первоапрельскую шутку - но вроде до 1-го апреля ещё очень далеко....

Да и странно, что такие решения заказали силовики и компания в первую очередь поставляет именно им - на мой взгляд - таке компьютеры больше смотрелись бы как эксклюзивные розничные решения - там где стиль, важнее стоимости! Не думаю, что эффективность охлаждения и, как следствие, производительность таких систем так уж принципиально выше, чем классические системы экстремального охлаждения - например азотом! Уж не говоря уже о моддинге - стеклянный корпус и подсветка - такая эффектность для иммиджевых рабочих станций только требуется - а для ЦОД - все эти украшения не имеют значения.
SKravchenko; +1 Ответить
11. for_sale 840 10.12.18 12:45 Сейчас в теме
Безотказный генератор мемов:
<Наименование государственного органа> закупили отечественные <нано, супер, инновационные> <наименование какого-нибудь устройства>
13. genayo 10.12.18 12:54 Сейчас в теме
А вроде как на Эльбрусах компы силовики закупить должны были...
14. Darklight 27 10.12.18 12:58 Сейчас в теме
(13)под разные задачи - мелким чиновникам эльбрусы - кто покрупнее - тому вот такие кластеры - чтобы CS-ка не тормозила! Ну а крупным шышкам - пока ещё не спроектировали - такие шкафы мейнфреймов даже в их гигантские кабинеты не помещаются! А на менее производительных - у них косынка поддтормаживает....
15. starik-2005 2323 10.12.18 14:01 Сейчас в теме
(14)
поддтормаживает
Вот зря Шахиджанян свою программу так дешево продает )))
16. A_Max 18 10.12.18 14:42 Сейчас в теме
Тут два варианта:
* красивый сферичиский демо стенд для прессы
* мощный пропил денег

Если первое, то настучать по головам демонстраторам, потому как тогда нужно сразу говорить, что это просто для демонстрации "принципа" и НИЧЕГО общего с реальной установкой не имеет.
Если второе, то тогда "настучать по башке" расширяется и в количественном состве участников и в мощности удара вплоть до "с конфискацией".
17. TABEZI1234 10.12.18 14:54 Сейчас в теме
следить за нами, бузотерами))
18. Darklight 27 10.12.18 15:17 Сейчас в теме
Кстати, распил распилом. А у таких компьютеров с погружной жидкостной системой охлаждения для использования в силовых структурах есть определённое специфическое преимущество - такая организация корпуса (и наполнения) делает его высокоизолированным от внешнего воздействия - любая попытка несанкционированно проникнуть внутрь - приведёт к расгеремитизации корпуса - падению уровню жидкости и аварийному отключению компьютера (с оповещением).

Хотя.... любая ли..... вон шарики иголками прокалывают и ничего - не лопаются - тут, думаю тоже можно обойти разгермитизацию. И прозрачный корпус даже наоборот - может эффективно проникнуть внутрь.
22. My_ 13.12.18 06:44 Сейчас в теме
Неоновая подсветка - очень важная часть? Без нее уже не та производительность? Как и прозрачность корпуса )
Оставьте свое сообщение

См. также

В России начала работу крупнейшая в Европе квантовая магистраль

Новость ИТ-новость Телекоммуникации

РЖД протестировала и ввела в эксплуатацию вторую по протяженности в мире квантовую магистраль длиной в 700 километров. К 2024 году организация планирует увеличить длительность сети в 10 раз.

вчера в 17:07    846    VKuser24342747    1       

Visual Studio Code стал поддерживать работу с удаленными репозиториями без клонирования

Новость GitHub ИТ-новость

Открытая среда разработки Visual Studio Code теперь позволяет работать с удаленными репозиториями GitHub напрямую. Для этого появилось специальное расширение Remote Repositories.

15.06.2021    1426    user1015646    0       

Платформа Yandex.Cloud прошла добровольную аттестацию на соответствие требованиям 152‑ФЗ

Новость Безопасность ИТ-новость Яндекс

В апреле 2021 года платформа Yandex.Cloud прошла внешний аудит. Теперь клиенты сервиса могут обрабатывать в облаке любые категории персональных данных, включая биометрические и специальные.

11.06.2021    1224    capitan    1       

Google I/O 2021: главные анонсы конференции для разработчиков

Новость Android Google ИТ-новость Мобильные приложения Новости компаний

Начало лета богато на конференции для разработчиков программного обеспечения. Одно из крупнейших событий международного уровня – Google I/O 2021. В этом году оно прошло в онлайн-формате и принесло больше анонсов, чем обычно.

11.06.2021    1430    user1015646    0       

«Яндекс» внедрил генеративную нейросеть для поиска ответов

Новость Искусственный интеллект ИТ-новость Яндекс

«Яндекс» представил новую версию своего поисковика Y1. В числе прочих изменений – использование машинного обучения для генерации подзаголовков объектных ответов и классификации сниппетов. 

11.06.2021    1251    VKuser24342747    0       

Microsoft выложила сборку OpenJDK в открытый доступ

Новость ИТ-новость Новости компаний Языки программирования

Сборка проекта OpenJDK, подготовленная специалистами Microsoft, теперь доступна всем желающим. Решение с открытым исходным кодом можно загрузить в традиционном формате и в Docker-контейнере.

10.06.2021    1289    user1015646    0       

Составлен список из 10 самых полезных репозиториев GitHub

Новость GitHub ИТ-новость

Яш Тивари, специалист по обучению начинающих разработчиков, опубликовал подборку важных репозиториев GitHub. Их изучение поможет развить навыки программирования и пройти собеседование в крупную ИТ-компанию.

10.06.2021    2020    VKuser24342747    0       

Российские компании совместно с Gigabyte наладят выпуск серверного оборудования

Новость ИТ-новость

«Яндекс», «Ланит», «ВТБ» и Gigabyte договорились о создании завода по выпуску серверов и компонентов на территории России. Фабрика может начать выпускать продукцию уже в 2022 году.

10.06.2021    1182    VKuser24342747    0       

Консорциум Всемирной паутины создал комитет по развитию WebExtensions

Новость Интернет ИТ-новость

Организация Консорциум Всемирной паутины W3C создала WebExtensions Community Group (WECG) для разработки единых стандартов браузерных расширений. В комитет вошли представители крупных ИТ-компаний.

09.06.2021    987    VKuser24342747    0       

Google разработал сервис для наглядного отслеживания зависимостей проекта

Новость Google ИТ-новость

Инструмент Open Source Insights позволяет визуализировать граф зависимостей для пакетов. Благодаря сервису можно своевременно обнаруживать проблемы с безопасностью модулей.

09.06.2021    1488    VKuser24342747    0       

10 лучших языков программирования в 2021 году по версии InformationWeek

Новость ИТ-новость Языки программирования

Журнал InformationWeek выпустил топ языков программирования, востребованных среди корпоративных ИТ. Рейтинг составлен на основе нескольких источников сбора и анализа данных. В рейтинг InformationWeek попало десять языков программирования.

08.06.2021    1375    SKravchenko    0       

«Яндекс» разрешил пользователям удалять данные о себе

Новость ИТ-новость Яндекс

«Яндекс» открыл доступ к инструменту просмотра и удаления сведений, накопленных организацией о пользователе. Поддерживаются не все сервисы, но компания обещает постепенно расширять список.

07.06.2021    1705    VKuser24342747    0       

Компания Virtuozzo бесплатно раздает дистрибутив vzLinux на замену CentOS

Новость Linux ИТ-новость

Операционная система может стать полноценной заменой CentOS, который перестанет поддерживаться с конца 2021 года. Разработала ОС компания с российскими корнями.

03.06.2021    2730    VKuser24342747    0       

«Яндекс» предоставит бизнесу доступ к сервису обогащенных ответов

Новость Интернет ИТ-новость Яндекс

Сторонние компании смогут создавать блоки для дополнительной информации о своем сайте, которая будет ранжироваться в поисковой выдаче. Таким образом «Яндекс» устраняет нарушения, обнаруженные ФАС.

03.06.2021    1924    VKuser24342747    1       

Google официально выпускает ОС Fuchsia для умных дисплеев Nest Hub

Новость Android Google ИТ-новость Мобильные приложения

Google сообщил, что обновление коснется владельцев первого поколения Nest Hub. Новая ОС Fuchsia заменит существующее программное обеспечение на основе Cast OS.

02.06.2021    1612    SKravchenko    0       

В Amazon Web Services добавили новую систему запуска и управления контейнерами

Новость Дата-центры ИТ-новость Новости компаний

Компания Amazon открыла общий доступ к ECS Anywhere. Это расширение ECS (Elastic Container Service) для управления контейнеризированными приложениями. Оно обеспечивает быстрое развертывание AWS-приложений в любой вычислительной среде.

02.06.2021    1939    user1015646    1       

Microsoft представила релизную версию менеджера пакетов winget

Новость Windows Автоматизация ИТ-новость

В Windows 10 в ближайшем обновлении будет добавлена утилита Windows Package Manager 1.0. Она позволяет управлять пакетами на устройстве, обновлять их и копировать настройки на новый компьютер.

01.06.2021    2907    VKuser24342747    0       

Microsoft добавила в Teams презентации, вебинары и приложения

Новость ИТ-новость Новости компаний

Microsoft открыл бесплатный доступ к вебинарам и презентациям PowerPoint Live в сервисе Teams. Также на ежегодной конференции Build компания рассказала о возможностях создания приложений на базе мессенджера.

31.05.2021    1376    user1015646    0       

Microsoft разработала систему автодополения кода на базе нейросети GPT-3

Новость Искусственный интеллект ИТ-новость Новости компаний Языки программирования

Платформа Microsoft Power Apps получила функцию автоматической генерации кода на языке Power Fx. Пользователю достаточно словами описать команду, и программа выдаст подходящую формулу.

28.05.2021    1591    VKuser24342747    0       

Энтузиаст создал дистрибутив Linux для записи на дискету

Новость Linux ИТ-новость

Польский разработчик Кшиштоф Кристиан Янковски сделал дистрибутив Floppinux, который помещается на 3,5-дюймовую дискету. Современная операционная система работает на любых компьютерах старше 1989 года.

27.05.2021    1991    VKuser24342747    5       

В России создадут госстандарт для ИИ

Новость Искусственный интеллект ИТ-новость

Российские власти предлагают утвердить ГОСТ для разработок в сфере искусственного интеллекта. В Росстандарте уверены: ГОСТы ускорят развитие инноваций и добросовестной конкуренции в сфере ИИ.

27.05.2021    3217    user1015646    5       

Разработчики Sublime Text представили версию приложения 4.0

Новость ИТ-новость

В обновлении Sublime Text улучшен интерфейс текстового редактора, добавлена поддержка новых языков программирования, доработан механизм автодополнения и внесены изменения в условия лицензирования.

27.05.2021    1607    VKuser24342747    0       

Создан свободный эмулятор для запуска Linux-приложений на macOS

Новость Linux Mac OS GitHub ИТ-новость

Бесплатная программа Lima получила первую публичную версию 0.1.0. При разработке проекта авторы вдохновлялись аналогичной технологией от Microsoft, которая позволяет запускать приложения Linux в Windows 10.

26.05.2021    3724    VKuser24342747    1       

Ничего лишнего: Facebook научил нейросеть забывать устаревшие данные

Новость Искусственный интеллект ИТ-новость

Социальная сеть разработала новый способ хранения данных, используемых для машинного обучения. Благодаря методу нейросеть сможет периодически избавляться от ненужных сведений.

25.05.2021    1633    VKuser24342747    0       

GitLab ужесточил правила использования CI/CD для борьбы с майнерами

Новость Автоматизация Безопасность ИТ-новость

GitLab продолжает препятствовать майнингу криптовалют на своих серверах. После ограничений на бесплатное использование сервисов непрерывной интеграции репозиторий начнет требовать данные банковской карты для доступа.

25.05.2021    2407    VKuser24342747    0