По мере роста спроса на серверы и ИТ-инфраструктуру одной из главных задач становится охлаждение серверов и помещений дата-центров. Эффективное охлаждение дата-центра повышает производительность серверов и улучшает операционные процессы в целом. Именно поэтому за прошедшие годы было разработано множество различных методов охлаждения.
Почему охлаждение дата-центров так важно?
В дата-центрах размещается большое количество серверов, используемых для самых разных задач. Всех их объединяет одно: высокая нагрузка, из-за которой процессоры и чипы выделяют значительное количество тепла.
Чтобы лучше это понять, вспомните свой ноутбук или персональный компьютер. Когда нагрузка на него превышает обычную, обратите внимание, как интенсивно работает системный вентилятор и как сильно нагревается устройство.
Серверы нередко называют суперкомпьютерами, и они тоже выделяют очень много тепла. Если это тепло не отводить, производительность серверов будет постепенно снижаться, и они уже не смогут работать так же эффективно, как раньше. Поэтому в такой среде, как дата-центр, где размещается множество серверов, обязательно должна быть подходящая система охлаждения.
Сегодня система охлаждения стала одним из главных критериев, которые компании учитывают при выборе дата-центра. Учитывая её значение для производительности серверов, для дата-центров было разработано множество методов охлаждения. Одни оказались практичными, другие — нет. Однако ясно одно: по мере того как со временем росло использование серверов, росла и потребность в новых технологиях охлаждения.
Методы охлаждения дата-центров
Существует несколько методов охлаждения дата-центров, и в этом разделе мы их рассмотрим.
Воздушное охлаждение
Этот метод охлаждения создаёт воздушный поток с помощью вентиляторов, систем кондиционирования, вентиляционных решёток и другого оборудования. Воздушное охлаждение удаляет горячий воздух, образующийся внутри дата-центра, и заменяет его свежим прохладным воздухом. Это один из самых распространённых методов охлаждения, который применяется во многих дата-центрах.
Раньше воздушного охлаждения было достаточно для многих задач. Однако сегодня нагрузки выросли как по объёму, так и по интенсивности, поэтому этот метод может оказаться недостаточно подходящим или эффективным для некоторых дата-центров.
Воздушное охлаждение обычно применяется для стоек с плотностью мощности менее 20 kW.
Жидкостное охлаждение
При прямом жидкостном охлаждении хладагент подаётся по сети трубопроводов к компонентам, выделяющим тепло, таким как CPU и GPU. Проходя через такие элементы, как охлаждающие пластины (cold plates), жидкость поглощает тепло. Нагревшись, она возвращается в контур охлаждения, где охлаждается и снова поступает в циркуляцию.
При этом методе жидкость непосредственно контактирует с чипами или их охлаждающими элементами, но сам сервер в жидкость целиком не погружается.
Иммерсионное охлаждение
При этом методе сервер полностью погружается в жидкость. Можно подумать, что, отводя тепло, жидкость повредит сервер, но это не так. При иммерсионном охлаждении сервер помещается в непроводящую жидкость, поэтому его компоненты не повреждаются.
Жидкость поглощает выделяемое тепло и предотвращает перегрев сервера. Этот метод настолько эффективен, что позволяет размещать оборудование сверхвысокой плотности на объектах, изначально рассчитанных на низкую или среднюю плотность мощности.
Иммерсионное охлаждение можно использовать практически для любых типов серверов и нагрузок.
Испарительное охлаждение
Поскольку одного воздушного охлаждения уже недостаточно для многих дата-центров, а полная замена системы охлаждения может обойтись крайне дорого, испарительное охлаждение может стать для таких объектов оптимальным вариантом.
Вентиляторы подают в дата-центр наружный воздух для охлаждения. Прежде чем этот воздух достигнет оборудования, испарение воды забирает у него тепло и снижает его температуру.
Фрикулинг (свободное охлаждение)
Фрикулинг — это метод, при котором для снижения температуры в дата-центре используются доступные природные ресурсы, когда это позволяют условия окружающей среды. Это снижает необходимость в непрерывной работе традиционного холодильного оборудования. При этом методе важную роль в отводе тепла могут играть наружный воздух или естественные источники холодной воды.
Для реализации такой системы охлаждения могут применяться экономайзеры, косвенное воздушное охлаждение, роторные теплообменники и пластинчатые теплообменники.
Возможность применения этого метода зависит от климата и микроклимата в месте расположения дата-центра. Поэтому перед его выбором необходимо тщательно оценить условия окружающей среды на площадке. При подходящих условиях фрикулинг позволяет снизить энергопотребление и выбросы углерода. Он может быть особенно эффективен для дата-центров, обслуживающих ресурсоёмкие нагрузки, такие как ИИ и высокопроизводительные вычисления (HPC).
Deploy Your VPS in Leading Data Centers
Choose from multiple global locations and launch a powerful virtual server with high-speed connectivity, reliable infrastructure, and flexible resources.
Тенденции и будущее охлаждения дата-центров
Одна из важнейших задач в области охлаждения дата-центров — минимизация воздействия на окружающую среду. Некоторые существующие методы охлаждения доказали свою эффективность и могут и дальше широко применяться. Однако методы, которые, вероятно, получат большее распространение в будущем, приносят больше пользы для экологии и позволяют эффективнее управлять отработанным теплом. К ним относятся:
- Адаптивное охлаждение: при этом методе искусственный интеллект регулирует уровень охлаждения в зависимости от текущего состояния и нагрузки серверов. Это предотвращает избыточное охлаждение и лишнее потребление энергии.
- Периферийные дата-центры: распространение периферийных (edge) дата-центров позволяет обрабатывать данные ближе к пользователям. На таких объектах можно внедрять более современные методы охлаждения, соответствующие их конкретным условиям.
- Устойчивая энергетика: использование солнечной и ветровой энергии вместе с аккумуляторами и системами накопления энергии помогает дата-центрам снизить энергопотребление и углеродный след.
Какие крупные дата-центры используют жидкостное охлаждение?
Крупные операторы дата-центров, такие как Google, Amazon и Hetzner, на протяжении многих лет полагались на воздушное охлаждение. Их системы охлаждения за это время существенно не менялись, хотя некоторые из них также внедрили испарительное охлаждение. Однако такие системы могут быть дорогими в установке и вызывать экологические опасения, особенно в части расхода воды и её возврата в природную среду, поэтому применяются они не везде.
Сегодня подробных данных и сведений о методах охлаждения, используемых в дата-центрах для ИИ, не так много. Тем не менее инфраструктура, на которой работают такие платформы, как OpenAI, Claude и Gemini, наверняка использует технологии жидкостного охлаждения — по крайней мере для серверов, обрабатывающих особенно ресурсоёмкие нагрузки.
В 2018 году Microsoft разместила на морском дне герметичный дата-центр размером с контейнер, чтобы проверить идею строительства подводных дата-центров. Поскольку морская вода проводит электричество, серверное оборудование не контактировало с ней напрямую и было защищено водонепроницаемым корпусом. Относительно низкая и стабильная температура окружающей морской воды помогала охлаждать серверы.
Эти серверы проработали под водой около двух лет. Несмотря на значительный потенциал проекта в снижении затрат на строительство и охлаждение серверов, ни одна компания или оператор дата-центров с тех пор не применил этот подход в крупных масштабах.
Строительство подводных дата-центров может негативно сказаться на морских обитателях и в долгосрочной перспективе нарушить водные экосистемы.
В заключение: как адаптивное охлаждение повышает эффективность дата-центра?
Адаптивное охлаждение использует искусственный интеллект и данные в реальном времени, чтобы постоянно корректировать уровень охлаждения в зависимости от нагрузки серверов и условий окружающей среды. Обеспечивая охлаждение только там и тогда, где и когда оно необходимо, оно позволяет избежать избыточного охлаждения, снизить энергопотребление и повысить общую эффективность дата-центра.
Часто задаваемые вопросы
1. Можно ли использовать иммерсионное охлаждение для всех типов серверов?
Иммерсионное охлаждение подходит для широкого спектра серверов и нагрузок, однако не всё серверное оборудование автоматически совместимо с этим методом. Компоненты должны быть пригодны для погружения в непроводящую диэлектрическую охлаждающую жидкость; кроме того, необходимо учитывать такие факторы, как совместимость оборудования, требования к обслуживанию и проектирование объекта.
2. Потребляет ли жидкостное охлаждение меньше энергии, чем воздушное?
Во многих случаях жидкостное охлаждение потребляет меньше энергии, чем воздушное, поскольку жидкости передают тепло эффективнее воздуха. Это означает, что системам охлаждения может требоваться меньше энергии для отвода тепла от серверов высокой плотности. Однако фактическая экономия энергии зависит от конструкции системы охлаждения, нагрузки на серверы и инфраструктуры дата-центра.


