28 августа 2015

Погода: как это работает

Что ещё, если не погода, может беспрекословно заставить нас скорректировать все свои планы на день, перенести поездки и даже отложить отпуск? Многие говорят, что верить прогнозу погоды не стоит, ведь она изменчива. Погода изменчива, но предсказуема - так скажет любой сотрудник Гидрометцентра Беларуси.

О том, каким же удивительным и невероятно сложным образом появляются цифры прогноза погоды в информере прогноза погоды Bizlida.by, расскажет нам инженер-программист сектора программного обеспечения по веб-технологиям Гидрометцентра Беларуси, Белов Александр.

Рядовой пользователь интернета может зайти в Google и ввести поиск погоды. Результатом запроса будут множество сайтов. Каким из них доверять и на каком основании, не совсем понятно. Не ясно откуда берётся информация. Не ясно, насколько эта информация правдива. Многие сайты монетизированы и представляют клон друг друга, т.е. одной из главных целей является извлечение прибыли от посещаемости каждого из проектов. 

Каким образом связаны, связаны ли вообще, между собой наиболее популярные сайты погоды? Многие почему-то считают, что POGODA.BY и Gismeteo, это одно и то же. Александр, помогите разобраться.

Никаким образом не связаны. Даже первичная прогнозная информация на сайты поступает из разных источников. POGODA.BY – источник Met Office, Великобритания, Gismeteo – источник, если ничего не изменилось, это NCEP, США.

POGODA.BY связан только с HMC.BY, так как это официальный сайт Белорусского Гидромета, а информационный сайт POGODA.BY – это один из видов продукции Гидромета.

Meteo.by, weather.by, pogoda.blr.biz, meteonova.by не являются потребителями наших услуг. Источником их прогноза погоды является все тот же NCEP, США. Meteonova.by – это, если я не ошибаюсь, продукт Gismeteo.

HMC.BY и POGODA.BY сообщаются между собой технологически – используют единую базу метеорологических данных.

MeteoInfo.by и POGODA.BY связаны очень тесно. MeteoInfo.by – технологическая и экспериментальная площадка Гидромета. Сайт MeteoInfo.by рассчитан на подготовленного пользователя, профессионалов и студентов. Тестирование методов прогноза и алгоритмов происходят именно здесь. Сюда же убран и весь картографический материал.

Почему POGODA.BY является лучшим сервисом прогноза погоды? Какое существенное превосходство имеет сервис перед другими?

POGODA.BY не лучше и не хуже. Он другой, но он мог бы быть лучше, существуя в иных экономических реалиях. Можно сказать, что наш сервис, видя статистику посещений, популярный.

Существенное превосходство вижу лишь в многообразии публикуемой на сайте информации. Признаться, я не встречал регионального сайта, который выдавал бы столько видов различной информации: от прогноза до температуры моря; от погоды в аэропортах, до геомагнитной обстановки; от спутников до метеорадаров.

Существенный минус – информация ограничена регионом Европа-север Африки, а хотелось бы охватить всё северное полушарие.

Когда сервис впервые начал свою работу в Интернете? И как это было?

Сервис начал работу в 2001 г. Сначала во внутренней сети Гидромета, а к концу 2002 года был подключен к Интернету. Как это было? Было смешно. Скорость соединения с Интернетом была всего 64 кбит/с, сервера были слабые, алгоритмы были примитивны и реализованы они были во flash-технологиях.

В 2008 году практически всё поменяли. Изменился дизайн и программный «движок» сайта. Связано это было в первую очередь с тем, что в Гидромет из Met Office начали поступать результаты вычислений компьютерной модели погоды UKMET заблаговременностью 144 часа.

Сначала все шаблоны и алгоритмы откатали на MeteoInfo.by (в то время он был частным ресурсом, зарегистрированным на работника Гидромета). Когда собрали все отзывы, а тестировали работу сайта почти год обычные посетители и метеолюбители – члены Meteoclub.ru, то рискнули перетащить это все на POGODA.BY.

В последующие годы шли косметические улучшения в дизайне: шаблоны, шрифты, пиктограммы; сайт дополнялся разделами (например, спутниковыми снимками Eumetsat); автоматизировалось рисование и публикация метеокарт, метеограмм, метеорадаров, в 2009 подключили сайт к Твиттеру, позже настроили постинг в VK и FB.

Как работает цепочка последовательных действий, начиная от метеорологической станции? Как поступают данные к сервису, как обрабатываются, и как раздаются на другие отдельные частные порталы и сайты?

Все начинается с наблюдений. Во время сеанса наблюдений измеряется уйма параметров на метеорологических, гидрологических, морских прибрежных, судовых станциях, метеостанциях в аэропортах. Измеряют также автоматические метеостанции, морские буи, данные поступают с гражданских воздушных судов, с аэрологических зондов, поднимающихся на высоту до 30-35 км, со метеоспутников и метеорадаров.

Метеорологические радиолокаторы: старый МРЛ5 и новый допплеровский, Минск.

Основные метеопараметры: температура воздуха, земли, воды, атмосферное давление, влажность, скорость и направление ветра.

Наблюдения проводятся также и за явлениями погоды (основные: Туман; Дымка; Мгла; Роса; Иней; Гололед; Гололедица; Изморось; Метель; Поземок; Пыльная (песчанная буря); Снег; Гроза; Зарница; Град; Полярное сияние) и осадками. Помимо этого ведутся также наблюдения за солнечным сиянием, альбедо, ультрафиолетом.

Во всём мире принято, что метеостанции проводят наблюдения регулярно и синхронно –  через каждые 3 часа.

Результаты наблюдений (это и есть фактическая погода) кодируются одним из стандартных метеорологических кодов и направляются в местные центры сбора и обработки информации.

Кто является прямым первичным поставщиком данных, много ли прямых источников использует POGODA.BY? 

В Беларуси, например, информация с 52 метеостанций, гидропостов и аэропортов поступает в Минск в Гидромет (в Центр связи и коммуникаций), который находится возле ст. метро Московская, остановка «Обсерватория».

Обсерватория, Минск.

В наш Центр связи и коммуникаций стекается также фактическая погода стран Европы (280 метеостанций и с 220 аэропортов), поскольку она тоже влияет на погодообразование в Беларуси.

Поступившие сообщения о фактической обстановке декодируются, записываются в базу данных сайта и публикуется на POGODA.BY в разделе «НАБЛЮДЕНИЯ». Сообщения публикуются, разумеется, с сокращениями – показывается наиболее интересная для рядового пользователя информация. Некоторая информация не связана с деятельностью Гидромета и поступает в базу данных сайта напрямую: «Геомагнитная обстановка», «Температура морской воды на зарубежных курортах», «Солнечная активность» и пр.

С метеоинформацией удобно работать в графическом виде. Отдельные метеоданные наносятся на географическую карту – «Карты погоды».

Информация с метеорологических спутников и радаров, поступающая в Гидромет, декодируется, и на её основе формируются изображения  – «Спутниковые снимки» и «Радарные карты».

Для экспорта на другие web-сайты фактическая информация преобразовывается в XML-формат – «RSS-ленты погоды».

Часть данных нами архивируется, и выкладывается в виде zip-файлов в разделе «СЕРВИСЫ».

Какие методы, формы и виды прогноза используются источниками или все возможные? 

О прогнозах. В Гидромете для составления прогнозов погоды используется 2 метода численный и синоптический.

Синоптический – это когда человек, по специальности синоптик, составляет и анализирует приземные и высотные метеорологические карты с фактическими данными. Суть мето­да: на основании анализа карт погоды за несколько последовательных сроков составляют прогноз синоптического положения, который заключается в прогнозе возникновения, перемещения и эволюции воздушных масс, атмосферных фронтов, барических систем. Зная характер погоды в синоптических образованиях (фронты, циклоны или антициклоны), свойства воздушных масс, направление их перемещения и их взаимодействие с подстилающей поверхностью (местные условия), учитывая суточный ход метеорологических величин и особенности времени года, синоптик составляет прогноз погоды.

Прогнозы могут составляться по пункту (городу, аэродрому и т. п.), по району (географическому или административному), по маршруту (авиатрассе, железной дороге и т. п.).

Чем на больший срок дается прогноз погоды, тем менее деталь­ным становится его содержание.

Синоптический прогноз публикуется на официальном сайте HMC.BY в разделе «Прогноз погоды». На сайте POGODA.BY – в текстовом виде на главной странице в разделе «Метеоновости».

Численный – работает компьютерная программа, которая решает системы уравнений гидродинамики. Эти уравнения функционально связывают прогнозируемые характеристики погоды с несколькими исходными параметрами атмосферы. В качестве основных исходных характеристик принимают: давление, температуру, влажность воздуха и проекции скорости ветра. Уравнения являются нелинейными и не имеют точного решения, поэтому для их решения используются численные методы. Эта модель может быть глобальной, покрывающей всю Землю, или региональной, покрывающей отдельный участок планеты.

Расчет прогноза делается для всего полушария на суперкомпьютерах Met Office в Великобритании (компьютерная модель UKMET) и продолжается несколько часов.

Входными данными для модели UKMET служат данные десятков тысяч метеостанций, данные нескольких тысяч метеозондов, морских судов и буёв со всего земного шара. 18 из 52 метеостанций Беларуси передают сведения для расчета прогноза. Модель усваивает также данные метеоспутников.

Данные численной модели UKMET позволяет получать прогноз погоды с заблаговременностью 144 часа и временным шагом 6 часов («утро», «день», «вечер» и «ночь»). GRIB-файлы с данными UKMET доступны только национальным метеослужбам

Помимо модели UKMET в Гидромете используются глобальные численная модель погоды GFS от NCEP, США и GEM от Canadian Meteorological Centre (CMC), Канада. GRIB-файлы этих моделей находятся в свободном доступе в сети Интернет. Эти модели позволяют получать прогноз погоды с заблаговременностью 144 часа и временным шагом 3 часа.

Отдельно хочу отметить, что самой популярной и распространенной метеорологической моделью используемой разнообразными сайтами с прогнозами погоды является модель GFS.

GFS расшифровывается как Global Forecast System (Глобальная Система Прогнозирования). Эта метеорологическая модель создана американским государственным агентством NCEP (National Centers for Environmental Prediction, Национальные Центры для Предсказания Окружающей Среды), которое является структурным подразделением NOAA – Национального управления океанических и атмосферных исследований США.

Модель GFS пересчитывается четыре раза в день: 00, 06, 12 и 18 ч по времени UTC. Разрешение («сетка») модели 0.25 градуса, т.е. метеоданные спрогнозированы для точек приблизительно через каждые 25 км. У GFS несколько достоинств: во-первых, эти данные предоставляются американцами абсолютно бесплатно. Во-вторых, прогнозы в GFS делаются аж на 384 часа вперёд. И, в-третьих, прогнозы этой модели покрывают весь земной шар!

Формирование прогноза на POGODA.BY.

Данные расчетов за 00 ч. по времени UTC, содержащиеся в двоичных GRIB-файлах, начинают поступать к 6 ч. утра местного времени. В 08:15 запускается специальное программное обеспечение, которое декодирует GRIB-файлы и производит интерполяцию прогностических данных из регулярной сетки на точку с заданными географическими координатами. Результаты интерполяции записываются в базу данных. В течение 5-10 минут прогнозная информация в базе будет обновлена, т.е. произойдёт апдейт базы данных. В 09:30 специальное программное обеспечение запускается вновь. Это делается для того, чтобы «подобрать» во время не поступившие GRIB-файлы. Аналогично, в 20:30 и 21:30, обрабатываются данные расчетов за 12 часов UTC.

В базе данных сайта хранятся расчетные данные для 1004 населённых пункта из 44 стран. Добавление нового населенного пункта не вызывает трудностей – нужно лишь знать его координаты.

Если GRIB-файлов из Met Office недостаточно для полного формирования прогноза погоды, тогда программное обеспечение сайта загрузит прогноз, рассчитанный на основе данных модели GFS.

Каждый раз, при обращении пользователя к страницам сайта, запускается программный модуль, в котором происходит преобразование прогностических полей, хранящихся в базе данных в понятные пользователю температуру воздуха, ветер, облака, осадки и явления погоды. Преобразование или постпроцессинг, – это программная реализация метеорологических методик и исследований (всё тех же физико-статистичеких методов), который, между прочим, является производственным секретом.

Методик и исследований масса. Универсальных нет и самое сложное – выбрать наиболее удачную, что само по себе является объемной исследовательской работой. Теперь понятно, что у каждого сайта свой постпроцессинг, следовательно прогнозы на сайтах могут существенно различаться.

Результаты постпроцессинга выводятся на главную страницу POGODA.BY и в раздел «Погода на 6 дней», формируются метеоинформеры, метеограммы, рисуются метеокарты.

На сайте MeteoInfo.by можно посмотреть прогноз и сравнить, как прогнозируют все три модели погоды UKMET, GFS и GEM. Их информация представлена в табличном виде, в графическом «Мультимодельные метеограммы», и на метеокартах «Карты погоды».

Разработчики моделей постоянно работают над совершенствованием алгоритмов. Например, в 2014 году произошло крупное обновление GFS. Модель полностью сменила вычислительное ядро.

Среди причин ошибок прогнозов называется масса факторов ­– ­недостаточная вычислительная мощность используемого кластера суперкомпьютеров, неверные данные, получаемые с метеостанций всего мира, ошибки программирования и так далее. Факт остается фактом – GRIB-файлы с данными моделей в некоторых случаях дают серьезные расхождения с реальной погодой.

В конце ХХ века вычислительная мощность доступная метеорологам наконец-то достигла пределов, в которых создание моделей погоды стало возможно в оперативном режиме. Появились системы оперативного мезомасштабного прогноза погоды, способные прогнозировать погоду в отдельно взятом регионе. Стало возможным строить погодные модели с шагом до 300 м. Если глобальная модель учитывает в основном процессы синоптического масштаба, происходящие в атмосфере, то подробно рассчитанная мезомасштабная модель покажет и усиления ветра, и локальные изменение температуры воздуха и влажности.

Системы прогнозирования мезомасштаба способны предсказывать местные явления, которые проскакивают «между пальцев» глобальных прогнозов. За это приходится платить существенным сокращением срока прогнозирования – обычно мезомасштабные прогнозы даются на ближайшие 48 часов.

Модель WRF используется массой платных и бесплатных сервисов. На данный момент - это самая доступная для метеорологов-любителей модель: при желании, вы можете скачать программное обеспечение и запускать ее на своем домашнем компьютере.

В Гидромете для мезомасштабного прогнозирования используется модель WRF версии 3.6 для многопроцессорных систем. Счет модели организован на базе суперкомпьютера компании Hewlett-Packard, а именно HP Blade System c7000, где установлена операционная система Red Hat Enterprise Linux 5.4, 64-битная платформа. Производительность суперкомпьютера составляет 5 Tflops, число вычислительных узлов равно 31, на каждый из узлов приходится 24 Гб оперативной памяти.

Дмитрий Рябов, начальник службы гидрометеопрогнозов Республиканского гидрометеоцентра открыл стойку с серверами.

На вход модели WRF в качестве начальных и граничных данных подаются результаты прогноза глобальной модели GFS в коде GRIB с шагом 0.25° c дискретностью по времени 6 часов, заблаговременностью 48 часов. На выходе модели WRF получаем GRIB-файлы по которым можно составить детальный прогноз погоды по западной и центральной Европе на ближайшие 48 часов с дискретностью каждый час с шагом 15 км или 3 км. Пересчет прогноза погоды осуществляется 3 раза в сутки. На вход суперкомпьютера подаётся примерно 2 ГБ данных, а на выходе уже получается 200 ГБ прогностического материала. И это только на одном расчете.

Интересно, что мощности суперкомпьютера хватает на то, чтоб запускать модель WRF одновременно на одних и тех же входных данных, но с разными настройками. В Гидромете в настоящее время обсчитывается 8 (!) различных конфигураций WRF, что позволяет, во-первых, получать гораздо больше выходных продуктов, во-вторых, позволяет сравнивать результаты вычислений между собой и с фактической погодой. Это нужно чтобы оптимизировать вычисления суперкомпьютера подобрав наиболее универсальную конфигурацию WRF, при  которой прогнозы всех интересующих нас метеоэлементов оправдывались бы одинаково хорошо.

Результаты расчетов WRF выкладываются в специальном разделе – на «wrf.pogoda.by». Любой желающий может посмотреть результаты вычислений, которые представлены в виде карт и таблиц. GRIB-файлы с результатами расчетов с разрешением 15 км доступны для скачивания.

С какой частотой обновляются данные о погоде?

Различная информация имеет разный период обновления. Ежеминутно, например, обновляется раздел «Штормовые сообщения»; «Погода в аэропортах» – каждые полчаса; фактические наблюдения с сети метеостанций («Метеонаблюдения») – через каждые 3 часа; «Радарные карты» от 10 минут до получаса; «Спутниковые снимки» – каждые 15 минут.

Основной прогноз на сайте по модели UKMET обновляется 2 раза в сутки, WRF – 3 раза, прогноз GFS на сайте MeteoInfo.by – 4 раза в сутки.

Правильный ли подход используют сайты-агрегаторы разных открытых источников прогнозов погоды, на которых данные усредняются? Будет ли от этого прогноз более точным?

Вряд ли сайты-агрегаторы умеют что-то усреднять. Они собирают прогнозы с разных источников, публикуют и всё. Наиболее неприятная черта у сайтов-агрегаторов: не имея фактических данных с метеостанций, они вместо них публикуют прогноз, называя это «погода в вашем городе сейчас».

Есть ли мобильные клиент-приложения вашего сервиса, или существует только мобильная PDA-версия?

Приложений не разрабатывали. Мобильная версия существует (хотя правильнее её нужно называть версией для устаревших мобильных устройств).

Сколько всего сайтов сотрудничает с вами по размещению информеров? 

Наиболее крупные – TUT.BY и Onliner.by. Эти порталы загружают с нашего сайта массивы XML-данных. Причем, берут не только прогнозные данные, но и фактические данные с метеостанций, а также данные по температуре поверхности моря. Среди наших потребителей и Белорусская железная дорога, Белдорцентр.

Количество установок информеров не считали, предположительно более 1000 инсталляций на различных сайтах, и не только из Беларуси.

Большой ли штат сотрудников занимается сервисом POGODA.BY?

Штат скромный. В лучшие годы сайтом занималось не более 4 человек. На сегодняшнее время все наши сайты обслуживает 1 + 0.5 человека. :)

Какие ещё полезные рядовому пользователю услуги предоставляет ваш сервис?

Сайт оказывает те услуги, которыми Гидромет напрямую не занимается, размещая информацию в разделе «Магнитные бури», «Космическая погода», «Температура моря на зарубежных курортах». Также в новостной ленте публикуем информацию об аллергенах, о пожарной обстановке в Беларуси, о солнечных вспышках и видимости полярных сияний.

Через социальные сети (Twitter, ВК, FB) и на Интернет-форумах сайт извещает об опасных гидрометеорологичеких явлениях, учит, как правильно использовать и интерпретировать метеоиформацию, извещает о новых сервисах на сайте и о работоспособности самого сайта в целом.

«Бизнес-Лида», 2006–2015 при огромной поддержке POGODA.BY.

Если вы заметили ошибку в тексте, пожалуйста, выделите её и нажмите Ctrl+Enter

Комментарии 8

Чтобы написать комментарий нужно войти  или зарегистрироваться

Валер , 28 августа 2015, 18:02#
А сегодня дождь передовали...
Валер , 28 августа 2015, 21:55#
А вечером без дождя, очень предсказуемая погода вышла.
Александр_ , 28 августа 2015, 21:22#
Спасибо, прочёл он начала и до конца. Интересные данные, очень исчерпывающе. Я. признаться. тоже думал что гисметео и погодабай это одно и тоже. Выходит GFS и Met office два монополиста по сути в мире, кторые предоставляют данные мирового масштаба?
Вася #7290 , 31 августа 2015, 21:09#
Фигасе. Я сюда захожу не часто, больше почитать. Но такую статью не ожидал увидеть) Я просто сам метеоролог (по штампу в дипломе). Когда-то давно служил в Лиде в военной части. Вот вам материал интересный, расскажите как вояки облака рассеивают цементом))) Погода.бай молодцы... вам бы рекламой денег подзаработать и потратить их на дизайн, застряли по пути от функционала к дизайну где-то на 1/10 части...
Александр #6618 , 31 августа 2015, 21:40#
Да зачем вообще нам это нужно!!!!!!!!!!!!Этот бред о погоде никто уже и слышать не хочет!!!!!!!!!!Кормим своими налогами гос-мудаков которые ничего кроме стула не видят и радуются неправильной информацией!!!!!!У нас не прогноз погоды а угодайка!!!!!!!!
Павучок , 1 сентября 2015, 17:55#
При чём погода к твоим налогам и гос судакам?))))) Александр, лейку залил что-ли?
Сергей , 2 сентября 2015, 09:44#
Интересная статья. Спасибо за такие подробности))
виталий бондарович , 5 февраля, 00:59#
Все это конечно интересно, вот только мне не понятно какое давление в реальном времени, сайты разделились во мнении, http://www.pogoda.by/ утверждает на данный момент 761мм, а к примеру http://world-weather.by -740мм. За всех отвечать не буду но на 2х ТВ каналах придерживаются именно второго варианта давления. так какое все таки верное, и почему такая разница?