Записки океанолога - обработка и визуализация данных

Задача: проводить анализ гео данных и их визуализацию средствами одного инструмента
Инструмент: NCL (NCAR Command Language)

Моделирование атмосферы, океана а также других элементов земной системы уже в начале 90х годов было развито довольно хорошо и стало производить такое количество данных, что для обработки всего этого зоопарка переменных потребовалось создать специальный язык.
NCL это интерпретируемый, объектно ориентированный язык программирования, который предназначен специально для людей занимающихся анализом данных привязанных на сетку связанную с географическими координатами, попросту говоря с Землей, и в особенности модельеров. Не могу не заметить что NCL это прародитель так нежно любимых мною PyNGL/PyNIO.

В дополнение к обычным свойствам, присущим языкам программирования, NCL также обладает средствами для манипуляции метаданными, тонкой настройки визуализации, импорта данных в различных форматах широко используемых в геонауках и поддержкой матричной алгебры.

В NCL включены более 600 функций и процедур облегчающих жизнь человека который видит перед собой террабайтные массивы данных и понимает что что-то с этим ему придётся делать иначе диплома не видать как своих ушей. Среди них:

• те что используются специально с климатическими и модельными данными
• для расчёта эмпирических ортогональных функций, трансформаций Фурье, сингулярного разложения, осреднения, стандартного отклонения, синусов, косинусов, логорифмов, минимумов, максимумов и так далее.
• получения и трансформации временной информации
• отображения примитивов (линий, залитых площадей, маркеров), спецсимволов для метеокарт, изоповерхностей и других графических объектов
• интерполяция, аппроксимация и регридинг в одном двух и трёх измерениях
• облегчённый анализ скалярных и векторных значений глобальных геофизических величин

Сегодня я расскажу как поставить NCL и написать в нём несложную программу.
Read more »

Задача: быстро анализировать данные, проверять догадки, создавая карты пространственного и временного распределения характеристик в различных комбинациях
Инструмент: Ferret

Ferret - это интерактивная среда для визуализации и анализа больших наборов метеорологических и океанологических данных, то есть, он может работать с любыми гридированными данными, будь-то вывод моделей или спутниковые продукты. Работает ferret по утверждению создателей на всём, но под виндоуз вам придётся попотеть, чтобы его завести. Можно обрабатывать данные как находящиеся на вашем компьютере, так и данные лежащие в интернете при помощи протокола OPeNDAP. Ferret предлагает подход подобный тому, что используется в пакете Mathematica: новые переменные создаются интерактивно как математические выражения. Расчёты могут быть сделаны для произвольно выбранных районов.

Несмотря на то, что разработчики уверяют, что их детище производит иллюстрации качества пригодного для использования в научных публикациях, это, на мой взгляд, не так. Хоть некоторые действительно вставляют графику Ferret в свои работы, на мой взгляд до уровня PyNGL или GMT ей как до луны. Но, в роли инструмента для анализа ferret очень удобен и тут можно закрыть глаза на качество вывода. Для того, чтобы проверить свою гипотезу или взглянуть на то, не слишком ли далеко модель отдрейфовала от реальности, совсем не нужно располагать графикой высшего разряда, вполне достаточно адекватных картинок. Тут главное, чтобы вы могли создавать эти картинки быстро и интерактивно, а в этом ferret мало кому уступит первенство.
Read more »

Задача: продолжить получать графику высокого качества не выходя из питона
Инструмент: Matplotlib

Это продолжение предыдущего поста. Сегодня мы рассмотрим, как отобразить два графика в одном окне, как это сделать в разных окнах, как добавить математические выражения в подписи к осям и в любое место графика, а также, как подписать какую-нибудь деталь на графике, которая вам особенно нравится.
Read more »

Задача: получить графику высокого качества не выходя из питона
Инструмент: Matplotlib

Этим постом я начинаю серию вольных переводов избранных отрывков документации к Matplotlib.
Это питоновская библиотека для создания двухмерных графиков высокого качества (publication quality). Сделана с таким расчётом чтобы переход на неё доставил минимальные затруднения опытным пользователям матлаба. Как говориться на сайте библиотеки, Matplotlib старается сделать простые вещи простыми а сложные вещи возможными.

Как выглядит создаваемая графика можно посмотреть тут
Как устанавливать библиотеку я уже писал в предыдущем посте

Начнём с простого графика и контроля свойств линии.
Read more »

Задача: быстро вручную создавать батиметрические карты океана на основе одноминутных данных GEBCO
Инструмент: Программа поставляемая вместе с гридом GEBCO

GEBCO это General Bathymetric Chart of the Oceans, то есть данные по которым можно строить карту дна океана. Разрешение у этого грида одна минута, что является рекордом для глобальных данных такого рода.
Поставляются данные в правильном формате netCDF и любая нормальная программа понимающая данный формат их считает. Но поскольку эти программы в большинстве своём работают из командной строки, да и не всегда загрузка и отображение данных там это тривиальное занятие, нужен способ быстро тыкая мышкой получить примерное представление о рельефе дна определённой области.

Для этого подходит программа поставляемая вместе с данными, точное название которой я так и не выяснил. К сожалению это программа для виндоуз, но и под вайном оно вполне себе работает, так что пользоваться линуксоиды ей тоже могут.

Далее следуют инструкции по скачиванию данных и программы, а также иллюстрация простейшего их использования.
Read more »

Подкаст "Реальная наука" теперь находится по адресу http://www.oceanographers.ru/podcast/
Там же можно подписаться на RSS )

Задача: посмотреть что из себя представляет матрица, так как это делается в Matlab при помощи imagesc
Инструменты: Matplotlib, matplotlib.pyplot.imshow

Иногда достаточно одного взгляда на вашу матрицу чтобы понять что то-то в ней не так. При достаточном опыте работы с одними и теми же данными и небольшом размеры матрицы, в принципе можно и на цифры глянуть. Но гораздо приятнее смотреть на это дело в цвете. В матлабе для этого служит функция imagesc. Посмотрим как это можно сделать в питоне при помощи библиотеки Matplotlib.
Read more »

Задача: Сделать так чтобы наши координаты имели вид по долготе [0.,360.) и по широте [-180.,180.)
Решение: функция пингля Ngl.normalize_angle

Эта функция пингля делает всю работу.

Ngl.normalize_angle(angle, option)

где angle - понятное дело угол, а option - может принимать значение 0 или не 0.
Если 0 то мы имеем дело с долготами, если нет то с широтами.

Мой код выглядит следующим образом:
Read more »

На фото приёмная станция "Алиса", принимающая данные со спутника NOAA

Скачать файл
Интервью с метеорологом Михаилом Иткиным, в котором он рассказывает о том:

• Зачем нужны метеорологические спутники
• Что происходит с российскими метеоспутниками
• Кто имеет доступ к информации
• Как принимается информация
• Как используется информация со спутников
• Кому нужен наукастинг
• Какова ситуация с нашими метеостанциями
• Почему не используется информация которую нужно просто чуть чуть обработать в линуксе
• Чему собственно была посвящена его работа

Больше ссылок и картинок под катом
Read more »

Этим подкастом начинаю надеюсь регулярные :)) телефонные интервью с действующими учёными, поводом к которому обычно является их публикация в одном из реферируемых научных журналов.

Скачать файл

Интервью с океанологом Андреем Щербиной в котором он рассказывает о том:

• - как океанологи ухитряются проводить измерения с небольших судов в штормовую погоду
• - почему течения у Кейп Код быть не должно а оно там есть
• - сколько стоит выкупить у рыбаков пойманную ими в трал океанологическую станцию

Read more »