Сделал мини-проект/прототип дашборда про перемещение людей по данным Apple. К сожалению, визуализация в всплывающей подсказке в Табло работает медленно, но в целом хотелось показать именно как сработала бы тепловая карта.
Готовлюсь к проведению Лабораторного курса — обновляю список классных примеров в Табло, которые буду показывать слушателям. Добавил в него ещё 5 работ.
Распределение земли по назначению в США
На этой визуализации показан «каждый» акр земли в штатах и зачем он используется. При этом супер уместно используется анимация, которая показывает разные срезы этого распределения: географически, в абсолютном или относительном сравнении по типам. Это работа Александра Варламова — дата-виз энтузиаста из Казани. Как он такое делает, можно послушать на его выступлении на дне открытых данных.
Радиус взрыва атомной бомбы
Это довольно распространённый визуальный образ радиуса поражения на карте и даже есть сервисы, где можно выбрать большое кол-во разных видов бомб и самому «понаводиться» на цель. Эта работа — ремейк печатного плаката, видимо поэтому меня в ней зацепило аккуратное оформление и реализация.
Поездки Такси в Нью-Йорке
На этой визуализации 3 дня поездок такси в Нью-Йорке, показана каждая точка поездки и её длительность. Ещё есть два POI — куда люди уезжают от Эмпайр Стейт Билдинг и из аэропорта Кеннеди. У этой визуализации только одна проблема — переиспользование цветов легенды для разных метрик на разных графиках. Это путает и является грубой ошибкой, но всё равно не смог не включить эту работу в список.
Уровень преступности в разных штатах США
Удачная реализация Camel plot (сам придумал, так как не смог найти как это называется) — графиков в которых ограничена ось Y, и если значение больше него, то оно наслаивается сверху.
Такой вид графиков хорошо подходит, что бы делать small multiples для срезов с большим разбросом значений. Если бы оси для каждого штата были независимы, то значения на графиках нельзя было бы сравнивать между собой. Если бы оси были зафиксированы, то штаты с небольшим кол-вом преступлений превращались бы в прямую. Плюс, если отдалится взглядом, такие графики образуют хитмап, что тоже круто.
В работе автор решает проблему сложности считываемости графика тем, что при наведении появляются обычные тайм-серии. На них ещё круто добавлено сравнение со средним по стране.
Я бы это задачу решал ещё более наглядно и добавлял бы что-то на подобии такой легенды:
Графики в стиле Тафти
Последняя работа — моя собственная. Наверное, это самая законченная работа из всех, что у меня есть на Табло Паблик и я получил большое удовольствие от её реализации. Во-первых мне хотелось понять, можно ли что-то сделать в такой эстетике в Табло (да! можно!), во-вторых попробовать графики Тафти на реальных данных (да! работают!).
Классные работы в Табло можно искать в галерее работ Viz of the Day. Ещё можно поискать работы, которые подают на Make Over Monday (сами работы можно искать в твиттере). И там, и там, к сожалению, приходится копаться с пинцетом.
Продолжаю эксперимент с дайджестом классных примеров. Собрал ещё три работы, которые меня вдохновили на этой неделе. Дисклеймер, в этой рубрике не только новые работы, но и те, которые я просто увидел впервые. Поэтому тут будут и старые работы, но я не видел их в основных чатах по визуализации. =)
Звук толпы на стадионе во время футбольного матча
Эта работа очень запала в душу. Это анализ пяти футбольных матчей на стадионе Альянц Арена — показан уровень «социальной» активности во время матча: громкость звука трибун и кол-во сообщений в твиттере. Самый сок — это запись звука болельщиков с реальных матчей, историю про твиттер я что-то не понял.
На таймсериях справа видно громкость болельщиков, можно выбрать самые яркие моменты и слева послушать, что происходило.
Самый кайф создатели проекта почему поместили в подвал сайта. Там можно выбрать конкретный матч и посмотреть модель стадиона и полные графики в разных разрезах. Это просто огонь, тот редкий случай когда 3D в самый раз, так как отображает реальность данных:
Очень крутая работа, которая показывает природу событий через данные, можно прям залипнуть. Смотрите проект со звуком.
Топ футболистов по забитым голам
Ещё одна работа про футбол. Продолжает тематику прошлого выпуска — это простой и лаконичный график, но его очень интересно рассматривать. На графике все самые известные футболисты и кол-во забитых голов. Самое классное в визуализации — возможность найти интересного игрока, выделить его, и после этого переключить ось x. Видно как класно перемещаются игроки и что картина становится совсем другой. Очень классное применение интерактивности и анимации, прям захотелось попробовать что-то подобное сделать в Табло.
Неравенство зарплат мужчин и женщин в Англии
Гардиан визуализировали результаты отчетов компаний о неравенстве зарплат (да-да, такие отчеты обязаны сдавать крупные компании в Англии). Работа состоит из двух классных графиков: распределения и джой плота.
На распределении показана каждая компания и есть подписи для самых интересных из них. Я не очень понял, почему компании с равенством (серые) вынесены в отдельный круг, так его не сравнишь с остальными компаниями. Но сама идея выбросить на график все точки — классная.
Ниже в статье joy-plot — график, названный в честь обложки альбома Unknown Pleasure группы Joy Division. Вот как бывает — графики получают имена! Мне этот график очень нравится, он даже у меня на стартовой странице сайта стоит )) Он классно подходит для этих данных, наглядно сравниваются распределения по разным индустриям и удобно сравнивать пики распределения. Обратите внимание, как точки с прошлого графика на этом графике стали областями — это классный приём: сохранили каркас (читатель с ним уже знаком), но при этом выбрали более подходящее визуальное представление (точки тут бы шумели и отвлекали от основной сущности визуализации — индустрии):
Участвовал в конкурсе Алексея Колоколова про дашборд для продаж. Занял первое место. )
Задача была интересная — были приближенные к реальным данные отдела продаж небольшой компании, которые было нужно превратить в дашборд. Разрезов было не очень много, но от этого было ещё интереснее. Ещё понравился двухступенчатый формат: было одно ревью работ судьями → время на доработки → финальная оценка. Это уменьшало разночтения в ожиданиях и давало идея для разработки.
Вот сам дашборд — https://revealthedata.com/examples/sales-dashboard/
Вот видео, где судьи разбирают работы. Мне конечно было очень приятно, что большего всего мой даш зашёл Эдуарду Шмидту, специалисту по продажам. Так как он был голосом пользователя в этом конкурсе.
Когда делал дашборд, экспериментировал и сделал два интересных решения.
Часть дашборда с основными метриками сделана по принципу mobile first: она будет хорошо смотреться на мобильном, даже без специальной версии дашборда. И именно это часть нужна, чтобы быстро «в дороге» взглянуть на общее состояние дел, остальное можно проанализировать уже дойдя до ноута.
Сделал What-If калькулятор для воронки, с помощью него можно подобрать нужные уровни конверсии или кол-во лидов для выполнения плана.
Позже планирую записать небольшое видео и показать как дашборд устроен внутри, и рассказать какие решения принимал во время дизайна.
Многие друзья говорят мне, что будет классно собирать крутые примеры визуализации каждый месяц/неделю. Я пока не знаю, насколько это нужно и будет ли интересно — чаще всего самые классные примеры и так сами пролезают во все чаты и люди уже подписаны на редитты и подобное. Но так как запрос вроде бы есть, решил попробовать. Просто дублировать то, что уже все видели не хочется. Но решил попробовать. Собрал не самые громкие последние визуализации, а три небольших примера, которые зацепили меня лаконичностью и дизайном. Я вообще обожаю когда визуализация — это простые один-два графика, но их дико интересно изучать.
Сравнение игроков разных видов спорта
Супер классно оформленный скетерплот. Для эти данных он подходит идеально: видно кластеры разных видов спорта, видно общее кол-во игроков и выбросы, есть подписи самых интересных случаев. Даже при том, что график статичный подписи игроков заменяют часть интерактивности.
Карта Москвы с раскраской улиц по типу
Леша Тихонов сделал простую и при этом мега интересную и крутую визуализацию. Это улицы Москвы по типу: улица, переулок, тупик и т. п. Это супер интересно рассматривать и близко каждому, кто живет в столице.
Андрей Кармацкий и его команда тоже поделились подобной работой:
Индекс счастья
Классное оформление, показывает, что в Табло тоже можно делать красиво. За счет джиттеринга точки равномерно распределены по столбцам, это создает приятную визуальную картинку. Ещё здесь супер ОК то, что нед точных подписей на оси Y, так как сам индекс как раз важен просто в разрезе много/мало, а не точных значений.
Россия на фоне других стран
Итоги
Даже простые графики могут быть супер интересными. Мне кажется, что это и есть самые интересные типы визуализаций и здесь супер важным становится графическое оформление, сама идея и тип подобранного графика. Ещё на этих графиках много данных — это не суммарный условный бар-чарт, а каждая частица данных на плоскости. Это круто повышает интерес и контекст для читателя.
Астрологи объявили месяц видео (запредельное кол-во ссылок на ютуб в этом посте)
Недавно ютуб подсунул мне ролик от моего любимого канала Cut. Это была живая инфографика, где люди отвечали на вопрос, вставая в одну из областей, нарисованную на полу.
Это классный пример очеловеченного датавиза. Здесь каждый человек — визуальный атом, который транслирует свою частицу данных — ответ на какой-то вопрос. Вспомнилось несколько похожих примеров. Первый это фото людей, образующих нормальное распределение по росту:
Ещё была очень-очень классная визуализация: Sexpierence — одна из самых увлекательных визуализаций, что попадала ко мне в руки. Вообще такой формат очень подходит для результатов опросов. К сожалению, её уже нет в интернете (да! такое, к сожалению, бывает) и нельзя посмотреть даже в веб архиве, так как она была сделана на флеше. Нашёл только такое видео, где показывают её небольшую часть:
Также такая визуализация классно работает для отображения изменения состояний. Например Найтан Яу сделал классную визуализацию о том, чем заняты Американцы в разное время дня:
Подобную визуализацию, кстати, в Табло делать сложно (но можно, смотрите работы Саши Варламова). Но есть, например, встроенный формат во Флоуриш, которые позволяет делать такие истории с перемещением точек:
Вообще формат видео-инфографики с одной стороны сложный и мало, кто её делает. С другой самый распространённый на ТВ (и поэтому довольно старый) и в последние годы набирает популярность. Те же самые Race Bar Chart’s набирают миллионы просмотров на ютубе. Если вы ещё не смотрели, то вот залипайте. Флориш, кстати тоже такие умеет.
Появляются и новые форматы, например, такие топы:
Самая крутая видео-инфографика, которую я видел, это конечно же fallen.io о второй мировой войне. Если вы почему-то её ещё не видели, то обязательно посмотрите:
UPD Нашёл еще похожий формат про живые визуализации
Я давно собираю данные о своей жизни. Иногда в них находятся классные инсайты, которые помогают её улучшить. Мой любимый пример — это то, как я купил себе беспроводные наушники для созвонов по работе и сразу стал ходит на 40% больше по кол-ву шагов. Оказалось, что мне во время разговора отлично «гуляется» по комнате и можно за два совещания пройти 4-5 тысяч шагов. Ещё я смотрю на свои привычки по сну, чем в основном занят в рабочее время и т. п. Проблема со всеми этими метриками для меня была в двух вещах:
— разные данные живут в разных приложеньках и устройствах, смотрю на эти данные по-отдельности;
— все данные собираются автоматически, вроде бы здорово, но это приводит к тому, что они лежат мертвым грузом и руки у меня до них доходят в лучшем случае раз в год на новогодних праздниках.
Вот, что я придумал, чтобы это исправить. Я сделал гугл-форму, куда последние полтора месяца заношу данные из всех приложений, которыми пользуюсь. Плюс дописываю комментарии и другие не структурированные данные. Теперь я каждый день «перевариваю» свои данные так как их надо внести в форму. По сути, это та самая «осознанность», но на уровне контроля данных. Я успеваю вспомнить всё, что было вчера, обдумать это и переварить. Плюс у меня теперь есть источник в виде гугл-таблицы, куда я подтянул всю историю и могу подключить это к Табло → получать живой отчет, который сам обновляется каждый день. Получился вот такой дашборд. Верстал изначально под мобильный, так как смотрю его там.
Как и что я трекаю. Вдруг кому-то полезно.
Шаги, вес, сон — Mi Fit + Mi Band + Mi Scale. По-моему идеальное сочетание цена/качество, особенно браслет меня очень радует. Само приложение странное, но не так давно появилась классная скрытая опция, для экспорта всей истории данных.
Время за компом в разбивке по проектам — Timecamp. Чудесный бесплатный таймтрекер. Особенность в том, что каждому приложению, сайту/поддомену или названию папки можно задать свой проект. В итоге получается не разбивка по типам приложений или названию приложения, а именно проекты или области, над которыми работаешь. А в каждый проект можно добавить более детальные задачи. Для каждой задачи задается «ключевое слово», которое трекер ищет в названии программы или сайта и так определяет, что ты занимаешься именно этой задачей.
Есть встроенные репорты в разных разбивках и можно строить кастомные таблицы, по типу сводных таблиц в Экселе. Единственный минус — не трекает время в мобильном. Энивей, очень крутой сервис.
Время за телефоном — измеряю с помощью Rescue time. Неплохой трекер, данные бьются с таймкемпом, но есть разбивка только по приложениям/сайтам (без проектов) и бесплатно дают данные только за последние полгода. Для мобилки альтернативы нормальной не нашёл. Если знаете хорошее — порекомендуйте.
Калорийность и питание — приложение MyFitnessPal. Удобное и понятное приложение, есть сканер штрих-кода продуктов, что супер удобно. Часто есть всякие редкие продукты, которые не ожидаешь там увидеть.
Не структурированные данные — гугл-формы. Очень удобно, что сохраняют данные в таблицы, к которым можно подключиться в Табло.
Если кому-то нужен шаблончик дашборда в Табло — пишите, скину книгу.
Одним из показателей макроэкономики в стране является кривая безкупонной доходности облигаций федерального займа (ОФЗ БКД) — это аппроксимация доходности государственных облигаций с разными датами погашения, если бы за них не платили купоны.
По форме и крайним значениям кривой можно судить о стабильности экономической ситуации в стране. «Правильная» форма, как на рисунке ниже, свидетельствует о развитии экономики. Краткосрочные облигации имеют небольшую доходность, долгосрочные — высокую. Уровень «плато» долгосрочных облигаций примерно равен инфляции.
Если кривая «инвертируется» или «уплощается», то это свидетельствует о кризисе — инвесторы не верят в долгосрочные вложения в страну.
Мне стало интересно, что же сейчас происходит в стране и я решил сделать небольшой инструмент для мониторинга кривой ОФЗ. Я вдохновлялся работой New York Times о кривой доходности государственных облигаций США и тем, чему научился во время работы над Скайбоднс в Лаборатории данных. Немного рассказываю про этот проект и облигации на кодфесте.
Вот, что у меня получилось:
Видно, что последние 4 года кривая ОФЗ почти всегда инвертированная и коридор доходности между краткосрочными и долгосрочными бумагами небольшой. Это говорит о том, что экономика не стабильна. Однако радует, что сама кривая не ползет вверх. Сейчас центробанк верит, что в стране всё становится лучше и снижает ключевую ставку, за ней следует и кривая, значит инвесторы тоже думают так же, как и центробанк. Это вроде бы неплохо, но инвестор из меня доморощенный, за прогнозы не ручаюсь.
Ещё понравился вот такой вид, когда данные за каждый день представлены по годам слева направо:
Технические особенности
Тот редкий случай, когда 3d в графиках служит на пользу, а не во вред. Чтобы сделать псевдо-3d в Табло использовал преобразования в полярных координаторах, чтобы отрисовать с помощью линий проекцию трехмерного графика. Для этого умножаем каждую координату на сочетание cos() и sin(). Как это делается подсмотрел тут. С осями это выглядит так:
Сделать нормальную анимацию в Табло пока, к сожалению, нельзя, хотя это бывает мощный инструмент визуализации. А в вебе pages вообще не работают. Записал гифку с десктопа, но почему-то она не проигрывается при вставке в блог. Тогда ссылочкой — https://recordit.co/s161XJx5lp
Данные я брал с сайта центробанка, с помощью гугл-таблиц. Оказывается есть замечательные функции IMPORTHTML и IMPORTXML. Сделал гугл-табличку, которая подставляет в урл сайта нужную дату и парсит оттуда данные. Формула такая: IMPORTXML(«https://www.cbr.ru/hd_base/zcyc_params/zcyc/?DateTo=» & Text(A4201,«dd.mm.yyyy»),«//tr[2]»). Выглядит это так:
Поставил гугл-таблицу и Табло обновляться автоматом, в теории дашборд теперь будет автоматом обновляться, посмотрим.
Это будет экспериментальный пост с переверсткой мобильного дашборда в приложении MI Fit от Xiaomi.
Я пользуюсь их браслетом MI Band уже четвертый год и меня всегда бесил их дашборд с историей активности. Недавно делал мобильную версию дашборда для обзора рынка вакансий в BI области и понял, что дашборд в мобильном — это отдельная история и не так все просто, поэтому решил потренироваться и взял пример, который давно не нравится.
Вот как это выглядит в приложении:
Вот как я переверстал дашборд:
Я больше занимался логикой, чем графической версткой, но и её попытался подтянуть. Что я изменил:
— сместил график вправо и сделал столбики более пропорциональными, чтобы влезло больше данных;
— обозначил на графике цель пунктирной линией и подсветил градиентом ее достижение;
— добавил подписи на график;
— сделал более приятную верстку фактоидов внизу (убрал выравнивание по центру и сделал меньше расстояния);
— дополнил фактоид с шагами буллет-чартом. К нему явно нужна легенда. Я бы по клику разворачивал его с анимацией в полноценный бар-чарт. Вот так:
— сделал фактоиды более осмысленными (не смог придумать зачем нужно знать накопительную сумму калорий за месяц, заменил на потраченные калории в день) ;
— дополнил фактоиды доп информацией и картой с перемещениями;
— заменил в цифрах пробелы на полупробелы.
Если вы бы сделали как-то по другому, предлагайте. Если вам понравился сам формат заметки или хотите чтобы я разобрал ваш дашборд, пишите.
UPD
Кирилл Беляев предложил сдвинуть по высоте верхний график и сразу показывать бар-чарт, вместо буллет-чарта. Кажется, что для массовой программы это неплохое решение, хотя и хочется всех учить более сложным типам визуализаций.
«И внизу „д“, „нед“ и „м“ можно по человечески написать, места хватит.» — вот за это люблю Кирилла, смотрит не только на то, что в фокусе, но и вообще на интерфейс в целом.
У меня получился такой вариант как-то так, хотя можно было ещё и места под карту дать по-больше:
Решил сделать небольшой обзор рынка вакансий в области BI. Данные брал с hh.ru через официальное API.
Немного про методологию. Хотя это сложно конечно назвать методологией. Я запрашивал с hh кол-во резюме и сводную статистику, по сути получал в ответ всё-то, что обычно вы видите в левой части сайта. Для этого пользовался методом clusters. Данные брал только в разрезе регионов за 22 июня 2019 года.
Зарплата считается как средневзвешенная от кол-во вакансий с указанной зарплатой. Так как hh отдает данные с припиской «от», то думаю что можно прибавлять 5-10%. Для расчета конкурса на вакансию использовались только соискатели с таким названием профессии в название резюме или таким навыком в описании обязанностей или умений. Брались только актуальные вакансии и соискатели обновлявшие резюме в течении последнего месяца. Регион соискателя не учитывался.
Все результаты это не индивидуальные вакансии, а вакансии которые отдал бы вам поиск hh, если бы вы запросили его в поисковике. Так как, навыки, например могут быть указаны в одной вакансии, то общий юнивёрс вакансий в области конечно же меньше, чем по каждому навыку или названию профессии.
Вот, что получилось:
Ссылкой на Табло паблик — https://public.tableau.com/views/HHBI/BI
Выводы из анализа
Рынок сильно перегретый, даже для IT отрасли. Так, средний конкурс — 1,5 человека на вакансию, для сравнения в среднем по IT это 3, как пишет hh, но не уверен, что мы с ними считаем одинаково. Если проверять по той же методике, что делал я, то для сравнения получаются такие конкурсы:
— Front-end программист — 1,5
— Менеджер проектов — 2,7
— Дизайнер интерфейсов — 4,7
— Java-script — 21
Если посчитать конкурс на кол-во участников в чатиках Табло и Power BI в ТГ, то получается так:
— 2,3 участника чата Табло на одну вакансию с упоминанием Табло
— 1,2 участник чата Power BI на одну вакансию с упоминанием Power BI
Зарплаты указаны только в 14% случаев, это конечно немного для нормальной оценки. Интересно как коррелирует с реальным зарплатами, но как такое разузнать кроме опросов не придумал.
В целом понятно, что методика довольно кривая, но я пока не придумал лучше. Ведь и Табло и Power BI могут указать почти в любой профессии, но кажется, что общее представление, всё равно можно получить. Хочу ещё попробовать сделать тоже самая, но забирая с hh, не сводную информацию, а конкретные вакансии и анализировать уже полные данные. Будет здорово, если маякнёте, что такое было бы интересно. Для моих целей мне подойдет и этот анализ, но я готов попробовать такое для сообщества BI спецов. Или если знаете какие ещё ключевые слова и названия профессий надо попробовать загнать в анализ.
Технические особенности
Из этого мини-проекта могу поделится такими находками:
— Гугл-таблицы из коробки умеют подключатся к любому АПИ и парсить JSON, просто чума. Делается через написание простейшего скрипта. Я был покорен этой фичей. Мои любимые JS и гугл-таблицы, что может быть лучше.
— В Табло есть встроенная и не задокументированная функция RANDOM(), которая возвращает случайное число от 0 до 1. Использовал для житерринга в левом графике. Пока он смотрится не очень уместно, но я планирую в таком же духе положить все вакансии, если спаршу их.
П.С. Дисклеймер, если будете использовать это все на собеседованиях как работодатель или соискатель, я тут ни при чем и за данные не ручаюсь, хотя и проверил всё несколько раз.
UPD: Друг попросил сделать такой же обзор для вакансий в области управления проектами — https://public.tableau.com/profile/roman4734#!/vizhome/HHPM/sheet0
Каждый год аналитическое агенство Gartner публикует отчеты о развитии разных направлений IT. Меня всегда бесило, что чтобы сравнить год к году надо открывать кучу картинок. Моя интерактивная вариация про квадрант в области BI:
Сделал маленькое исследование рынка вакансий Москвы и России. Взял интересные мне профессии и скилы. Данные с hh.ru и моего небольшого инструмента, там данные тоже с hh.
Если хотите чтобы добавил какие-то профессии — пишите. =)
https://public.tableau.com/views/_21975/sheet1
Одна из участниц корпоративного курса по Табло спросила про так, как покрасить цвета в облаке слов по квантилям от частоты слов. Вот рецепт.
Для примера взял данные о частоте слов в английском языке. В наборе данных — слова и частота их возникновения. Для того, чтобы построить «облако слов» расположим слова на текст, частоту на размер, выберем в качестве визуального атома (makrs) слова.
После этого создадим расчетное поле, которые будет считать накопленный процент вхождений от общего числа.
RUNNING_SUM(SUM([Frequency])/TOTAL(SUM([Frequency])))
Автоматическим инструментом bins для разбиения на квантили использовать не получится, так как это table calc. Поэтому создадим разбивку в ручную, ещё через одно расчетное поле.
IF [Runnig % of total] >=0 AND [Runnig % of total] <0.25
THEN "0-25%"
ELSEIF [Runnig % of total] >= 0.25 AND [Runnig % of total] <0.5
THEN "25-50%"
ELSEIF [Runnig % of total] >= 0.5 AND [Runnig % of total] <0.75
THEN "50-75%"
ELSE "75-100%"
END
Кинем получившееся поле на цвет.
Получилась фигня, так как Табло не знает как отсортировать наши слова при расчете накопительного процента. Чтобы это исправить скажем ему как отсортировать слова. Для этого зайдем в редактор table calc и зададим сортировку:
Вуаля:
Добавил Парето и залил на Табло Паблик. Там можно скачать книгу и посмотреть как что реализовано.
https://public.tableau.com/views/Wordfreqineng/Wordfreqineng?:embed=y&:display_count=yes&publish=yes
В том году закончился конкурс ОРУ (один раз увидеть). Спасибо организаторам и все участникам, было круто. Вот разбор работ и моя последняя работа. Делал её из отпуска на коленке, но считаю, что самая это моя самая сильная работа из всего конкурса. Не успел только картинки пожать, чтобы быстрее грузилось. В во время реализации узнал про «новую» фишку размеров в css c помощью vw и vh. Очень удобно и полезно для адаптивности визуализаций и приложений в вебе.
Результат работы для десятого задания по визуализации.
Всех с наступающим новым годом!
