Изучение агрегирования и детализации данных

Раздел 1. Изучение агрегирования.
Раздел 2. Просмотр переменных в визуализации.

Вы когда-нибудь задумывались над тем, как лучше всего исследовать тенденции в данных, а затем искать детали, лежащие в основе этих тенденций? Если да, то вы готовы изучить концепции агрегирования и детализации.

Видео 1

Видео 2

Цели

По завершению этого модуля вы сможете:

Различать разные типы агрегирования.
Определить, как агрегирование и детализация влияют на данные.

Раздел 1. Исследование агрегирования

Агрегирование – это способ объединения данных, например, суммирование всех поисковых запросов Google по конкретному лагерю или по усредненному доходу всех наемных работников в городе. Агрегации могут показать общие тенденции в ваших данных. Количественные поля можно агрегировать. В Tableau Desktop количественные поля агрегируют по умолчанию, но их можно дезагрегировать вручную, чтобы отобразить отдельные точки данных для каждого значения данных в каждой строке источника данных.

Некоторые предопределенные агрегации описаны в таблице ниже.

Агрегирование	Описание
Sum (Сумма)	Возвращает арифметическую сумму чисел.
Average (Среднее значение)	Возвращает среднее арифметическое чисел.
Median (Медиана)	Возвращает среднее значение в наборе данных, в котором значения размещены в порядке нарастания величины.
Minimum (Минимум)	Возвращает минимальное число.
Maximum (Максимум)	Возвращает максимальное число.
Count (Подсчет)	Возвращает количество строк.

Нажмите "Пуск", чтобы увидеть выполняемые шаги.

Шаг 1. Просмотрите визуализацию с агрегированной количественной переменной.

Итак, нас интересует тенденция ожидаемой продолжительности жизни в хронологическом порядке с 1900 по 2017 год.

Начнем с количественной переменной Продолжительность Жизни в визуализации. Что вы заметили? При агрегировании суммы по умолчанию суммируются все значения в поле ожидаемой Продолжительности Жизни, это составляет 23 681 год.

Шаг 2. Просмотрите визуализацию с добавленной шкалой времени.

Нас интересует тенденция ожидаемой продолжительности жизни в хронологическом порядке с 1900 по 2017 год. Ось временной шкалы теперь добавляется с использованием непрерывной даты Года.

Что вы заметили? При агрегировании суммы по умолчанию добавляются все значения в поле ожидаемой продолжительности жизни за каждый год. Например, общая ожидаемая продолжительность жизни в 1918 году – это самая низкая точка данных на графике (из-за пандемии испанского гриппа в этом году). Однако общая ожидаемая продолжительность жизни на 1918 год все еще очень высока – 117,9 года.

Шаг 3. Посмотрим на исходные данные

Мы хотим понять, какие значения суммируются. Посмотрим только на 1918 год.

Когда мы рассмотрим данные на уровне строк за этот год, то увидим значения в трех строках: одна строка для мужчин, одна строка для женщин и одна строка для обоих полов. Если мы просуммируем значения в этих трех строках, то получим 117,9. (39,1 + 42,2 + 36,6 = 117,9)

Шаг 4. Просмотрим на влияние среднего агрегирования

Что произойдет, если ожидаемую Продолжительность Жизни агрегировать как среднее (среднее значение), а не как сумму? Средняя продолжительность жизни на 1918 год составляет 39,3 года.

Чтобы проверить это, сложите три значения для 1918 года, а затем разделите общую сумму на количество значений (3). (39,1 + 42,2 + 36,6) / 3 = 39,3.

Шаг 5. Просмотрим на влияние медианного агрегирования

Что произойдет, если среднюю продолжительность жизни агрегировать как медианное значение? Агрегирование медианы возвращает среднее значение в наборе данных. Средняя продолжительность жизни за 1918 год сейчас составляет 39,1, это – среднее из трех значений за год.

Как вы думаете, что произойдет с агрегированными значениями за 1918 год, если мы их агрегируем по Минимуму? Максимуму? Перейдите к следующему слайду, чтобы проверить свои ответы.

Шаг 6. Просмотрим на влияние агрегирования по минимуму и максимуму.

Агрегирование по минимуму возвращает минимальное значение в выбранных данных, а агрегирование по максимуму возвращает максимальное значение. Для значений ожидаемой продолжительности жизни за 1918 год, 36,6 – это минимальное значение, а 42,2 – максимальное. Итак, минимальный результат – 36,6, максимальный – 42,2.

Шаг 7. Просмотрим на влияние агрегирования счетчика.

Теперь давайте посмотрим, что произойдет, если Продолжительность Жизни агрегировать как подсчет. Счетчик возвращает количество строк в выбранных данных. У нас есть 3 строки данных об ожидаемой продолжительности жизни за 1918 год, поэтому совокупное количество за 1918 год – 3.

Поскольку в нашем наборе данных за каждый год есть 3 строки данных, подсчет в наборе данных будет выдавать только «3», а на линейной диаграмме отображается прямая линия (3).

Шаг 8. Пересмотрим на данные

Мы изучили тенденции ожидаемой продолжительности жизни в хронологическом порядке с 1900 по 2017 год, используя различные агрегаторы. Из использованных нами агрегаторов Среднее значение наиболее четко предоставило нужную нам информацию.

Теперь давайте снова подумаем о данных. На каждый год в наборе данных есть 3 строки данных об ожидаемой продолжительности жизни: одна для мужчин, одна для женщин и одна для обоих полов.

Как вы думаете, что произойдет, если к визуализации добавить качественную переменную Пол, а ожидаемую Продолжительность Жизни агрегировать в виде суммы? Перейдите к следующему слайду, чтобы проверить свой ответ.

Шаг 9. Просмотрим на влияние дезагрегирования данных.

Сумма ожидаемой Продолжительности Жизни возвращается в виде суммы. Три значения (мужчины, женщины, оба пола) кодируются цветом.

Что вы заметили по итогам 1918 года? Поскольку каждая из 3 строк в наборе данных для 1918 года – это собственная точка данных, суммировать нечего, и значения представлены так, как они появляются в данных на уровне строк. Когда отображается отдельная точка данных для каждого значения данных в каждой строке источника данных, данные дезагрегированы.

Полученные результаты

Используя набор данных, который содержит информацию об ожидаемой продолжительности жизни, мы исследовали эффекты использования различных агрегаций, а также эффект дезагрегирования данных.

Готовы проверить свои знания? У вас есть таблица с 3 строками данных о размере читательской аудитории газет (за неделю).

Каким образом можно объединить значения в поле «Газеты, прочитанные за неделю» (2, 3 и 7) в виде суммы, среднего, медианы, минимума, максимума и количества? Подумайте об этом, а затем переверните карточки ниже, чтобы проверить свои ответы.

Переверните каждую карту ниже, чтобы увидеть значение для этой агрегации.

Сумма

Сумма (или итоговая сумма) агрегирования 2, 3 и 7 равно 12. (2 + 3 + 7 = 12)

Среднее

Среднее (или среднее значение) агрегирования 2, 3 и 7 равно 4. (2 + 3 + 7) / 3 = 4

Медиана

Агрегирование по медиане возвращает среднее значение в выбранных данных, поэтому агрегирование по медиане для 2, 3 и 7 равно 3.

Минимум

Агрегирование по минимуму возвращает минимальное значение в выбранных данных, поэтому агрегирование по минимуму для 2, 3 и 7 равно 2.

Максимум

Агрегирование по максимуму возвращает максимальное значение в выбранных данных, поэтому агрегирование по максимуму для 2, 3 и 7 равно 7.

Подсчет

Агрегирование по подсчету возвращает количество строк в выбранных данных. Поскольку 2, 3 и 7 находятся в отдельной строке, подсчет равен 3.

Проверка знаний

Какое агрегирование дает значение «10» для приведенной ниже таблицы?

Сумма
Подсчет
Среднее
Медиана

Резюме

Вы узнали, как агрегирование влияет на данные, а также как влияет дезагрегирование. Вы готовы развить эти концепции, узнав о детализации.

Раздел 2. Исследование детализации

Детализация относится к тому, насколько подробны данные.

На предыдущем уроке вы рассмотрели визуализацию, в которой все значения в Продолжительность Жизни в наборе данных агрегированы в виде суммы. Эта информация была не очень подробной. Другими словами, у нее низкая степень детализации.

С непрерывной датой Год на визуализации вы видите общую ожидаемую продолжительность жизни за год. Она более подробная. Другими словами, у нее более высокая степень детализации, чем у данных в первой визуализации.

Гистограмма с одной количественной переменной, ожидаемой Продолжительностью Жизни, суммированной, с итоговым значением во всплывающей подсказке и линейной диаграммой со значениями общей продолжительности жизни, показанными на временной шкале.

Данные были дезагрегированы с качественной переменной «Пол» в визуализации, вы видите отдельную точку данных для каждого значения данных в каждой строке.

Эти дезагрегированные данные – самые подробные. Другими словами, у них самая высокая степень детализации из всех визуализаций.

Линейная диаграмма со всплывающей подсказкой для каждого дезагрегированного значения ожидаемой продолжительности жизни в 1918 году и скриншот значений в сетке данных, выделенных в соответствии с цветами на линейной диаграмме

Продолжаем изучать детализацию. Мы будем использовать набор данных, содержащий информацию о бизнес-франшизе, и изучим данные, используя разные уровни детализации.

Нажмите "Пуск", чтобы увидеть выполняемые шаги.

Шаг 1. О диаграммах рассеяния

Диаграмма рассеяния (Точечная диаграмма) – это диаграмма, которая позволяет пользователям наносить числовые данные (количественные переменные) как на горизонтальную, так и на вертикальную оси, чтобы увидеть корреляции или отношения между значениями. В этом примере мы будем использовать диаграмму рассеяния, чтобы изучить взаимосвязь между продажами компании и ее прибылью.

Шаг 2. Просмотрите диаграмму рассеяния с двумя количественными переменными.

Начнем с количественных переменных «Прибыль» и «Продажи» на диаграмме рассеяния.

Что вы заметили? На этом этапе одно число (Продажи) сопоставляется с другим (Прибыль). Кроме того, два числа сравниваются только с одной точкой данных или меткой.

Эти данные не очень-то детализированы и подробны. Другими словами, у них нет высокой степени детализации. Если мы хотим получить данные о прибыли и продажах, они должны быть более подробными.

Шаг 3. Просмотрите диаграмму рассеяния с добавленной качественной переменной.

Когда к диаграмме рассеяния добавляется качественная переменная, степень детализации данных увеличивается.

Поскольку качественная переменная Категория кодируется цветом, данные теперь разделены на три метки, по одной для каждой проданной категории продуктов. Она более детализирована, чем диаграмма разброса за одну отметку, но мы можем захотеть увидеть более подробные данные.

Например, посмотрите на прибыль по категориям на диаграмме разброса. Мы видим, что прибыль от мебели отстает от прибыли по двум другим категориям. Это дает нам ту информацию, которая нам нужна, чтобы копнуть глубже. Что вызывает это несоответствие? Следующий разумный шаг – добавить детализации, исследуя, сохраняется ли эта тенденция на географическом рынке.

Шаг 4. Просмотрите диаграмму рассеяния с добавленной второй качественной переменной.

Включив в визуализацию качественную переменную «Регион», мы можем выяснить, приносит ли мебель меньшую прибыль на всех географических рынках. Количество дискретных регионов из источника данных умножается на количество категорий для создания отметок на диаграмме рассеяния. То есть 13 регионов умножаются на 3 категории, чтобы получить 39 отметок на диаграмме разброса.

Данные теперь достаточно детализированы, чтобы мы смогли увидеть потенциальную причину низкой прибыли от мебели; в регионе Юго-Восточной Азии прибыль от мебели заметно ниже, чем в других регионах. Мы можем продолжать повышать уровень детализации данных, чтобы еще глубже изучить отрицательную прибыль от мебели в этом регионе.

Шаг 5. Просмотрите диаграмму рассеяния с отфильтрованными данными.

Мы заметили, что в регионе Юго-Восточной Азии прибыль от мебели заметно ниже, чем в других регионах. Мы хотим увидеть, связана ли эта убыточность с одной или двумя транзакциями, или несколько транзакций убыточные.

Мы знаем, что набор данных содержит одну строку для каждой транзакции. Если данные дезагрегированы, мы увидим одну точку данных (или отметку) для каждой транзакции в наборе данных. Но прежде чем дезагрегировать данные до этого уровня, мы хотим отфильтровать данные, чтобы сохранить только транзакции по мебели в регионе Юго-Восточной Азии.

Примечание. Фильтры не меняют степень детализации данных, поскольку уровень детализации не меняется. Фильтры просто исключают транзакции, в изучении которых мы не заинтересованы. Когда мы просмотрим дезагрегированные данные на следующем шаге, то увидим только те строки, которые имеют отношение к нашему анализу.

Шаг 6. Просмотрите дезагрегированные данные.

После фильтрации данных для отображения только мебели из Юго-Восточной Азии мы теперь готовы просматривать данные с максимальной детализацией.

При дезагрегировании данных отображается отдельная отметка для каждого значения данных в каждой строке выбранных данных. Мы видим по одной отметке на каждую сделку по продаже мебели в Юго-Восточной Азии. Многие из этих сделок убыточны.

Подобное исследование уровней детализации привело к важному открытию: многие сделки по продаже мебели в Юго-Восточной Азии убыточны.

Полученные результаты

Мы использовали набор данных, который содержит информацию о бизнес-франшизе. Набор данных содержит более 50000 строк, и каждая строка содержит информацию об одной транзакции.

Наименее детализированные данные показывают связь между продажами и прибылью, но это не дает нам достаточного понимания реальной ситуации. Качественные переменные в визуализации сделали данные более детализированными, и мы обнаружили, что продажи мебели в Юго-Восточной Азии дают низкую прибыль.

После того, как данные отфильтровали, чтобы сохранить только транзакции на уровне строк по продаже мебели в этом регионе, мы изучили дезагрегированные отфильтрованные данные. Когда мы просмотрели данные на самом высоком уровне детализации, мы обнаружили, что многие сделки с мебелью в Юго-Восточной Азии являются убыточными.

Проверка знаний

Какая из следующих диаграмм в предыдущем примере имеет самый высокий уровень детализации?

Диаграмма рассеяния, показывающая Продажи, Прибыль и Категорию
Диаграмма рассеяния, показывающая Продажи, Прибыль, Категорию и Регион.
Диаграмма рассеяния, показывающая данные, отфильтрованные так, чтобы включать только продажи мебели в Юго-Восточной Азии до дезагрегирования.
Диаграмма рассеяния, показывающая данные, отфильтрованные так, чтобы включать только продажи мебели в Юго-Восточной Азии после дезагрегирования.

Резюме

Теперь вы понимаете, как предопределенные агрегаторы влияют на данные, а также как различные уровни детализации влияют на анализ данных.

#dataliteracy, #информационная грамотность, #DataLiteracyProject

Следующая статья: Изучение вариаций для рационального сравнения