Непараметрическая статистика

Непараметрическая статистика — это тип статистического анализа, который делает минимальные предположения о базовом распределении изучаемых данных. Часто эти модели являются бесконечномерными, а не конечномерными, как в параметрической статистике . ^[1] Непараметрическая статистика может использоваться для описательной статистики или статистического вывода . Непараметрические тесты часто используются, когда предположения параметрических тестов явно нарушаются. ^[2]

Термин «непараметрическая статистика» был неточно определен, среди прочего, следующими двумя способами:

Первое значение непараметрического подразумевает методы, которые не опираются на данные, принадлежащие какому-либо конкретному параметрическому семейству вероятностных распределений. К ним относятся, среди прочего:

• Методы , не зависящие от распределения , которые не полагаются на предположения о том, что данные взяты из заданного параметрического семейства распределений вероятностей .
• Статистика определяется как функция выборки, без зависимости от параметра .

Примером является порядковая статистика , которая основана на порядковом ранжировании наблюдений.

Нижеследующее обсуждение взято из книги Кендалла «Продвинутая теория статистики» . ^[3]

Статистические гипотезы касаются поведения наблюдаемых случайных величин... Например, гипотеза (a) о том, что нормальное распределение имеет заданное среднее значение и дисперсию, является статистической; таковой является и гипотеза (b) о том, что оно имеет заданное среднее значение, но не указанную дисперсию; таковой является и гипотеза (c) о том, что распределение имеет нормальную форму, при этом и среднее значение, и дисперсия не указаны; наконец, таковой является и гипотеза (d) о том, что два неуказанных непрерывных распределения идентичны.

Можно заметить, что в примерах (a) и (b) распределение, лежащее в основе наблюдений, принималось в определенной форме (нормальным), а гипотеза была целиком связана со значением одного или обоих его параметров. Такая гипотеза, по понятным причинам, называется параметрической .

Гипотеза (c) имела иную природу, поскольку в формулировке гипотезы не указаны значения параметров; мы могли бы обоснованно назвать такую ​​гипотезу непараметрической . Гипотеза (d) также является непараметрической, но, кроме того, она даже не определяет основную форму распределения и теперь может быть обоснованно названа свободной от распределения . Несмотря на эти различия, статистическая литература теперь обычно применяет ярлык «непараметрический» к процедурам тестирования, которые мы только что назвали «свободными от распределения», тем самым теряя полезную классификацию.

Второе значение непараметрического подразумевает методы, которые не предполагают, что структура модели фиксирована. Обычно модель увеличивается в размерах, чтобы приспособиться к сложности данных. В этих методах отдельные переменные обычно считаются принадлежащими параметрическим распределениям, а также делаются предположения о типах ассоциаций между переменными. Эти методы включают, среди прочего:

• непараметрическая регрессия , представляющая собой моделирование, при котором структура взаимосвязи между переменными рассматривается непараметрически, но при этом могут существовать параметрические предположения о распределении остатков модели.
• непараметрические иерархические байесовские модели , такие как модели, основанные на процессе Дирихле , которые позволяют увеличивать число скрытых переменных по мере необходимости для соответствия данным, но в которых отдельные переменные по-прежнему следуют параметрическим распределениям, и даже процесс, контролирующий скорость роста скрытых переменных, следует параметрическому распределению.

Непараметрические методы широко используются для изучения совокупностей, имеющих ранжированный порядок (например, обзоры фильмов, получающие от одной до пяти «звезд»). Использование непараметрических методов может быть необходимо, когда данные имеют ранжирование , но не имеют четкой числовой интерпретации, например, при оценке предпочтений . С точки зрения уровней измерения непараметрические методы приводят к порядковым данным .

Поскольку непараметрические методы делают меньше предположений, их применимость гораздо более общая, чем у соответствующих параметрических методов. В частности, их можно применять в ситуациях, когда о рассматриваемом приложении известно меньше. Кроме того, из-за опоры на меньшее количество предположений непараметрические методы более надежны .

Непараметрические методы иногда считаются более простыми в использовании и более надежными, чем параметрические методы, даже когда предположения параметрических методов обоснованы. Это связано с их более общей природой, что может сделать их менее восприимчивыми к неправильному использованию и непониманию. Непараметрические методы можно считать консервативным выбором, поскольку они будут работать, даже если их предположения не выполняются, тогда как параметрические методы могут давать вводящие в заблуждение результаты, когда их предположения нарушаются.

Более широкая применимость и повышенная надежность непараметрических тестов обходятся дорого: в случаях, когда предположения параметрического теста выполняются, непараметрические тесты имеют меньшую статистическую мощность . Другими словами, для выводов с той же степенью уверенности может потребоваться больший размер выборки.

Непараметрические модели отличаются от параметрических тем, что структура модели не задается априори , а определяется на основе данных. Термин «непараметрический» не означает, что такие модели полностью лишены параметров, но что количество и характер параметров являются гибкими и не фиксируются заранее.

• Гистограмма — это простая непараметрическая оценка распределения вероятностей.
• Оценка плотности ядра — еще один метод оценки распределения вероятностей.
• Разработаны методы непараметрической регрессии и полупараметрической регрессии на основе ядер , сплайнов и вейвлетов .
• Анализ охвата данных обеспечивает коэффициенты эффективности, аналогичные полученным с помощью многомерного анализа без каких-либо предположений о распределении.
• Сети KNN классифицируют невидимый экземпляр на основе K точек в обучающем наборе, которые находятся ближе всего к нему.
• Машина опорных векторов (с гауссовым ядром) представляет собой непараметрический классификатор с большим запасом.
• Метод моментов с полиномиальными распределениями вероятностей.

Непараметрические (или свободные от распределения ) статистические методы вывода — это математические процедуры для проверки статистических гипотез, которые, в отличие от параметрической статистики , не делают никаких предположений о распределении вероятностей оцениваемых переменных. Наиболее часто используемые тесты включают

• Анализ сходств
• Тест Андерсона-Дарлинга : проверяет, взята ли выборка из заданного распределения.
• Статистические методы бутстрапа : оценивают точность/выборочное распределение статистики
• Вопрос Кохрана : проверяет, имеют ли k видов лечения в рандомизированных блоковых схемах с результатами 0/1 идентичные эффекты
• Каппа Коэна : измеряет межэкспертное согласие по категориальным пунктам
• Двусторонний дисперсионный анализ Фридмана (повторные измерения) по рангам: проверяет, имеют ли k методов лечения в рандомизированных блочных планах одинаковые эффекты
• Эмпирическая вероятность
• Каплан–Майер : оценивает функцию выживания на основе данных о продолжительности жизни, моделируя цензурирование
• Тау Кендалла : измеряет статистическую зависимость между двумя переменными
• W Кендалла : мера межэкспертного согласия между 0 и 1.
• Тест Колмогорова–Смирнова : проверяет, взята ли выборка из заданного распределения или взяты ли две выборки из одного и того же распределения.
• Однофакторный дисперсионный анализ Краскела–Уоллиса по рангам: проверяет, взяты ли > 2 независимых выборок из одного и того же распределения.
• Тест Койпера : проверяет, взята ли выборка из заданного распределения, чувствительного к циклическим изменениям, таким как день недели.
• Логранговый тест : сравнивает распределения выживаемости двух смещенных вправо цензурированных выборок.
• Критерий суммы рангов Манна-Уитни или U-критерий Уилкоксона: проверяет, взяты ли две выборки из одного и того же распределения, по сравнению с заданной альтернативной гипотезой.
• Тест Макнемара : проверяет, равны ли предельные частоты строк и столбцов в таблицах сопряженности 2 × 2 с дихотомическим признаком и согласованными парами субъектов.
• Медианный тест : проверяет, взяты ли две выборки из распределений с равными медианами.
• Тест перестановки Питмана : тест статистической значимости, который дает точные значения p путем проверки всех возможных перестановок меток.
• Ранжирование продуктов : обнаружение дифференциально экспрессируемых генов в реплицированных экспериментах с микрочипами.
• Тест Сигела–Тьюки : проверяет различия в масштабах между двумя группами.
• Тест знаков : проверяет, взяты ли сопоставленные парные выборки из распределений с равными медианами.
• Коэффициент ранговой корреляции Спирмена : измеряет статистическую зависимость между двумя переменными с помощью монотонной функции.
• Тест квадратичных рангов : проверяет равенство дисперсий в двух или более выборках.
• Тест Тьюки–Дакворта : проверяет равенство двух распределений с использованием рангов.
• Тест Вальда–Вольфовица : проверяет, являются ли элементы последовательности взаимно независимыми/случайными.
• Критерий знаковых рангов Уилкоксона : проверяет, взяты ли сопоставленные парные выборки из популяций с разными средними рангами.
• Универсальная линейная идентификация: метод, независимый от данных, выбросов и модели распределения шума, а также свободный от вменения пропущенных или удаленных данных. ^[4]

Ранние непараметрические статистики включают медиану (13 век или ранее, использовалась для оценки Эдвардом Райтом , 1599; см. Медиана § История ) и тест знаков Джона Арбетнота ( 1710) при анализе соотношения полов у людей при рождении (см. тест знаков § История ). ^{[5] [6]}

• Непараметрический доверительный интервал на основе CDF
• Параметрическая статистика
• Повторная выборка (статистика)
• Полупараметрическая модель

• Багдонавичус, В., Круопис, Й., Никулин, М.С. (2011). «Непараметрические тесты для полных данных», ISTE & WILEY: Лондон и Хобокен. ISBN 978-1-84821-269-5 . 
• Кордер, Г. В.; Форман, Д. И. (2014). Непараметрическая статистика: пошаговый подход . Wiley. ISBN 978-1-118-84031-3.
• Гиббонс, Джин Дикинсон ; Чакраборти, Субхабрата (2003). Непараметрический статистический вывод , 4-е изд. CRC Press. ISBN 0-8247-4052-1 . 
• Хеттманспергер, Т. П.; МакКин, Дж. В. (1998). Надежные непараметрические статистические методы . Библиотека статистики Кендалла. Том 5. Лондон: Эдвард Арнольд . ISBN 0-340-54937-8. МР  1604954.также ISBN 0-471-19479-4 . 
• Холландер М., Вулф Д.А., Чикен Э. (2014). Непараметрические статистические методы , John Wiley & Sons.
• Шескин, Дэвид Дж. (2003) Справочник по параметрическим и непараметрическим статистическим процедурам . CRC Press. ISBN 1-58488-440-1 
• Вассерман, Ларри (2007). Все о непараметрической статистике , Springer. ISBN 0-387-25145-6 .