Методы оценки статистических характеристик случайных функций

Математическая статистика

Математическая статистика — наука о математических методах систематизации и использования статистических данных для научных и практических выводов. Во многих своих разделах математическая статистика опирается на теорию вероятности, позволяющую оценить надежность и точность выводов, делаемых на основании ограниченного статистического материала (напр., оценить необходимый объем выборки для получения результатов требуемой точности при выборочном обследовании).

Математическая статистика - наука о математических методах анализа данных, полученных при проведении массовых наблюдений (измерений, опытов). В зависимости от математической природы конкретных результатов наблюдений математическая статистика делится на статистику чисел, статистический анализ, анализ функций (процессов) и временных рядов, статистику объектов нечисловой природы. Выделяют общие задачи описания данных, оценивания и проверки гипотез. Методы оценивания и проверки гипотез опираются на вероятностные модели порождения данных. Эти модели делятся на параметрические и непараметрические. В параметрических моделях предполагается, что изучаемые объекты описываются функциями распределения, зависящими от небольшого числа (1-4) числовых параметров. В непараметрических моделях функции распределения предполагаются произвольными. В математической статистике оценивают параметры и характеристики распределения (математическое ожидание, медиану, дисперсию, квантили и др.), плотности и функции распределения, зависимости между переменными (на основе линейных и непараметрических коэффициентов корреляции, а также параметрических или непараметрических оценок функций, выражающих зависимости) и др. Используют точечные и интервальные (дающие границы для истинных значений) оценки.

Основой математической статистики является выборочный метод, который разделяется на теорию выбора из конечной совокупности и теорию выбора из бесконечной совокупности. Основное отличие выборочного метода для конечной и бесконечной совокупностей заключается в том, что в первом случае выборочный метод применяется, как правило, к объектам неслучайной, детерминированной природы (например, число дефектных изделий в данной партии готовой продукции не является случайной величиной: это число - неизвестная постоянная, которую и надлежит оценить по выборочным данным). Во втором случае выборочный метод обычно применяется для изучения свойств случайных объектов (например, для исследования свойств непрерывно распределённых случайных ошибок измерений, каждое из которых теоретически может быть истолковано как реализация одного из бесконечного множества возможных результатов).

Выбор из конечной совокупности и его теория являются основой статистических методов контроля качества Согласно теории вероятностей, выборка будет правильно отражать свойства всей совокупности, если выбор производится случайно, т. е. так, что любая из возможных выборок заданного объёма n из совокупности объёма N (число таких выборок равно числу сочетаний из N по n - N!/(n!(N - n)!)) имеет одинаковую вероятность быть фактически выбранной.

На практике наиболее часто используется выбор без возвращения (бесповторная выборка), когда каждый отобранный объект перед выбором следующего объекта в исследуемую совокупность не возвращается (такой выбор применяется при статистическом контроле качества). Выбор с возвращением (выборка с повторением) рассматривается обычно лишь в теоретических исследованиях. Если n << N, то повторный и бесповторный выборы дают практически эквивалентные результаты.

Выбор из бесконечной совокупности. В математической статистике результаты каких-либо однородных наблюдений (чаще всего независимых) принято называть выборкой даже в том случае, когда эти результаты не соответствуют понятию выборки с повторениями или без повторений из конечной совокупности. Например, результаты измерений углов на местности, подверженные независимым непрерывно распределённым случайным ошибкам, часто называют выборкой из бесконечной совокупности. Предполагается, что принципиально можно осуществить любое число таких наблюдений. Полученные фактически результаты считают выборкой из бесконечного множества возможных результатов, называемых генеральной совокупностью.

Понятие генеральной совокупности не является логически безупречным и необходимым. Для решения практических задач нужна не сама бесконечная генеральная совокупность, а лишь те или иные характеристики, которые ей ставятся в соответствие. Эти характеристики с точки зрения теории вероятностей являются числовыми или функциональными характеристиками некоторого распределения вероятностей, а элементы выборки - случайными величинами, подчиняющимися этому распределению. Такое истолкование позволяет распространить на выборочные оценки общую теорию статистических оценок.
По этой причине, например, в вероятностной теории обработки наблюдений понятие бесконечной генеральной совокупности заменяется понятием распределения вероятностей, содержащего неизвестные параметры. Результаты наблюдений истолковываются как экспериментально наблюдаемые значения случайных величин, подчиняющихся этому распределению, Цель обработки - вычисление по результатам наблюдений в том или ином смысле оптимальных статистических оценок для неизвестных параметров распределения.

Свойства совокупности, исследуемые выборочным методом, могут быть качественными и количественными. В первом случае задача выборочного обследования заключается в определении количества М объектов совокупности, обладающих каким-либо признаком (например, при статистическом контроле часто интересуются количеством М дефектных изделий в партии объёма N). Оценкой для М служит отношение mN/n, где m - число объектов с данным признаком в выборке объёма n.

В случае количественного признака - анализа выборки случайных величин, имеют дело с оценкой функции распределения параметров распределения. При этом малые выборки – менее 30 опытов, и большие выборки – число опытом более 100. Для малых выборок оценить закон распределение случайных величин затруднительно, поэтому ограничиваются оценкой параметров закона. Эти оценки могут быть точечные – числом, или интервальные – диапазоном значений.

К точечным оценкам предъявляются следующие требования:

1. Оценка должна быть состоятельна – при увеличении числа опытов оценка должна сходиться к истинному значению параметра.

2. Оценка должна быть не смещенной – математическое ожидание случайных оценок по разным выборкам должно быть равно истинному значению параметра.

3. Оценка должна быть максимально эффективной – иметь минимальную дисперсию.

4. Оценка должна удовлетворять принципу максимального правдоподобия – вероятность того, что оценка по выборке имеет максимальную вероятность.

5. Оценка должна быть достаточной – то есть наиболее полно отражать все выборочные данные, иначе зачем нам n опытов.

Этим требования в наибольшей степени удовлетворяют следующие оценки: Для математического ожидания

оценкой является выборочное среднее:

где x₁,..., x_n - те значения из исследуемой совокупности x₁, x₂,..., x_N, которые принадлежат выборке.

В качестве оценки дисперсии

принимается сумма квадратов отклонений выборочных значений  от оценки среднего:

При обработке больших выборок оценивают плотность распределения вероятности и функцию распределения. Для этого используется интервальный метод. Диапазон изменения случайной величины в выборке делят на 8-15 интервалов с тем, чтобы в каждый интервал попало не менее 5 значений. Определяют n_j – число элементов выборки, попавших в j – ый интервал и статистический аналог вероятности – относительную частость p_j = n_j /n попадания в интервал.

По полученным данным строят статистический аналог функции плотности распределения вероятности гистограмму -  ступенчатую диаграмму, высота уровней столбцов которой равна плотности эмпирического распределения:

где  - размеры интервала.

Можно построить полигон распределения – ломанную, соединяющую точки с абсциссами, равными середине интервала, и ординатами, равными p_j, или статистический аналог функции распределения – коммулятивную кривую – ломаную линию, соединяющую точки с абсциссой, равной границе интервала, и ординатой накопленных относительных частостей Σ .

Для оценки матожидания и дисперсии при интервальном методе обработки выборки можно использовать следующие формулы:

Методы оценки статистических характеристик случайных функций

В экзаменационные вопросы не входит!!!!!