Сущность метода наименьших квадратов

Пусть x — набор n неизвестных переменных (параметров), f_i(x), i=1,…,m, m>n— совокупность функций от этого набора переменных. Задача заключается в подборе таких значений x, чтобы значения этих функций были максимально близки к некоторым значениям y_i. По существу речь идет о «решении» переопределенной системы уравнений f_i(x)= y_i i=1,… ,m в указанном смысле максимальной близости левой и правой частей системы. Сущность МНК заключается в выборе в качестве «меры близости» суммы квадратов отклонений левых и правых частей |f_i(x)- y_i| Таким образом, сущность МНК может быть выражена следующим образом:

 min.

В случае, если система уравнений имеет решение, то минимум суммы квадратов будет равен нулю и могут быть найдены точные решения системы уравнений аналитически или различными численными методами оптимизации. Если количество независимых уравнений больше количества искомых переменных, то система не имеет точного решения.

Проверка соответствия уравнения регрессии экспериментальному материалу.

Процедура проверки соответствия установленной зависимости экспериментальному материалу (проверка адекватности) включает три этапа.

Первый. Ищется остаточная дисперсия или дисперсия адекватности

Здесь y_u - экспериментальное значение выходной величины для соответствующего значения x_u;

 - рассчитанное по уравнению регрессии значение функции для данного x_u;

n – число опытов;

f = n-l – число степеней свободы;

l – число коэффициентов в уравнении регрессии.

Уже по  можно судить о степени соответствия уравнения экспериментальному материалу. Ведь  - среднеквадратическое отклонение экспериментальных точек от значений, полученных по уравнению.

Второй. Определяется дисперсия воспроизводимости

На каждом уровне аргумента x_u проводится несколько параллельных опытов, ищутся дисперсии для каждой группы экспериментов, проверяется их однородность и затем определяется средневзвешенная дисперсия . Она и является дисперсией воспроизводимости .

Если параллельные опыты не проводятся, то в качестве средневзвешенной дисперсии принимается

где  – предельная абсолютная ошибка в определении входной величины.

С доверительной вероятностью 0,955 можно считать предельную ошибку, равной

Третий. Поверяется однородность дисперсий адекватности и воспроизводимости.

Если расчетное значение критерия Фишера окажется меньше табличного, то полученное уравнение регрессии адекватно эксперименту

где  – берется из таблиц с учетом принятого уровня значимости для соответствующих степеней свободы  и .

Здесь N_u- число параллельных опытов на каждом уровне аргумента.