Чувствительность вычислительных алгоритмов к погрешности округления.

Даже если разрядность ЭВМ велика, существует реальная опасность, что выполнение большого числа операций приведет к накоплению погрешности, способной значительно или даже полностью исказить вычисляемый результат. Однако и при небольшом числе действий результат вычислений может оказаться совершенно неправильным, если алгоритм слишком чувствителен к ошибкам погрешности округления.

1) Порядок выполнения операций.
Вычислительный алгоритм в конечном итоге сводится к выполнению последовательности простейших арифметических и логических операций. Однако часто одно и тоже математическое выражение допускает различные способы вычисления, отличающиеся только порядком выполнения операций. Если вычисления производить точно, то они будут приводить к одному результату. Но результаты вычисления на ЭВМ уже зависят от порядка выполнения операций и различие в вычислительной погрешности может быть весьма значительным. Иногда неудачно выбранный порядок операций либо приводит к полной потере точности, либо не дает возможности получить результат из-за переполнения. Рассмотрим пример: требуется вычислить произведение

Если производить вычисления в естественном порядке , то уже  дает аварийный останов по переполнению.
Вычисление произведения в обратном порядке сразу же приводит к исчезновению порядка, т.к. В результате  и все произведение обращается нуль.
В данном случае приемлем следующий порядок вычислений:

2) Катастрофическая потеря точности.
Иногда короткая последовательность вычислений приводит от исходных данных, известных с высокой точностью, к результату, содержащему недопустимо мало верных цифр или вообще не имеющих ни одной верной цифры. Рассмотрим пример: нужно вычисляется значение функции  при  на 6-разрядной десятичной ЭВМ. При  близки. Т.к. вычисленные их приближенные значения будут содержать погрешность вычисления, то возможна серьезная потеря точности.
            
. При вычитании старшие разряды оказались потерянными и в результате осталась только одна значащая цифра.

Алгоритм называют устойчивым, если он устойчив и по исходным данным и вычислительно устойчив.

Вычислительно устойчивый алгоритм называют хорошо обусловленным, если малые относительные погрешности округления (характеризуемые машинным эпсилон) приводят к малой относительной погрешности результата, и плохо обусловленным, если вычислительная погрешность может стать недопустимо большой.