Вычисление апостериорных вероятностей

ПРИЕМ И ОБРАБОТКА СИГНАЛОВ

Задачи оптимального приема

Теория передачи сигналов подразумевает теоретическое обоснование способов и методов передачи информации от источника к получателю с помощью какого-либо переносчика, в частности, радиосигнала. Радиосигнал, как носитель полезной информации, в канале связи от передатчика к приемнику претерпевает изменения, вызванные искажениями при передаче, влиянием помех в канале связи, искажениями при приеме. Если в точке передачи сигнала достаточно просто проконтролировать и откорректировать передаваемый сигнал с целью снижения искажения передатчика, то в точке приема приходится иметь дело с сигналом, искаженным каналом связи случайным образом и по не зависящим от нас обстоятельствам, что приводит к необходимости применять особые способы приема сигнала для снижения возможных ошибок в передаче информации (оптимальный прием сигналов).

Принимаемый сигнал имеет часть параметров, известных априорно (т.е. до передачи). Если известны все параметры сигнала, то нет смысла его принимать (он известен); если все параметры сигнала заранее неизвестны, то принять и выделить его на фоне помех не представляется возможным (неизвестно, что выделять). При малом объеме априорных данных необходимо пользоваться методами адаптивного приема.

Оптимальный (идеальный) прием сигналов, обеспечивающий минимальные искажения сообщения, реализуется оптимальный приемником, работающим по оптимальному алгоритму, основанному на априорной информации и выбранных критериях оптимальности.

Оптимальный приемник обеспечивает минимальный уровень искажений, который принято называть потенциальной помехоустойчивостью. По определению, помехоустойчивость реальных приемников не может превышать потенциальную для заданных условий, а только приближаться к ней. Сравнивая помехоустойчивость реальных приемников с потенциальной помехоустойчивостью, можно выяснить степень технического совершенства реальных приемников и возможные резервы повышения их помехоустойчивости. Сравнивая значения потенциальной помехоустойчивости при различных видах сигналов, можно определить наилучшие виды передаваемых сигналов.

Решение основных проблем теории оптимального радиоприема базируется на хорошо разработанных методах математической статистики, разработанных А.Н.Колмогоровым, Н.Винером, В.А.Котельниковым и др.

В зависимости от целевого назначения и условий работы различают четыре задачи, решаемых в теории оптимальных методов радиоприема.

Будем рассматривать аддитивную смесь сигнала и помехи:

y(t) = s(t, λ) + n(t),

где λ = λ{λ₁...λ_m} – параметры, от которых зависит сигнал;

n(t) – аддитивная помеха, в общем случае представляется моделью белого нормального центрированного шума (см. лекцию 1).

1. Обнаружение сигнала.

Пусть неизвестен сам факт наличия или отсутствия сигнала s(t, λ) в принятом колебании y(t), т.е.

y(t) = q s(t, λ) + n(t),     0 ≤ t ≤ T,     q = 0; 1,

здесь q - случайная величина на два значения 0, 1.

Необходимо оценить значение дискретного параметра q. В результате решения должна быть получена структурная схема оптимального обнаружения сигнала и определены его количественные характеристики.

2. Различение сигналов.

Предположим, что в принятом колебании y(t) может быть только один из двух сигналов:

y(t) = q s₁(t, λ₁) + (1 - q) s₂(t, λ₂) + n(t),   0 ≤ t ≤ T.

Эта задача характерна для систем передачи бинарных сигналов, в частности, в телеграфии. Возможна постановка задачи для большего количества сигналов (радиосвязь, телеуправление).

3. Оценка параметров сигнала.

Пусть какой-нибудь параметр х_i сигнала s(t, λ) является случайной величиной с априорной плотностью вероятности P_opr(x_i). Необходимо с минимальной погрешностью определить значение этого параметра λ_i в принятой реализации y(t). Это простейшая задача оценки параметров сигнала. Возможна постановка задачи о совместной оценке двух и более параметров. Такие задачи характерны для измерительной техники, радиолокации, радионавигации.

4. Фильтрация сообщений.

Пусть интересующий нас параметр λ_i полезного сигнала s(t, λ) зависит от времени и представляет собой информационное сообщение – случайный процесс λ_i(t) с известными статистическими характеристиками. Располагая сведениями о помехе n(t), нужно получить (отфильтровать, выделить наилучшим образом) оценку  реализации случайного сообщения λ_i(t), содержащейся в наблюдаемой реализации y(t).

Задача фильтрации переходит в задачу оценки параметра сигнала, если оцениваемый параметр за время наблюдения Т не успевает существенно измениться.

Задачи фильтрации возникают в радиосвязи и телеметрии (выделение речевого или какого-либо другого сообщения), в телевидении (выделение телевизионного сообщения) и т.д.

Литература:

[1] стр. 149-150. [2] стр. 165-169. [3] стр. 159-163.

Контрольные вопросы:

1. Что понимают под оптимальным приемом?

2. Можно ли принимать сигнал при априорной неопределенности (если о нем ничего не известно)?

3. Какие задачи решает оптимальная обработка сигналов?

Вычисление апостериорных вероятностей

При решении задач оптимального приема ответ получается на основе предварительных (априорных) сведений о принимаемом сигнала и надлежащей обработке его.

Если бы мы не располагали предварительными сведениями о сигнале (т.е. о его параметрах), то его нельзя было бы отличить от помехи. Наоборот, прием детерминированного сигнала не доставляет никакой информации; если все о нем известно, то его всегда можно полностью воспроизвести на приемном конце. Поэтому носителями полезной информации могут быть только неизвестные параметры сигнала.

По сравнению с априорными сведениями, знание наблюдателя об исследуемой ситуации в результате анализа принятого колебания увеличивается. Вновь сформированное знание называется
апостериорным.

Вспомним элементы теории вероятностей. Вероятность совместного события

Р(А×В) = Р(А)×Р(В/А) = Р(В)×Р(А/В).

Известны: Р(Н_k) и P(FA/H_k) ... P(B/H_n), Н₁, H_k, H_n – гипотезы и передаче сигналов, P_a(H_k) – априорная их вероятность.

Найти Р(А) – безусловную вероятность.

ΣР(Н_k) = 1

Формула полной вероятности:

,

т.к. Р(АH_k) = P(H_k)×P(A/H_k)

                            (5.1)

Если обратная задача: известно P(A) и P(A/H_k), то нужно найти, какая была H_k - это задача Байеса:

Р(АH_k) = P(H_k)×P(A/H_k) = P(A)×P(H_k/A)

отсюда

.

Р(А) из формулы полной вероятности

,                       (5.2)

здесь Р_а(H_k) – априорное (до опыта, до передачи сигнала) распределение вероятностей гипотез H_k;

Р(H_k/А) – апостериорная вероятность (после опыта, после приема сигнала), которую обозначим P_pst( ).

Пусть бинарный сигнал принимается на фоне аддитивной помехи в виде белого шума, т.е. стационарной помехи с энергетическим спектром постоянной интенсивности по всей оси частот y(t) = s(t) + n(t).

Для упрощения математических выкладок введем временно следующее ограничивающее условие: Принятая смесь y(t) перед последующей обработкой пропускается через фильтр нижних частот с прямоугольной АЧХ и ФЧХ ∆φ(ω) = 0. Обозначим полосу пропускания фильтра через ∆f_ф = 0 ... f_в.

Пусть по каналу связи передается один из возможных сигналов мновества {S₁, S₂, ..., S_L}. На приемном конце канала получена реализация y(t). В соответствии с теоремой Байеса вероятность того, что в принятой смеси находится сигнал S_k(t) равна

,            (5.3)

где P_a(S_k) - априорная вероятность передачи сигнала S_k(t)$

W(y(t)/S_k(t)) - плотность вероятности получения принятой реализации смеси при условии, что был передан сигнал S_k(t) .

Т.к. знаменатель выражения (1.1) не зависит от конкретного значения k, то

,                 (5.4)

где А - постоянная, не зависящая от k величина.

Как будет показано ниже, для решения задачи различения символов небходимы не абсолютные значения апостериорных вероятностей, а соотношения между ними. Поэтому значение постоянной величины нас в дальнейшем интересовать не будет.

Таким образом, распределение апостериорных вероятностей передачи каждого из возможных сигналов (пауза в некоторых случаях также может рассматриваться как один из сигналов) при заданном распределении априорных вероятностей определяется только условными плотностями вероятностей W(y/S_k).

Пропущенная через фильтр низких частот смесь y(t), имеет ограниченный спектр, следовательно, функция W(y/S_k) в соответствии с теоремой Котельникова полностью определяется отсчетами, взятыми с интервалами ∆t = 1/2f_в. Отсюда следует, что плотность вероятности W(y/S_k) есть m-мерная условная плотность, где m - количество отсчетов, определяющих функцию:

W(y/S_k) = W(y₁, y₂, ..., y_m / S_k1, S_k2, ..., S_km)                  (5.5)

Рассматриваемая как функция k условная m-мерная плотность вероятности называется функцией правдоподобия. Обозначив ее через L(S_k), получаем:

P_pst(S_k/y) = A × P_a(S_k) × L(S_k)                            (5.6)

При заданном сигнале вероятности получения мгновенных значений смеси y₁, y₂, ..., y_m, равны соответственно вероятностям мгновенных значений шума в эти же моменты времени n₁, n₂, ..., n_m. Поэтому

L(S_k) = W(n₁, n₂, ..., n_m).

Белый шум, пропущенный через фильтр с ограниченной полосой, является гауссовым стационарным процессом с автокорреляционной функцией вида R(τ) = sinω_вτ/ω_вτ. Следовательно, отсчеты шума, взятые с интервалами ∆t = 1/2f_в между собой являются некоррелированными, а, значит, и независимыми. Поэтому, в соответствии с (5.5) L(S_k) равна произведению одномерных безусловных плотностей вероятности

.               (5.7)

Т.к. дисперсия шума на входе фильтра σ²_ш = N₀∆f_ф = N₀/2∆t, то

.

При отсутствии в принятом колебании y(t) сигнала, т.е. при y_i = n_i функция правдоподобия принимает вид:

,

где  - энергия принятого колебания.

Отношение функций правдоподобия

.              (5.8)

Предположение о наличии прямоугольного фильтра на входе устройства обработки было введено нами для того, чтобы получить выражение (5.7), ибо при белом шуме σ²_ш = ∞ и выражение (5.7) не имеет смысла. Но уже в выражение (5.8) мощность шума не входит. Поскольку в дальнейшем мы будем пользоваться выражением (5.8), то предположение о наличии фильтра на входе теперь можно отбросить. При этом ∆f_ф = ∞ и выражение (5.8) преобразуется к следующему виду:

, (5.9)

где  или для прямоугольного импульса E_k = A² τ_u – энергия
k-го сигнала

                                 (5.10)

где Т - длительность реализации y(t).

Выражение (5.9) часто называют отношением правдоподобия, а q_k – функционалом правдоподобия (корреляционный интеграл).

Определив отношение правдоподобия для всех сигналов алфавита источника, можно получить в соответствии с (5.6) распределение их апостериорных вероятностей.

Литература:

[1] стр. 149-160. [2] стр. 169-173. [3] стр. 163-168.

Контрольные вопросы:

1. В чем смысл теории Байеса?

2. Что отражает функция правдоподобия?

3. Поясните состав выражения функционала правдоподобия.