Определение случайного процесса. Случайные процессы и их основные статистические характеристики
На практике встречаются такие случайные величины, которые в процессе одного опыта непрерывно изменяются в зависимости от времени или каких-нибудь других аргументов. Например, ошибка сопровождения самолёта радиолокатором не остаётся постоянной, а непрерывно изменяется со временем. В каждый момент она случайна, но её значение в разные моменты времени при сопровождении одного самолёта различны. Другими примерами являются: угол упреждения при непрерывном прицеливании по движущейся цели; ошибка радиодальномера при непрерывном измерении меняющейся дальности; отклонение траектории управляемого снаряда от теоретической в процессе управления или самонаведения; флюктуационные (дробовые и тепловые) шумы в радиотехнических устройствах и так далее. Такие случайные величины называются случайными функциями. Характерной особенностью таких функций является то, что вид их до проведения опыта в точности указать не возможно. Случайная функция и случайная величина относятся друг к другу так же, как функция и постоянная величина, рассматриваемые в математическом анализе.
Определение 1. Случайная функция – это функция, которая каждому исходу опыта ставит в соответствие некоторую числовую функцию, то есть отображение пространства Ω в некоторое множество функций (рисунок 1).
Определение 2. Случайной функцией называется функция, которая в результате опыта может принять тот или иной конкретный вид, неизвестно заранее – какой именно.
Конкретный вид, принимаемый случайной функцией в результате опыта, называется реализацией случайной функции.
В силу непредсказуемости поведения изобразить случайную функцию в общем виде на графике не представляется возможным. Можно лишь записать её конкретный вид – то есть её реализацию, полученную в результате проведения опыта. Случайные функции, как и случайные величины, принято обозначать большими буквами латинского алфавита X (t ), Y (t ), Z (t ), а их возможные реализации – соответственно x (t ), y (t ), z (t ). Аргумент случайной функции t в общем случае может быть произвольной (не случайной) независимой переменной или совокупностью независимых переменных.
Случайную функцию называют случайным процессом , если аргументом случайной функции является время. Если же аргумент случайной функции является дискретным, то её называют случайной последовательностью. Например, последовательность случайных величин есть случайная функция от целочисленного аргумента. На рисунке 2 в качестве примера приведены реализации случайной функции X (t ): x1 (t ), x2 (t ), … , xn (t ), которые являются непрерывными функциями времени. Такие функции применяются, например, для макроскопического описания флюктуационных шумов.
Случайные функции встречаются в любом случае, когда имеем дело с непрерывно работающей системой (системой измерения, управления, наведения, регулирования), при анализе точности работы системы приходится учитывать наличие случайных воздействий (полей); температура воздуха в различных слоях атмосферы рассматривается как случайная функция высоты H; положение центра масс ракеты (его вертикальная координата z в плоскости стрельбы) является случайной функцией от его горизонтальной координаты x . Это положение в каждом опыте (пуске) при одних и тех же данных наводки всегда несколько иное и отличается от теоретически рассчитанного.
Рассмотрим некоторую случайную функцию X (t ). Предположим, что над ней произведено n независимых опытов, в результате которых получено n реализаций (рисунок 3) x1 (t ), x2 (t ), … , xn (t ). Каждая реализация, очевидно, есть обычная (неслучайная) функция. Таким образом, в результате каждого опыта случайная функция X (t ) превращается в обычную, неслучайную функцию.
Зафиксируем некоторое значение аргумента t . Проведём на расстоянии
t = t0 прямую, параллельную оси ординат (рисунок 3). Эта прямая пересечёт реализации в каких-то точках.
Определение . Множество точек пересечения реализаций случайной функции с прямой t = t0 называется сечением случайной функции.
Очевидно, сечение представляет собой некоторую случайную величину , возможные значения которой представляют собой ординаты точек пересечения прямой t = t0 с реализациями xi (t ) (i = ).
Таким образом, случайная функция совмещает в себе черты случайной величины и функции. Если зафиксировать значение аргумента, она превращается в обычную случайную величину; в результате каждого опыта она превращается в обычную (неслучайную) функцию.
Например, если провести два сечения t = t1 и t = t2 , то получается две случайные величины X (t1 ) и X (t2 ), которые в совокупности образуют систему двух случайных величин.
2 Законы распределения
Случайная функция непрерывно изменяющегося аргумента на любом сколь угодно малом интервале его изменения равноценна бесконечному, несчётному множеству случайных величин, которые даже невозможно перенумеровать. Поэтому для случайной функции невозможно обычным путём определить закон распределения, как для обычных случайных величин и случайных векторов. Для изучения случайных функций применяют подход, основанный на фиксации одного или нескольких значений аргумента t и изучении получающихся при этом случайных величин, то есть случайные функции изучаются в отдельных сечениях, соответствующих различным значениям аргумента t .
Фиксируя одно значение t1 аргумента t , рассмотрим случайную величину X1 = X (t1 ). Для этой случайной величины можно определить обычным путём закон распределения, например, функцию распределения F1 (x1 , t1 ), плотность вероятности f1 (x1 , t1 ). Эти законы называются одномерными законами распределения случайной функции X ( t ). Особенностью их является то, что они зависят не только от возможного значения x 1 случайной функции X (t ) при t = t1 , но и от того, как выбрано значение t1 аргумента t , то есть законы распределения случайной величины X1 = X (t1 ) зависят от аргумента t1 как от параметра.
Определение . Функция F1 (x1 , t1 ) = Р(X (t1 )< x1 ) называется одномерной функцией распределения вероятностей случайной функции, или
F1 (x , t ) = Р(X (t )< x ) . (1)
Определение
.
Если функция распределения F1
(x1
,
t1
) = Р(X
(t1
)<
x1
)
дифференцируема по x1
то эта производная называется одномерной плотностью распределения вероятности (рисунок 4), или
. (2)
Одномерная плотность распределения случайной функции обладает теми же свойствами, что и плотность распределения случайной величины. В частности: 1) f 1 (x, t ) 0 ;
2) https://pandia.ru/text/78/405/images/image009_73.gif" width="449" height="242">
Одномерные законы распределения не описывают полностью случайную функцию, так как они не учитывают зависимости между значениями случайной функции в разные моменты времени.
Так как при фиксированном значении аргумента t случайная функция превращается в обычную случайную величину, то при фиксировании n значений аргумента получим совокупность n случайных величин X (t1 ), X (t2 ), …, X (tn ), то есть систему случайных величин. Поэтому задание одномерной плотности распределения f1 (x , t ) случайной функции X (t ) при произвольном значении аргумента t аналогично заданию плотностей отдельных величин входящих в систему. Полным описанием системы случайных величин является совместный закон их распределения. Поэтому более полной характеристикой случайной функции X (t ) является n-мерная плотность распределения системы, то есть функция fn (x1 , x2 , … , xn , t1 , t2 , … , tn ).
На практике нахождение n - мерного закона распределения случайной функции вызывает, как правило, большие затруднения, потому обычно ограничиваются двумерным законом распределения, который характеризует вероятностную связь между парами значений X ( t1 ) и X ( t2 ).
Определение . Двумерной плотностью распределения случайной функции X (t ) называется совместная плотность распределения её значений X (t1 ) и X (t2 ) при двух произвольно взятых значениях t 1 и t2 аргумента t .
f2 (x1 , x2 , t1 , t2 )= (3)
https://pandia.ru/text/78/405/images/image012_54.gif" width="227" height="49">. (5)
Условие нормировки для двумерной плотности распределения имеет вид
. (6)
3 Характеристики случайного процесса:
математическое ожидание и дисперсия
При решении практических задач в большинстве случаев получение и использование многомерных плотностей для описания случайной функции сопряжено с громоздкими математическими преобразованиями. В связи с этим при исследовании случайной функции чаще всего пользуются простейшими вероятностными характеристиками, аналогичными числовым характеристикам случайных величин (математическое ожидание, дисперсия) и устанавливаются правила действия с этими характеристиками.
В отличие от числовых характеристик случайных величин, которые являются постоянными числами , характеристики случайной функции являются неслучайными функциями его аргументов.
Рассмотрим случайную функцию X (t ) при фиксированном t . В сечении имеем обычную случайную величину. Очевидно, в общем случае математическое ожидание зависит от t , то есть представляет собой некоторую функцию t :
. (7)
Определение . Математическим ожиданием случайной функции X (t ) называется неслучайная функция https://pandia.ru/text/78/405/images/image016_47.gif" width="383" height="219">
Для вычисления математического ожидания случайной функции достаточно знать её одномерную плотность распределения
Математическое ожидание называют также неслучайной составляющей случайной функции X (t ), в то время как разность
(9)
называют флюктуационной частью случайной функции или центрированной случайной функцией.
Определение . Дисперсией случайной функции X (t ) называется неслучайная функция , значение которой для каждого t равно дисперсии соответствующего сечения случайной функции.
Из определения следует, что
Дисперсия случайной функции при каждом характеризует разброс возможных реализаций случайной функции относительно среднего, иными словами, «степень случайности» случайной функции (рисунок 6).
Различают нестационарные, стационарные и эргодические случайные процессы. Наиболее общий случайный процесс – нестационарный.
Случайный процесс
является стационарным
, если его многомерная плотность вероятности
зависит
только от величины интервалов 
и
не зависит от положения этих интервалов в области изменения аргумента
. Отсюда
следует, что во-первых, для стационарного процесса одномерная плотность
вероятности не зависит от времени, т.е. 
;
во-вторых, двумерная плотность вероятности зависит от разности ,
т.е.
и т.д. В связи с этим все моменты одномерного распределения, в том числе
математическое ожидание и дисперсия, постоянны. Часто бывает достаточно
для определения случайного процесса стационарным постоянство первых двух
моментов. Таким образом для стационарного процесса:
Стационарный случайный процесс называется эргодическим , если при определении любых статистических характеристик усреднение по множеству реализаций эквивалентно усреднению по времени одной бесконечно длинной реализации; в этом случае
Функцию, значение которой при каждом значении независимой переменной является случайной величиной, называют случайной функцией. Случайные функции, для которых независимой переменной является время , называютслучайными процессами или стохастическими процессами .
Случайный процесс не есть определенная кривая, он является множеством определенных кривых , где , получаемых в результате отдельных опытов (рис. 1.9) . Каждую кривую этого множества называют реализацией случайного процесса . Сказать заранее, по какой из реализации пойдет процесс, невозможно.
Для любого фиксированного момента времени, например , реализация случайного процессапредставляет собой конкретную величину, значение же случайной функцииявляется случайной величиной, называемойсечением случайного процесса в момент времени . Поэтому нельзя утверждать, что случайный процесс в данный момент времени имеет такое-то детерминированное значение, можно говорить лишь о вероятности того, что в данный момент времени значение случайного процесса как случайной величины будет находиться в определенных пределах.
Рис. 1.9. Реализации случайного процесса
Статистические методы изучают не каждую из реализаций , образующих множество , а свойства всего множества в целом при помощи усреднения свойств, входящих в него реализаций. Поэтому при исследовании объекта управления судят о его поведении не по отношению к какому-либо определенному воздействию, представляющему заданную функцию времени, а по отношению к целой совокупности воздействий.
Как известно, статистические свойства случайной величины определяют по ее функции распределения вероятностей интегральной и дифференциальной .
Для случайного процесса также вводят понятие функции распределения и плотности вероятности, которые зависят от фиксированного момента времени наблюдения и от некоторого выбранного уровня, т.е. являются функциями двух переменных и.
Рассмотрим случайную величину , т.е. сечение случайного процесса в момент времени .Одномерной функцией распределения случайного процесса называют вероятность того, что текущее значение случайного процессав момент временине превышает некоторого заданного уровня (числа) , т.е.
Если функция имеет частную производную по, т.е.
то функцию называютодномерной плотностью вероятности случайного процесса. Величина
представляет собой вероятность того, что находится в момент временив интервале отдо.
В
каждые отдельные моменты времени
наблюдаемые
случайные величины (сечения случайного
процесса)
будут иметь свои, в общем случае разные,
одномерные функции распределенияи плотности вероятности.
Функции иявляются простейшими статистическими характеристиками случайного процесса. Они характеризуют случайный процесс изолированно в отдельных его сечениях, не раскрывая взаимной связи между сечениями случайного процесса, т.е. между возможными значениями случайного процесса в различные моменты времени.
Знания этих функций еще недостаточно для описания случайного процесса в общем случае. Необходимо охарактеризовать также взаимную связь случайных величин в различные произвольно взятые моменты времени.
Рассмотрим теперь случайные величины и, относящиеся к двум разным моментам времени и наблюдения случайного процесса.
Вероятность того, что случайный процесс будет не большеприи не больше при , т.е.
называют двумерной функцией распределения . Если функция имеет частные производные пои, т.е.
, (1.47)
то функцию называютдвумерной плотностью вероятности .
Величина
равна вероятности того, что прибудет находиться в интервале отдо, а при в интервале от до.
Аналогично можно ввести понятие о п-мерной функции распределения и п-мерной плотности вероятности .
Чем выше порядок , тем полнее описываются статистические свойства случайного процесса. Зная-мерную функцию распределения, можно найти по ней одномерную, двумерную и другие [вплоть до-й] функции распределения более низкого порядка. Однако многомерные законы распределения случайных процессов являются сравнительно громоздкими характеристиками и с ними крайне трудно оперировать на практике. Поэтому при изучении случайных процессов часто ограничиваются случаями, когда для описания случайного процесса достаточно знать только его одномерный или двумерный закон распределения.
Примером случайного процесса, который полностью характеризуется одномерной плотностью вероятности, является так называемый чистый случайный процесс , или белый шум . Значения в этом процессе, взятые в разные моменты времени, совершенно независимы друг от друга, как бы близко ни были выбраны эти моменты времени. Это означает, что кривая белого шума содержит всплески, затухающие за бесконечно малые промежутки времени. Поскольку значения, например, в моменты времениинезависимы, то вероятность совпадения событий, заключающихся в нахождениимежду и в момент времени и между и в момент , равна произведению вероятностей каждого из этих событий, поэтому
и вообще для белого шума
т. е. все плотности вероятности белого шума определяются из одномерной плотности вероятности.
Для случайных процессов общего вида, если известно, какие значения приняла величина в момент времени , тем самым имеем некоторую информацию относительно, где, так как величины и , вообще говоря, зависимы. Если кроме известна , где, то информация оеще более увеличивается. Таким образом, увеличение наших знаний о поведении процесса до моментаприводит к тому, что увеличивается информация о.
Однако существует особый класс случайных процессов, впервые исследованных известным математиком А. А. Марковым и называемых марковскими случайными процессами , для которых знание значения процесса в момент уже содержит в себе всю информацию о будущем ходе процесса, какую только можно извлечь из поведения процесса до этого момента. В случае марковского случайного процесса для определения вероятностных характеристик процесса в момент временидостаточно знать вероятностные характеристики для любого одного предшествующего момента времени, например непосредственно предшествующего момента времени. Знание вероятностных характеристик процесса для других предшествующих значений времени, например, не прибавляет информации, необходимой для нахождения.
Для марковского процесса справедливо следующее соотношение:
, (1.51)
т. е. все плотности вероятности марковского процесса определяются из двумерной плотности вероятности. Другими словами, марковские случайные процессы полностью характеризуются двумерной плотностью вероятности.
Понятие о функции распределения и плотности вероятности случайного процесса обычно используют при теоретических построениях и определениях. В практике исследования широкое распространение получили сравнительно более простые, хотя и менее полные характеристики случайных процессов, аналогичные числовым характеристикам случайных величин. Примерами таких характеристик служат математическое ожидание, дисперсия, среднее значение квадрата случайного процесса, корреляционная функция, спектральная плотность и другие.
Математическим ожиданием (средним значением) случайного процессаназывают величину
(1.52)
где - одномерная плотность вероятности случайного процесса .
Математическое ожидание случайного процесса представляет собой некоторую неслучайную (регулярную) функцию времени, около которой группируются и относительно которой колеблются все реализации данного случайного процесса (рис. 1.10).
Математическое ожидание случайного процесса в каждый фиксированный момент времени равно математическому ожиданию соответствующего сечения случайного процесса. Математическое ожидание называютсредним значением случайного процесса по множеству (средним по ансамблю, статистическим средним), поскольку оно представляет собой вероятностно усредненное значение бесконечного множества реализаций случайного процесса.
Рис. 1.10. Числовые характеристики случайных процессов
Часто вводят в рассмотрение центрированный случайный процесс
Тогда случайный процесс можно рассматривать как сумму двух составляющих: регулярной составляющей, равной математическому ожиданию, и центрированной случайной составляющей, т.е.
Для того чтобы учесть степень разбросанности реализации случайного процесса относительно его среднего значения, вводят понятие дисперсии случайного процесса, которая равна математическому ожиданию квадрата центрированного случайного процесса:
. (1.55)
Дисперсия случайного процесса является неслучайной (регулярной) функцией времени, значение которой в каждый момент времени равно дисперсии соответствующего сечения случайного процесса.
Среднее квадратическое отклонение случайного процесса равно
Лекция 18
Понятие случайного процесса. Характеристики случайных процессов.
Стационарные случайные процессы.
Случайные процессы с независимыми приращениями
Определение.
Случайным процессом
называется семейство случайных
величин
,
заданных на вероятностном пространстве
,
где
есть текущее время. Множество
значений параметра
называют областью определения
случайного процесса
, а множество
возможных значений
– пространством значений случайного
процесса
.
Случайный процесс, в отличие от детерминированного процесса, заранее предсказать невозможно. В качестве примеров случайных процессов можно рассмотреть броуновское движение частиц, работу телефонных станций, помехи в радиотехнических системах и т. д.
Если область определения
случайного процесса представляет
конечное или счетное множество отсчетов
времени, то говорят, что
– случайный процесс с дискретным
временем
или случайная последовательность
(цепь
), а если область определения
– континуум, то
называют случайным процессом с
непрерывным временем
.
В том случае, когда пространство
значений случайного процесса является
конечным или счетным множеством, то
случайный процесс называют дискретным
.
Если же пространство
значений случайного процесса – континуум,
то случайный процесс называют непрерывным
.
Действительную функцию
при некотором фиксированном значении
называют реализацией
или траекторией
случайного процесса
. Таким образом,
случайный процесс представляет собой
совокупность всевозможных своих
реализаций, то есть
,
где индикатор реализаций
может принадлежать счетному множеству
действительных чисел или континууму.
Детерминированный же процесс имеет
единственную реализацию, описываемую
заданной функцией
.
При фиксированном
получаем обычную случайную величину
,
которая называется сечением случайного
процесса
в момент времени
.
Одномерной функцией распределения
случайного процесса
при фиксированном
называется функция
,
.
Эта функция задает вероятность множества
траекторий, которые при фиксированном
проходят ниже точки
.
При
из определения (5.1.1) одномерной функции
распределения следует, что равенство
задает вероятность множества траекторий,
проходящих через «ворота» между точками
и
.
Двумерной функцией распределения
случайного процесса
при фиксированных
и
называется функция
,
.
Эта функция задает вероятность множества
траекторий, которые одновременно
проходят ниже точек
и
.
Аналогично
-мерная
функция распределения
случайного
процесса
при фиксированных
определяется равенством
для всех
из
.
Если эта функция достаточное число раз
дифференцируема, то
-
мерная совместная плотность вероятности
случайного процесса
имеет вид
.
Функция распределения или плотность
вероятности тем полнее описывает сам
случайный процесс, чем больше
.
Эти функции учитывают связь хотя и между
любыми, но лишь фиксированными сечениями
этого процесса. Случайный процесс
считается заданным, если задано множество
всех его
-
мерных законов распределения или
-
мерных плотностей вероятности для любых
.
При этом функция распределения должна
удовлетворять условиям симметрии и
согласованности Колмогорова
. Условие
симметрии состоит в том, что
– симметричная функция для всех пар
,
,
в том смысле, что, например,
Условие же согласованности означает, что
то есть
-
мерный закон распределения случайного
процесса
определяет все законы распределения
более низкой размерности.
Рассмотрим различные характеристики случайных процессов.
Определение.
Математическим
ожиданием
или средним значением
случайного процесса
называется функция
,
где
– одномерная плотность вероятности
случайного процесса. Геометрически
математическому ожиданию соответствует
некоторая кривая, около которой
группируются траектории случайного
процесса.
Определение.
Дисперсией
случайного процесса
называется функция
Таким образом, математическое ожидание
и дисперсия случайного процесса
зависят от одномерной плотности
вероятности и являются неслучайными
функциями времени
.
Дисперсия случайного процесса
характеризует степень разброса траекторий
относительно его среднего значения
.
Чем больше дисперсия, тем значительнее
разброс траекторий. Если дисперсия
равна нулю, то все траектории случайного
процесса
совпадают с математическим ожиданием
,
а сам процесс является детерминированным.
Определение.
Корреляционная
функция
случайного процесса
определяется равенством
где
– двумерная плотность вероятности
случайного процесса.
Корреляционная функция
характеризует степень связи между
ординатами случайного процесса
для двух моментов времени
и
.
При этом, чем больше корреляционная
функция, тем более гладкими являются
траектории случайного процесса
,
и наоборот.
Корреляционная функция обладает следующими свойствами.
1 0 . Симметричность:
,
.
2 0 .
,
.
Эти свойства следуют из соответствующих свойств ковариации случайной величины.
Теория, изучающая случайные процессы на основе математического ожидания и корреляционной функции, называется корреляционной теорией . С помощью методов корреляционной теории исследуются в основном линейные системы автоматического регулирования и управления.
Определение.
Случайный процесс
,
,
называется стационарным
в узком
смысле, если совместное распределение
случайных величин
И
,
одинаково и не зависит от
,
то есть
Отсюда для
-
мерной плотности вероятности справедливо
соотношение
Учитывая, что
в случае одномерной плотности вероятности,
и полагая в этом соотношении
,
имеем
.
Отсюда для стационарного случайного
процесса находим следующее выражение
для математического ожидания:
.
Аналогично для двумерной плотности
вероятности из равенства
при
получим
.
Следовательно, корреляционную функцию
можно записать в виде
где
.
Таким образом, для стационарных случайных процессов в узком смысле, математическое ожидание есть постоянная величина, а корреляционная функция зависит только от разности аргументов, то есть , так как корреляционная функция симметрична.
Определение. Случайный процесс с постоянным математическим ожиданием и корреляционной функцией, зависящей только от разности аргументов, называется случайным процессом, стационарным в широком смысле . Ясно, что стационарный в узком смысле случайный процесс является стационарным и в широком смысле. Обратное же утверждение в общем случае неверно.
Корреляционная функция стационарного случайного процесса обладает приведенными ниже свойствами.
1 0 .
,
то есть функция
– четная.
2 0 . Справедливо неравенство
.
3 0 . Для дисперсии стационарного
случайного процесса
справедливо соотношение
.
Пусть
,
,
– стационарный случайный процесс,
непрерывный по времени
,
с математическим ожиданием
и корреляционной функцией
.
Определение.
Функция, обозначаемая
и определяемая соотношением
,
называется спектральной плотностью .
Если известна спектральная плотность
,
то с помощью преобразования Фурье можно
найти корреляционную функцию
.
Последние два равенства называются формулами Винера – Хинчина .
Очевидно, что для существования обратного
преобразования Фурье достаточно
существования интеграла
,
то есть достаточно абсолютной
интегрируемости на промежутке
корреляционной функции
.
Можно показать, что спектральная
плотность
стационарного случайного процесса
является четной функцией, то есть
.
Так как
– четная функция, то
,
.
Из этих формул и определения корреляционной
функции
следует, что дисперсия стационарного
случайного процесса
равна
.
Если случайный процесс есть флуктуация
электрического тока или напряжения, то
дисперсия случайного процесса как
среднее значение квадрата тока или
напряжения пропорциональна средней
мощности этого процесса. Поэтому из
последнего равенства следует, что
спектральная плотность
в этом случае характеризует плотность
мощности, приходящуюся на единицу
круговой частоты
.
На практике вместо спектральной плотности
часто применяют нормированную
спектральную плотность
,
равную
.
Тогда, как нетрудно убедиться, так
называемая нормированная корреляционная
функция
и нормированная спектральная плотность
связаны прямым и обратным преобразованиями
Фурье:
,
.
Полагая
и учитывая, что
,
имеем
.
Учитывая четность спектральной функции, получаем
,
то есть полная площадь, ограниченная
снизу осью
и сверху графиком нормированной
спектральной плотности, равна единице.
Определение.
Случайный процесс
,
,
называется процессом с независимыми
приращениями
, если для любых
,
,
,
случайные величины
,
,
…,
независимы.
В этом случае для различных пар случайных величин корреляционная функция равна нулю.
Если случайные величины попарно
некоррелированы, то случайный процесс
называется процессом с некоррелированными
или ортогональными приращениями
.
Так как случайные величины независимы, то они некоррелированы (ортогональны). Тем самым всякий процесс с независимыми приращениями есть процесс с ортогональными приращениями.
Пусть
– случайный процесс с ортогональными
приращениями. Тогда для
получаем
поскольку случайные величины
и
ортогональны.
Аналогично при
получим, что
.
Таким образом, корреляционная функция
случайного процесса с ортогональными
приращениями обладает свойством
Применяя функцию Хевисайда
,
корреляционную функцию можно записать
в виде
Литература: [Л.1], стр. 155-161
[Л.2], стр. 406-416, 42-426
[Л.3], стр. 80-81
Математическими моделями случайных сигналов и помех являются случайные процессы. Случайным процессом (СП) называется изменение случайной величины во времени . К случайным процессам относится большинство процессов, протекающих в радиотехнических устройствах, а также помехи, сопровождающие передачу сигналов по каналам связи. Случайные процессы могут быть непрерывными (НСП), либо дискретными (ДСП) в зависимости от того, какая случайная величина непрерывная или дискретная изменятся во времени. В дальнейшем основное внимание будет уделено НСП.
Прежде чем приступить к изучению случайных процессов необходимо определится со способами их представления. Будем обозначать случайный процесс через , а его конкретную реализацию – через . Случайный процесс может быть представлен либо совокупностью (ансамблем) реализаций , либо одной , но достаточно протяженной во времени реализацией . Если сфотографировать несколько осциллограмм случайного процесса и фотографии расположить одну под другой, то совокупность этих фотографий будет представлять ансамбль реализаций (рис. 5.3).
Здесь – первая, вторая, …, k-ая реализации процесса. Если же отобразить изменение случайной величины на ленте самописца на достаточно большом интервале времени T, то процесс будет представлен единственной реализацией (рис. 5.3).
Как и случайные величины, случайные процессы описываются законами распределения и вероятностными (числовыми) характеристиками. Вероятностные характеристики могут быть получены как усреднение значений случайного процесса по ансамблю реализаций, так и усреднением по одной реализации.
Пусть случайный процесс представлен ансамблем реализаций (рис. 5.3). Если выбрать произвольный момент времени и зафиксировать значения, принимаемые реализациями в этот момент времени, то совокупность этих значений образует одномерное сечение СП
и представляет собой случайную величину . Как уже подчеркивалось выше, исчерпывающей характеристикой случайной величины является функция распределения или одномерная плотность вероятности
.
Естественно как , так и , обладают всеми свойствами функции распределения и плотности распределения вероятности, рассмотренными выше.
Числовые характеристики в сечении определяются в соответствии с выражениями (5.20), (5.22), (5.24) и (5.26). Так, в частности математическое ожидание СП в сечении определяется выражением
а дисперсия – выражением
Однако, законов распределения и числовых характеристик только в сечении недостаточно для описания случайного процесса, который развивается во времени. Поэтому, необходимо рассмотреть второе сечении (рис. 5.3). В этом случае СП будет описываться уже двумя случайными величинами и , разнесенными между собой на интервал времени 
и характеризоваться двумерной функцией распределения 
и двумерной плотностью 
, где , . Очевидно, если ввести в рассмотрение третье, четвертое и т.д. сечения, можно прийти к многомерной (N-мерной) функции распределения и соответственно к многомерной плотности распределения .
Важнейшей характеристикой случайного процесса служит автокорреляционная функция (АКФ)
устанавливающая степень статистической связи между значениями СП в моменты времени и
Представление СП в виде ансамбля реализаций приводит к понятию стационарности процесса. Случайный процесс является стационарным , если все начальные и центральные моменты не зависят от времени, т.е.
, 
.
Это жесткие условия, поэтому при их выполнении СП считается стационаром в узком смысле .
На практике используется понятие стационарности в широком смысле . Случайный процесс стационарен в широком смысле, если его математическое ожидание и дисперсия не зависят от времени, т.е.:
а автокорреляционная функция определяется только интервалом и не зависит от выбора на оси времени
В дальнейшем будут рассматриваться только стационарные в широком смысле случайные процессы.
Выше отмечалось, что случайный процесс помимо представления ансамблем реализаций, может быть представлен единственной реализацией на интервале времени T. Очевидно, все характеристики процесса могут быть получены усреднением значений процесса по времени.
Математическое ожидание СП при усреднении по времени определяется следующим образом:
. (5.46)
Отсюда следует физический смысл : математическое ожидание – это среднее значение (постоянная составляющая) процесса.
Дисперсия СП определяется выражением
и имеет физический смысл средней мощности переменной составляющей процесса.
Автокорреляционная функция при усреднении по времени
Случайный процесс называется эргодическим , если его вероятностные характеристики, полученные усреднением по ансамблю, совпадают с вероятностными характеристиками, полученными усреднением по времени единственной реализации из этого ансамбля. Эргодические процессы являются стационарными.
Использование выражений (5.46), (5.47) и (5.48) требует, строго говоря, реализации случайного процесса большой (теоретически бесконечной) протяженности. При решении практических задач интервал времени ограничен. При этом большинство процессов считают приблизительно эргодическими и вероятностные характеристики определяют в соответствии с выражениями
; (5.49)
;
Случайные процессы, у которых исключено математическое ожидание, называются центрированными . В дальнейшем под и будут подразумеваться значения центрированных случайных процессов. Тогда выражения для дисперсии и автокорреляционной функции принимают вид
; (5.50)
Отметим свойства АКФ эргодических случайных процессов:
– автокорреляционная функция является вещественной функцией аргумента ,
– автокорреляционная функция является четной функцией, т.е. 
,
– при увеличении АКФ убывает (необязательно монотонно) и при стремится к нулю,
– значение АКФ при равно дисперсии (средней мощности) процесса
.
На практике часто приходится иметь дело с двумя и более СП. Так например, на вход радиоприемника одновременно поступает смесь случайного сигнала и помехи. Взаимную связь между двумя случайными процессами устанавливает взаимная корреляционная функция (ВКФ). Если и – два случайных процесса, характеризующиеся реализациями и , то взаимная корреляционная функция определяется выражением
