1、第 2 章 随机过程第 2 章 随机过程2.1 随机过程的基本概念和统计特性随机过程的基本概念和统计特性2.2 平稳随机过程平稳随机过程2.3 高斯随机过程高斯随机过程2.4 随机过程通过线性系统随机过程通过线性系统2.5 窄带随机过程窄带随机过程2.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声思考题思考题第 2 章 随机过程2.1 随机过程的基本概念和统计特性随机过程的基本概念和统计特性自然界中事物的变化过程可以大致分成两类。一类是其变化过程具有确定的形式,或 者说具有必然的变化规律,用数学语言来说,其变化过程可以用一个或几个时间t的确定 函数来描述,这类过程称为确定性过程。例如,电容器通过
2、电阻放电时,电容两端的电位 差随时间的变化就是一个确定性函数。而另一类过程没有确定的变化形式,也就是说,每 次对它的测量结果没有一个确定的变化规律,用数学语言来说,这类事物变化的过程不可 能用一个或几个时间t 的确定函数来描述,这类过程称为随机过程。第 2 章 随机过程设有n 台性能完全相同的接收机。我们在相同的工作环境和测试条件下记录各台接收 机的输出噪声波形(这也可以理解为对一台接收机在一段时间内持续地进行n 次观测)。测 试结果将表明,尽管设备和测试条件相同,记录的n 条曲线中找不到两个完全相同的波 形。这就是说,接收机输出的噪声电压随时间的变化是不可预知的,因而它是一个随机 过程。由此
3、我们给随机过程下一个更为严格的定义:设Sk(k=1,2,)是随机试验,每一 次试验都有一条时间波形(称为样本函数或实现),记作xi(t),所有可能出现的结果的总 体x1(t),x2(t),xn(t),就构成一随机过程,记作(t)。简言之,无穷多个样本 函数的总体叫做随机过程,如图 2-1 所示第 2 章 随机过程图 2-1 样本函数的总体第 2 章 随机过程显然,上例中接收机的输出噪声波形也可用图 2-1 表示。对接收机输出噪声波形的观测可看做是进行一次随机试验,每次试验之后,(t)取图 2-1 所示的样本空间中的某 一样本函数,至于是空间中哪一个样本,在进行观测前是无法预知的,这正是随机过程
4、随 机性的表现。随机过程的基本特征体现在两个方面:其一,它是一个时间函数;其二,在固 定的某一观察时刻t1,全体样本在t1 时刻的取值(t1)是一个不含t变化的随机变量。因 此,又可以把随机过程看成依赖时间参数的一族随机变量。可见,随机过程具有随机变量 和时间函数的特点。下面将会看到,在研究随机过程时正是利用了这两个特点。第 2 章 随机过程2.1.2-随机过程的统计特性随机过程的统计特性 随机过程的两重性使我们可以用与描述随机变量相似的方法,来描述它的统计特性。设(t)表示一个随机过程,在任意给定的时刻t1T,其取值(t1)是一个一维随机变 量。随机变量的统计特性可以用分布函数或概率密度函数
5、来描述。我们把随机变量(t1)小于或等于某一数值x1 的概率P(t1)x1,简记为F1(x1,t1),即第 2 章 随机过程式(2.1 1)称为随机过程(t)的一维分布函数。如果F1(x1,t1)对x1 的偏导数存在,即 有则称f1(x1,t1)为(t)的一维概率密度函数。显然,随机过程的一维分布函数或一维概率 密度函数仅仅描述了随机过程在各个孤立时刻的统计特性,而没有说明随机过程在不同时 刻取值之间的内在联系,为此需要进一步引入二维分布函数。第 2 章 随机过程任给两个时 刻t1,t2-T,则 随 机 变 量(t1)和(t2-)构 成 一 个 二 元 随 机 变 量(t1),(t2),称为随
6、机过程(t)的二维分布函数。如果存在则称f2(x1,x2;t1,t2)为(t)的二维概率密度函数。第 2 章 随机过程同理,任给t1,t2,tnT,则(t)的n 维分布函数被定义为如果存在第 2 章 随机过程则称fn(x1,x2,xn;t1,t2,tn)为(t)的n 维概率密度函数。显然,n 越大,对随机 过程统计特性的描述就越充分,但问题的复杂性也随之增加。在一般实际问题中,掌握二 维分布函数就已经足够了。第 2 章 随机过程2.1.3 随机过程的数字特征随机过程的数字特征 分布函数或概率密度函数虽然能够较全面地描述随机过程的统计特性,但在实际工作 中,有时不易或不需求出分布函数和概率密度函
7、数,而用随机过程的数字特征来描述随机 过程的统计特性,更简单直观。第 2 章 随机过程1.数学期望数学期望 设随机过程(t)在任意给定时刻t1 的取值(t1)是一个随机变量,其概率密度函数为 f1(x1,t1),则(t1)的数学期望为注意,这里t1 是任取的,所以可以把t1 直接写为t,x1 改为x,这时上式就变为随机过程 在任意时刻的数学期望,记作a(t),于是a(t)是时间t的函数,它表示随机过程的n 个样本函数曲线的摆动中心。第 2 章 随机过程2.方差方差D(t)常记为2(t)。可见方差等于均方值与数学期望平方之差。它表示随机过程在时刻 t对于均值a(t)的偏离程度第 2 章 随机过程
8、3.相关函数相关函数 衡量随机过程在任意两个时刻获得的随机变量之间的关联程度时,常用协方差函数B(t1,t2)和相关函数R(t1,t2)来表示。协方差函数定义为第 2 章 随机过程式中,t1 与t2-是任取的两个时刻;a(t1)与a(t2)为在t1 及t2时 刻 得 到 的 数 学 期 望;f2(x1,x2;t1,t2)为二维概率密度函数。相关函数定义为第 2 章 随机过程二者关系为若a(t1)=0或a(t2)=0,则B(t1,t2)=R(t1,t2)。若t2t1,并令t2=t1+,则R(t1,t2)可表示为R(t1,t1+)。这说明,相关函数依赖于起始时刻t1 及t2与t1 之间的时间间 隔
9、,即相关函数是t1和的函数。第 2 章 随机过程由于B(t1,t2)和R(t1,t2)是衡量同一过程的相关程度的,因此,分别称为自协方差 函数和自相关函数。对于两个或更多个随机过程,可引入互协方差及互相关函数。设(t)和(t)分别表示两个随机过程,则互协方差函数定义为互相关函数定义为第 2 章 随机过程2.2-平稳随机过程平稳随机过程2.2.1 定义定义 所谓平 稳 随 机 过 程,是 指 它 的 统 计 特 性 不 随 时 间 的 推 移 而 变 化。设 随 机 过 程(t),tT,若对于任意n 和任意选定t1t2tn,tkT,k=1,2,n,以及h 为任意值,且x1,x2,xnR,有第 2
10、 章 随机过程则称(t)是平稳随机过程。该定义说明,当取样点在时间轴上作任意平移时,随机过程的 所有有限维分布函数是不变的,具体到它的一维分布,则与时间t无关,而二维分布只与 时间间隔有关,即有和以上两式可由式(2.2-1)分别令n=1和n=2,并取h=-t1 得证。第 2 章 随机过程于是,平稳随机过程(t)的均值为一常数,这表示平稳随机过程的各样本函数围绕着一水平线起伏。同样,可以证明平稳 随机过程的方差2(t)=2=常数,表示它的起伏偏离数学期望的程度也是常数第 2 章 随机过程平稳随机过程(t)的自相关函数仅是时间间隔=t2-t1 的函数,而不再是t1 和t2-的二维函数。第 2 章
11、随机过程以上表明,平稳随机过程(t)具有“平稳”的数字特征:它的均值与时间无关;它的自 相关函数只与时间间隔有关,即注意到式(2.2-1)定义的平稳随机过程对于一切n 都成立,这在实际应用上很复杂。但仅仅由一个随机过程的均值是常数,自相关函数是的函数还不能充分说明它符合平稳 条件,为此引入另一种平稳随机过程的定义:第 2 章 随机过程设有一个二阶矩随机过程(t),它的均值为常数,自相关函数仅是 的函数,则称它为宽平稳随机过程宽平稳随机过程或广义平稳随广义平稳随机过程机过程。相应地,称按式(2.2-1)定义的过程为严平稳随严平稳随 机机过过程或狭义平稳随机过程狭义平稳随机过程。因为广义平稳随机过
12、程的定义只涉及与一维、二维概率密度 有关的数字特征,所以一个严平稳随机过程只要它的均方值E2(t)有界,则它必定是广 义平稳随机过程,但反过来一般不成立。通信系统中所遇到的信号及噪声,大多数可视为平稳的随机过程。以后讨论的随机过 程除特殊说明外,均假定是平稳的,且均指广义平稳随机过程,简称平稳过程。第 2 章 随机过程2.2.2-各态历经性各态历经性 平稳随机过程在满足一定条件下有一个有趣而又非常有用的特性,称为“各态历经 性”。这种平稳随机过程,它的数字特征(均为统计平均)完全可由随机过程中的任一实现 的数字特征(均为时间平均)来替代。也就是说,假设x(t)是平稳随机过程(t)的任意一个 实
13、现,它的时间均值和时间相关函数分别为第 2 章 随机过程如果平稳随机过程依概率1使下式成立:则称该平稳随机过程具有各态历经性。第 2 章 随机过程“各态历经”的含义:随机过程中的任一实现都经历了随机过程的所有可能状态。因 此,我们无需(实际中也不可能)获得大量用来计算统计平均的样本函数,而只需从任意一 个随机过程的样本函数中就可获得它的所有的数字特征,从而使“统计平均”化为“时间平 均”,使实际测量和计算的问题大为简化。注意注意 具有各态历经性的随机过程必定是平稳随机过程,但平稳随机过程不一定是各 态历经的。在通信系统中所遇到的随机信号和噪声,一般均能满足各态历经条件。第 2 章 随机过程2.
14、2.3 平稳随机过程自相关函数的性质平稳随机过程自相关函数的性质 对于平稳随机过程而言,它的自相关函数是特别重要的一个函数。其一,平稳随机过 程的统计特性,如数字特征等,可通过自相关函数来描述;其二,自相关函数与平稳随机 过程的谱特性有着内在的联系。因此,有必要了解平稳随机过程自相关函数的性质。设(t)为实平稳随机过程,则它的自相关函数第 2 章 随机过程第 2 章 随机过程2.2.4 平稳随机过程的功率谱密度平稳随机过程的功率谱密度随机过程的频谱特性是用它的功率谱密度来表述的。我们知道,随机过程中的任一实 现是一个确定的功率型信号。对于任意的确定功率信号f(t),它的功率谱密度为第 2 章
15、随机过程图 2-2-功率信号f(t)及其截短函数第 2 章 随机过程式中,FT()是f(t)的截短函数fT(t)(见图 2-2)所对应的频谱函数。我们可以把f(t)看成是平稳随机过程(t)中的任一实现,因而每一实现的功率谱密度也可用式(2.2-14)来表示。由于(t)是无穷多个实现的集合,哪一个实现出现是不能预知的,因此,某一实 现的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看做是任一实现的功率 谱的统计平均,即第 2 章 随机过程虽然式(2.2-15)给出了平稳随机过程(t)的功率谱密度 P(),但很难直接用它来 计算功率谱。那么,如何方便地求功率谱P()呢?我们知道,确知的非周
16、期功率信号的 自相关函数与其谱密度是一对傅里叶变换关系。对于平稳随机过程,也有类似的关系,即第 2 章 随机过程其傅里叶反变换为于是第 2 章 随机过程因为R(0)表示随机过程的平均功率,它应等于功率谱密度曲线下的面积。因此,P()必 然是平稳随机过程的功率谱密度函数。所以,平稳随机过程的功率谱密度P()与其自相 关函数R()是一对傅里叶变换关系,即第 2 章 随机过程关系式(2.2-18)称为维纳-辛钦关系,在平稳随机过程的理论和应用中是一个非常 重要的工具。它是联系频域和时域两种分析方法的基本关系式。根据上述关系式及自相关函数R()的性质,不难推演功率谱密度P()有如下性质:(1)P()0
17、,非负性;(2.2-20)(2)P(-)=P(),偶函数。(2.2-21)第 2 章 随机过程【例【例2-1】某随机相位余弦波(t)=Acos(ct+),其中A 和c 均为常数,是在(0,2)内均匀分布的随机变量。(1)求(t)的自相关函数与功率谱密度;(2)讨论(t)是否具有各态历经性。第 2 章 随机过程第 2 章 随机过程根据平稳随机过程的相关函数与功率谱密度是一对傅里叶变换,即R()P(),则 因为第 2 章 随机过程第 2 章 随机过程2.3 高斯随机过程高斯随机过程高斯过程,也称正态随机过程,是通信领域中最重要的一种过程。在实践中观察到的 大多数噪声都是高斯过程,例如通信信道中的噪
18、声通常是一种高斯过程。因此,在信道的 建模中常用到高斯模型。所谓高斯随机过程是指随机过程(t)的任意n 维(n=1,2,)分布都是正态分布。第 2 章 随机过程2.3.1 重要性质重要性质(1)高斯过程的n 维分布完全由其n 个随机变量的数学期望、方差和协方差函数所决 定。因此,对于高斯过程,只要研究它的数字特征就可以了。(2)如果高斯过程是广义平稳的,则它的均值与时间无关,协方差函数只与时间间隔 有关,而与时间起点无关,由性质(1)知,它的n 维分布与时间起点无关。所以,广义平稳 的高斯过程也是狭义平稳的。(3)如果高斯过程在不同时刻的取值是不相关的,那么它们也是统计独立的。(4)高斯过程经
19、过线性变换(或线性系统)后的过程仍是高斯过程。这个特点将在后面 讨论。第 2 章 随机过程2.3.2-高斯随机变量高斯随机变量 在以后分析问题时,会经常用到高斯过程中的一维分布。例如,高斯过程在任一时刻 上的样值是一个一维高斯随机变量,其一维概率密度函数可表示为式中,a 为高斯随机变量的数学期望,2-为方 差。f(x)曲线如图 2-3所示。第 2 章 随机过程图 2-3 正态分布的概率密度第 2 章 随机过程由式(2.3 1)和图2-3可知f(x)具有如下特性:(1)f(x)对称于x=a 这条直线。(2)且有(3)a 表示分布中心,表示集中程度,f(x)图形将随着 的减小而变高和变窄。当 a=
20、0,=1时,称f(x)为标准正态分布的密度函数。第 2 章 随机过程当需要求高斯随机变量小于或等于任意取值x 的概率P(x)时,还要用到正态分 布函数。分布函数是概率密度函数的积分,即第 2 章 随机过程这个积分无法用闭合形式计算,我们要设法把这个积分式和可以在数学手册上查出积分值 的特殊函数联系起来,一般常用以下几种特殊函数:第 2 章 随机过程第 2 章 随机过程用误差函数或互补误差函数表示F(x)的好处是,它简明的特性有助于今后分析通信 系统的抗噪声性能第 2 章 随机过程2.3.3 高斯白噪声高斯白噪声 信号在信道中传输时,常会遇到这样一类噪声,它的功率谱密度均匀分布在整个频率 范围内
21、,即这种噪声被称为白噪声,它是一个理想的宽带随机过程。式中n0 为一常数,单位是瓦/赫。显然,白噪声的自相关函数可借助于下式求得,即第 2 章 随机过程这表明,白噪声只有在=0时才相关,而它在任意两个时刻上的随机变量都是互不相关 的。图 2-4 画出了白噪声的功率谱和自相关函数的图形。图 2-4 白噪声的谱密度和自相关函数第 2 章 随机过程如果白噪声又是高斯分布的,则称之为高斯白噪声。由式(2.3 16)可以看出,高斯白 噪声在任意两个不同时刻上的取值之间,不仅是互不相关的,而且还是统计独立的。应当指出,这种理想化的白噪声在实际中是不存在的。但是,如果噪声的功率谱均匀 分布的频率范围远远大于
22、通信系统的工作频带,则可以把它视为白噪声。第 3 章中讨论的 热噪声和散弹噪声就是近似白噪声的例子。第 2 章 随机过程2.4 随机过程通过线性系统随机过程通过线性系统这里,我们只考虑平稳过程通过线性时不变系统的情况。随机过程通过线性系统的分 析,完全是建立在确知信号通过线性系统的原理上的。我们知道,线性系统的响应vo(t)等 于输入信号vi(t)与系统的单位冲激响应h(t)的卷积,即第 2 章 随机过程第 2 章 随机过程如果把vi(t)看做是输入随机过程的一个样本,则vo(t)可看做是输出随机过程的一个样 本。显然,输入过程i(t)的每个样本与输出过程o(t)的相应样本之间都满足式(2.4
23、 4)的关系。这样,就整个过程而言,便有第 2 章 随机过程1.输出过程输出过程o(t)的数学期望的数学期望第 2 章 随机过程2.输出过程输出过程o(t)的自相关函数的自相关函数第 2 章 随机过程3.输出过程输出过程o(t)的功率谱密度的功率谱密度对式(2.4 7)进行傅里叶变换,有第 2 章 随机过程【例【例 2-2】带限白噪声。试求功率谱密度为n0/2的白噪声通过理想矩形的低通滤波 器后的功率谱密度、自相关函数和噪声平均功率。理想低通的传输特性为第 2 章 随机过程第 2 章 随机过程图 2-5 带限白噪声的功率谱和自相关函数第 2 章 随机过程如图 2-5(b)所示,带限白噪声的自相
24、关函数Ro()在=0处有最大值,这就是带限 白噪声的平均功率:第 2 章 随机过程4.输出过程输出过程o(t)的概率分布的概率分布从原理上看,在已知输入过程分布的情况下,通过式(2.4 5),即总可以确定输出过程的分布。其中一个十分有用的情形是:如果线性系统的输入过程是高 斯型的,则系统的输出过程也是高斯型的。第 2 章 随机过程因为从积分原理来看,上式可表示为一个和式的极限,即由于i(t)已假设是高斯型的,所以,在任一时刻的每项i(t-k)h(k)k 都是一个高斯 随机变量。因此,输出过程在任一时刻得到的每一随机变量,都是无限多个高斯随机变量 之和。由概率论得知,这个“和”的随机变量也是高斯
25、随机变量。这就证明,高斯过程经过 线性系统后其输出过程仍为高斯过程。更一般地说,高斯过程经线性变换后的过程仍为高 斯过程。但要注意,由于线性系统的介入,与输入高斯过程相比,输出过程的数字特征已 经改变了。第 2 章 随机过程2.5 窄带随机过程窄带随机过程随机过程通过以fc 为中心频率的窄带系统的输出,即为窄带过程。所谓窄带系统,是 指其通带宽度ffc,且fc 远离零频率的系统。实际中,大多数通信系统都是窄带型的,通过窄带系统的信号或噪声必是窄带的,如果这时的信号或噪声又是随机的,则称它们为 窄带随机过程。如用示波器观察一个实现的波形,则如图2-6(b)所示,它是一个频率近 似为fc,包络和相
26、位随机缓变的正弦波。第 2 章 随机过程图 2-6 窄带过程的频谱和波形示意第 2 章 随机过程因此,窄带随机过程(t)可用下式表示：等价式为其中第 2 章 随机过程式中,a(t)及(t)分别是(t)的随机包络和随机相位,c(t)及s(t)分别称为(t)的同 相分量和正交分量,它们也是随机过程,显然它们的变化相对于载波cosct的变化要缓慢 得多。由式(2.5 1)至式(2.5 4)可看出,(t)的统计特性可由a(t)、(t)或c(t)、s(t)的统计特性确定。反之,如果已知(t)的统计特性则可确定a(t)、(t)以及c(t)、s(t)的统计特性。第 2 章 随机过程2.5.1 同相和正交分量
27、的统计特性同相和正交分量的统计特性 设窄带过程(t)是平稳高斯窄带过程,且均值为零,方差为2。下面将证明它的同相 分量c(t)和正交分量s(t)也是零均值的平稳高斯过程,而且与(t)具有相同的方差。第 2 章 随机过程1.数学期望数学期望 对式(2.5 2)求数学期望:因为已设(t)平稳且均值为零,那么对于任意的时间t,都有E(t)=0,所以由式(2.5 5)可得第 2 章 随机过程2.自相关函数自相关函数第 2 章 随机过程这就要求式(2.5 7)的右边也应该与t无关,而仅与时间间隔有关。若取使sinct=0的所有t值,则式(2.5 7)应变为第 2 章 随机过程第 2 章 随机过程第 2
28、章 随机过程所以c(t1),s(t2)也是高斯随机变量,从而c(t)、s(t)也是高斯随机过程。又根据式(2.5 15)可知,c(t)、s(t)在同一时刻的取值是互不相关的随机变量,因而它们还是统计独立的。综上所述,我们得到一个重要结论:一个均值为零的窄带一个均值为零的窄带平稳高斯过程平稳高斯过程(t),它的同它的同 相分量相分量c(t)和正交分量和正交分量s(t)也是也是平稳高斯过程平稳高斯过程,其均值都为零其均值都为零,方差也相同。并且方差也相同。并且,在同在同 一时一时刻上得到的刻上得到的c 和和s第 2 章 随机过程2.5.2-包络和相位的统计特性包络和相位的统计特性第 2 章 随机过
29、程于是第 2 章 随机过程综上所述,我们又得到一个重要结论:一个均值为零一个均值为零,方方差为差为2-的窄带平稳高斯过程的窄带平稳高斯过程(t),其包络其包络a(t)的一维分布是的一维分布是瑞利分布瑞利分布,相位相位(t)的一维分布是均匀分布的一维分布是均匀分布,并且就一并且就一 维分维分布而言布而言,络络a(t)与与(t)是统计独立的是统计独立的,即有下式成立:第 2 章 随机过程2.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声信号经过信道传输后总会受到噪声的干扰,为了减少噪声的影响,通常在接收机前端 设置一个带通滤波器,以滤除信号频带以外的噪声。因此,带通滤波器的输出是信号与窄 带噪声的混
30、合波形。最常见的是正弦波加窄带高斯噪声的合成波,这是通信系统中常会遇 到的一种情况,所以有必要了解合成信号的包络和相位的统计特性。第 2 章 随机过程第 2 章 随机过程第 2 章 随机过程第 2 章 随机过程上式存在两种极限情况:第 2 章 随机过程由此可见,信号加噪声的合成波包络分布与信噪比有关。小信噪比时,它接近于瑞利 分布;大信噪比时,它接近于高斯分布;在一般情况下它是莱斯分布。图 2-7(a)给出了 不同r 值时的f(z)曲线。关于信号加噪声的合成波相位分布(),由于比较复杂,这里就不再演算了。不难推 想,()也与信噪比有关。小信噪比时,f()接近于均匀分布,它反映这时窄带高斯噪声
31、为主的情况;大信噪比时,f()主要集中在有用信号相位附近。图 2-7(b)给出了不同的 r 值时的f()曲线。第 2 章 随机过程图 2-7 正弦波加窄带高斯过程的包络与相位分布第 2 章 随机过程思思 考考 题题2-1 什么是随机过程?它具有哪些基本特征?2-2-随机过程的期望、方差和自相关函数描述了随机过程的什么性质?2-3 什么是宽平稳随机过程?什么是严平稳随机过程?2-4 平稳随机过程的自相关函数有哪些性质?它与功率谱密度关系如何?2-5 高斯过程有哪些性质?第 2 章 随机过程 2-6 何谓高斯白噪声?它的概率密度函数、功率谱密度如何表示?2-7 白噪声的自相关函数在=0处的值是什么?白噪声通过理想低通或理想带通 滤波器后的情况如何?2-8 高斯窄带噪声的包络和相位分别服从什么概率分布?2-9 高斯窄带噪声的同相分量和正交分量的统计特性如何?2-10 正弦波加窄带高斯噪声的合成包络服从什么分布?2-11线性系统的输出过程的均值、自相关函数及功率谱与输入平稳过程的关系如何?
