# lecture random processes

Post on 10-Oct-2014

295 views

Category:

## Documents

Embed Size (px)

TRANSCRIPT

ECE 5510: Random Processes Lecture Notes Fall 2009

Dr. Neal Patwari University of Utah Department of Electrical and Computer Engineering c 2009

ECE 5510 Fall 2009

2

Contents1 Course Overview 2 Events as Sets 2.0.1 Set Terminology vs. Probability Terminology 2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . 2.1.1 Important Events . . . . . . . . . . . . . . . . 2.2 Finite, Countable, and Uncountable Event Sets . . . 2.3 Operating on Events . . . . . . . . . . . . . . . . . . 2.4 Disjoint Sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 7 8 8 8 8 9 10

3 Axioms and Properties of Probability 10 3.1 How to Assign Probabilities to Events . . . . . . . . . . . . . . . . . . . . . . . . . . 11 3.2 Other Properties of Probability Models . . . . . . . . . . . . . . . . . . . . . . . . . 11 3.3 Independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 4 Conditional Probability 4.1 Conditional Probability is Probability . . 4.2 Conditional Probability and Independence 4.3 Bayes Rule . . . . . . . . . . . . . . . . . 4.4 Trees . . . . . . . . . . . . . . . . . . . . . 5 Partitions and Total Probability 6 Combinations 7 Discrete Random Variables 7.1 Probability Mass Function . . . . . . . . . 7.2 Cumulative Distribution Function (CDF) 7.3 Recap of Critical Material . . . . . . . . . 7.4 Expectation . . . . . . . . . . . . . . . . . 7.5 Moments . . . . . . . . . . . . . . . . . . 7.6 More Discrete r.v.s . . . . . . . . . . . . . 8 Continuous Random Variables 8.1 Example CDFs for Continuous r.v.s 8.2 Probability Density Function (pdf) . 8.3 Expected Value (Continuous) . . . . 8.4 Examples . . . . . . . . . . . . . . . 8.5 Expected Values . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 14 14 14 15 16 17 18 19 21 22 22 23 24 25 25 26 26 27 28 29 29 31 31 33

9 Method of Moments 9.1 Discrete r.v.s Method of Moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9.2 Method of Moments, continued . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9.3 Continuous r.v.s Method of Moments . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 Jacobian Method

ECE 5510 Fall 2009

3 34

11 Expectation for Continuous r.v.s

12 Conditional Distributions 35 12.1 Conditional Expectation and Probability . . . . . . . . . . . . . . . . . . . . . . . . . 35 13 Joint distributions: Intro (Multiple Random 13.1 Event Space and Multiple Random Variables 13.2 Joint CDFs . . . . . . . . . . . . . . . . . . . 13.2.1 Discrete / Continuous combinations . 13.3 Joint pmfs and pdfs . . . . . . . . . . . . . . 13.4 Marginal pmfs and pdfs . . . . . . . . . . . . 13.5 Independence of pmfs and pdfs . . . . . . . . 13.6 Review of Joint Distributions . . . . . . . . . Variables) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 38 38 39 40 40 41 43

14 Joint Conditional Probabilities 44 14.1 Joint Probability Conditioned on an Event . . . . . . . . . . . . . . . . . . . . . . . 44 14.2 Joint Probability Conditioned on a Random Variable . . . . . . . . . . . . . . . . . . 45 15 Expectation of Joint r.v.s 46

16 Covariance 47 16.1 Correlation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 16.2 Expectation Review . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 17 Transformations of Joint r.v.s 49 17.1 Method of Moments for Joint r.v.s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 18 Random Vectors 52 18.1 Expectation of R.V.s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53 19 Covariance of a R.V. 54

20 Joint Gaussian r.v.s 54 20.1 Linear Combinations of Gaussian R.V.s . . . . . . . . . . . . . . . . . . . . . . . . . 56 21 Linear Combinations of R.V.s 22 Decorrelation Transformation of R.V.s 22.1 Singular Value Decomposition (SVD) . . . 22.2 Application of SVD to Decorrelate a R.V. 22.3 Mutual Fund Example . . . . . . . . . . . 22.4 Linear Transforms of R.V.s Continued . . 23 Random Processes 23.1 Continuous and Discrete-Time 23.2 Examples . . . . . . . . . . . . 23.3 Random variables from random 23.4 i.i.d. Random Sequences . . . . 23.5 Counting Random Processes . . . . . . . . . . . . . . processes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56 59 59 60 60 62 63 63 64 65 65 65

ECE 5510 Fall 2009

4

23.6 Derivation of Poisson pmf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66 23.6.1 Let time interval go to zero . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 24 Poisson Process 24.1 Last Time . . . . . . . . . . . . . . 24.2 Independent Increments Property . 24.3 Exponential Inter-arrivals Property 24.4 Inter-arrivals . . . . . . . . . . . . 24.5 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68 68 68 69 70 70 72 72 72 75 76 76 77 79 81 81 82 83 84

25 Expectation of Random Processes 25.1 Expected Value and Correlation . . . 25.2 Autocovariance and Autocorrelation 25.3 Wide Sense Stationary . . . . . . . . 25.3.1 Properties of a WSS Signal .

26 Power Spectral Density of a WSS Signal 27 Review of Lecture 17 28 Random Telegraph Wave 29 Gaussian Processes 29.1 Discrete Brownian Motion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29.2 Continuous Brownian Motion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29.3 Continuous White Gaussian process . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 Power Spectral Density of a WSS Signal

31 Linear Time-Invariant Filtering of WSS Signals 87 31.1 In the Frequency Domain . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88 32 LTI 32.1 32.2 32.3 Filtering of WSS Signals 89 Addition of r.p.s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 Partial Fraction Expansion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90 Discussion of RC Filters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90

33 Discrete-Time R.P. Spectral Analysis 91 33.1 Discrete-Time Fourier Transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 33.2 Power-Spectral Density . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 33.3 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 34 Markov Processes 34.1 Denition . . . . . . . . . . . . . . . . . 34.2 Visualization . . . . . . . . . . . . . . . 34.3 Transition Probabilities: Matrix Form . 34.4 Multi-step Markov Chain Dynamics . . 34.4.1 Initialization . . . . . . . . . . . 34.4.2 Multiple-Step Transition Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94 95 95 96 99 99 100

ECE 5510 Fall 2009

5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100 100 102 102 102 102

34.4.3 n-step probabilities . . . . 34.5 Limiting probabilities . . . . . . 34.6 Matlab Examples . . . . . . . . . 34.6.1 Casino starting with \$50 . 34.6.2 Chute and Ladder Game . 34.7 Applications . . . . . . . . . . . .

ECE 5510 Fall 2009

6

Lecture 1 Today: (1) Syllabus, (2) Course Overview, (3) Application Assignment Intro

1

Course Overview communications, controls, manufacturing, economics, imaging, biology, th

Recommended