Measure theoryFrom Wikipedia, the free encyclopedia

Contents

1 Abel transform 11.1 Geometrical interpretation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11.2 Verication of the inverse Abel transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31.3 Generalization of the Abel transform to discontinuous F(y) . . . . . . . . . . . . . . . . . . . . . 31.4 Relationship to other integral transforms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

1.4.1 Relationship to the Fourier and Hankel transforms . . . . . . . . . . . . . . . . . . . . . . 41.4.2 Relationship to the Radon transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

1.5 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41.7 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

2 Absolute continuity 52.1 Absolute continuity of functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

2.1.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52.1.2 Equivalent denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62.1.3 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62.1.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62.1.5 Generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72.1.6 Properties of these generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

2.2 Absolute continuity of measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72.2.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72.2.2 Equivalent denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72.2.3 Generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82.2.4 Singular measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

2.3 Relation between the two notions of absolute continuity . . . . . . . . . . . . . . . . . . . . . . . 82.4 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92.6 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10

3 Abstract Wiener space 113.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113.3 Example: Classical Wiener space . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

i

ii CONTENTS

3.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

4 Alexandrov theorem 134.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

5 Almgren regularity theorem 145.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

6 AlmgrenPitts min-max theory 156.1 Description and basic concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156.2 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156.3 Original references . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156.4 Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

7 Almost everywhere 177.1 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187.2 Denition using ultralters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

8 Almost surely 208.1 Formal denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208.2 Almost sure versus sure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

8.2.1 Throwing a dart . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208.2.2 Tossing a coin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

8.3 Asymptotically almost surely . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218.5 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

9 Alpha shape 239.1 Characterization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239.2 Alpha complex . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239.3 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249.6 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

10 Ambit eld 2610.1 Intuition and motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2610.2 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

10.2.1 Ambit sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2710.2.2 Ambit process . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

CONTENTS iii

10.2.3 Stochastic intermittency/volatility . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2710.3 Integration with respect to a Lvy basis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

10.3.1 Denition of Lvy basis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2710.4 A stationary example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2810.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2810.6 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28

11 Anscombe transform 2911.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3011.2 Inversion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3011.3 Alternatives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3011.4 Generalization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3111.5 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3111.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3111.7 Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

12 Approximate tangent space 3212.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

12.1.1 Denition for sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3212.1.2 Multiplicities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3212.1.3 Denition for measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33

12.2 Relation to rectiable sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3312.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33

13 Atom (measure theory) 3413.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3413.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3413.3 Non-atomic measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3413.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3513.5 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3513.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

14 AubinLions lemma 3614.1 Statement of the lemma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3614.2 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3614.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

15 B-convex space 3815.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

16 ba space 3916.1 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

16.1.1 Dual of B() . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3916.1.2 Dual of L() . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

iv CONTENTS

16.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40

17 Baire measure 4117.1 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4117.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41

18 Baire set 4218.1 Basic denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

18.1.1 First denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4218.1.2 Second denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4218.1.3 Third denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

18.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4318.2.1 The dierent denitions of Baire sets are not equivalent . . . . . . . . . . . . . . . . . . . 4318.2.2 A Borel set that is not a Baire set . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

18.3 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4318.4 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4318.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

19 Banach measure 4519.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4519.2 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

20 BanachTarski paradox 4620.1 Banach and Tarski publication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4620.2 Formal treatment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4720.3 Connection with earlier work and the role of the axiom of choice . . . . . . . . . . . . . . . . . . 4820.4 A sketch of the proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49

20.4.1 Step 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4920.4.2 Step 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4920.4.3 Step 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5120.4.4 Step 4 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5120.4.5 Some details, eshed out . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51

20.5 Obtaining innitely many balls from one . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5220.6 The von Neumann paradox in the Euclidean plane . . . . . . . . . . . . . . . . . . . . . . . . . . 52

20.6.1 Recent progress . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5320.7 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5320.8 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5420.9 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5420.10External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55

21 Bateman transform 5621.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56

22 Bayesian interpretation of regularization 57

CONTENTS v

22.1 The Supervised Learning Problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5722.2 A Regularization Perspective . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

22.2.1 Reproducing Kernel Hilbert Space . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5722.2.2 The Regularized Functional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5822.2.3 Derivation of the Estimator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

22.3 A Bayesian Perspective . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5922.3.1 A Review of Bayesian Probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5922.3.2 The Gaussian Process . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5922.3.3 Derivation of the Estimator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

22.4 The Connection Between Regularization and Bayes . . . . . . . . . . . . . . . . . . . . . . . . . . 6022.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60

23 Bayesian programming 6223.1 Formalism . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62

23.1.1 Description . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6223.1.2 Question . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6323.1.3 Inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64

23.2 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6423.2.1 Bayesian spam detection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6423.2.2 Bayesian lter, Kalman lter and hidden Markov model . . . . . . . . . . . . . . . . . . . 67

23.3 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6923.3.1 Academic applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69

23.4 Bayesian programming versus possibility theories . . . . . . . . . . . . . . . . . . . . . . . . . . 7023.5 Bayesian programming versus probabilistic programming . . . . . . . . . . . . . . . . . . . . . . 7023.6 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7023.7 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7123.8 Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7223.9 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73

24 Bean machine 7424.1 Distribution of the balls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7524.2 Games . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7524.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7624.4 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76

25 Belief propagation 7725.1 Description of the sum-product algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77

25.1.1 Exact algorithm for trees . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7825.1.2 Approximate algorithm for general graphs . . . . . . . . . . . . . . . . . . . . . . . . . . 79

25.2 Related algorithm and complexity issues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7925.3 Relation to free energy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7925.4 Generalized belief propagation (GBP) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80

vi CONTENTS

25.5 Gaussian belief propagation (GaBP) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8025.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8125.7 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82

26 Bernoulli trial 8326.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8326.2 Example: tossing coins . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

26.2.1 Solution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8526.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8526.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8626.5 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86

27 Bernstein inequalities (probability theory) 8727.1 Some of the inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8727.2 Proofs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8827.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8827.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89

28 Bernsteins theorem on monotone functions 9028.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9028.2 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91

29 Bessel potential 9229.1 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9229.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92

30 Bicoherence 9330.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9330.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94

31 Big O in probability notation 9631.1 Denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96

31.1.1 Small O: convergence in probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9631.1.2 Big O: stochastic boundedness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9631.1.3 Comparison of the two denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96

31.2 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9731.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97

32 Bispectrum 9832.1 Denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9832.2 Calculation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9832.3 Generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9832.4 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9832.5 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98

CONTENTS vii

32.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99

33 Bochner integral 10033.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10033.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10033.3 RadonNikodym property . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10133.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10233.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

34 Bochner measurable function 10334.1 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10334.2 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10334.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104

35 Bochners theorem 10535.1 The theorem for locally compact abelian groups . . . . . . . . . . . . . . . . . . . . . . . . . . . 10535.2 Special cases . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10635.3 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10635.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10735.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

36 Borel isomorphism 10836.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10836.2 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108

37 Borel measure 10937.1 Formal denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10937.2 On the real line . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10937.3 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109

37.3.1 LebesgueStieltjes integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10937.3.2 Laplace transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11037.3.3 Hausdor dimension and Frostmans lemma . . . . . . . . . . . . . . . . . . . . . . . . . 11037.3.4 CramrWold theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110

37.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11137.5 Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11137.6 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

38 Borel regular measure 11238.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112

39 BorellBrascampLieb inequality 11339.1 Statement of the inequality in Rn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11339.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113

viii CONTENTS

40 BorelCantelli lemma 11540.1 Statement of lemma for probability spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

40.1.1 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11540.2 Proof [4] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116

40.2.1 Alternative proof [5] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11740.3 General measure spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11840.4 Converse result . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118

40.4.1 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11840.5 Proof[5] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11940.6 Counterpart . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11940.7 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12040.8 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12040.9 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

41 Bounded variation 12141.1 History . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12141.2 Formal denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122

41.2.1 BV functions of one variable . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12241.2.2 BV functions of several variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12241.2.3 Locally BV functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12341.2.4 Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

41.3 Basic properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12441.3.1 BV functions have only jump-type discontinuities . . . . . . . . . . . . . . . . . . . . . . 12441.3.2 V(, ) is lower semi-continuous on BV() . . . . . . . . . . . . . . . . . . . . . . . . . . 12541.3.3 BV() is a Banach space . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12541.3.4 BV() is not separable . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12541.3.5 Chain rule for BV functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12641.3.6 BV() is a Banach algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126

41.4 Generalizations and extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12741.4.1 Weighted BV functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12741.4.2 SBV functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12741.4.3 bv sequences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12841.4.4 Measures of bounded variation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128

41.5 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12841.6 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

41.6.1 Mathematics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13141.6.2 Physics and engineering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132

41.7 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13241.8 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13241.9 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133

41.9.1 Research works . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13341.9.2 Historical references . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134

CONTENTS ix

41.10External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13541.10.1 Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13541.10.2 Other . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135

42 BradleyTerry model 13642.1 History and applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13642.2 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136

42.2.1 Estimating the parameters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13742.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13742.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137

43 BrunnMinkowski theorem 13943.1 Statement of the theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13943.2 Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13943.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13943.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

44 Buons needle 14144.1 Solution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141

44.1.1 Case 1: Short needle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14244.1.2 Case 2: Long needle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142

44.2 Using elementary calculus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14344.3 Estimating . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14444.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14544.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14544.6 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146

45 Buons noodle 14745.1 Buons needle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14745.2 Bending the needle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14745.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14845.4 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148

46 Burkill integral 14946.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149

47 Caccioppoli set 15047.1 History . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15047.2 Formal denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151

47.2.1 Caccioppoli denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15147.2.2 De Giorgi denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151

47.3 Basic properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15247.4 Notions of boundary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152

47.4.1 The topological boundary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152

x CONTENTS

47.4.2 The reduced boundary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15347.4.3 De Giorgis theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153

47.5 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15447.5.1 A GaussGreen formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154

47.6 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15447.7 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15447.8 Historical references . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15547.9 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15647.10External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156

48 CameronMartin theorem 15748.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15748.2 Statement of the theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15848.3 Integration by parts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15848.4 An application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15848.5 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15948.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159

49 Cantellis inequality 16049.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160

50 Cantor function 16150.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16250.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16350.3 Alternative denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163

50.3.1 Iterative construction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16350.3.2 Fractal volume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164

50.4 Generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16450.5 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16550.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16550.7 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166

51 Cantor set 16751.1 Construction and formula of the ternary set . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16751.2 Composition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16851.3 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168

51.3.1 Cardinality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16851.3.2 Self-similarity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16951.3.3 Topological and analytical properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16951.3.4 Measure and probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170

51.4 Variants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17051.4.1 SmithVolterraCantor set . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17151.4.2 Cantor dust . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171

CONTENTS xi

51.5 Historical remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17151.6 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17151.7 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17151.8 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17251.9 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

52 Carathodorys criterion 17352.1 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173

53 Carathodorys extension theorem 17453.1 Semi-ring and ring . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174

53.1.1 Denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17453.1.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17553.1.3 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17553.1.4 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175

53.2 Statement of the theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17553.3 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175

53.3.1 Non-uniqueness of extension . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17653.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17653.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176

54 Carathodorys theorem (convex hull) 17754.1 Proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17854.2 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17954.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17954.4 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179

55 Carlemans condition 18055.1 Hamburger moment problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18055.2 Stieltjes moment problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18055.3 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18055.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180

56 Carleson measure 18156.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18156.2 Carlesons theorem on the Poisson operator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18156.3 Other related concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18256.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18256.5 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182

57 Catalog of articles in probability theory 18357.1 Core probability: selected topics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183

57.1.1 Basic notions (bsc) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18357.1.2 Instructive examples (paradoxes) (iex) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183

xii CONTENTS

57.1.3 Moments (mnt) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18457.1.4 Inequalities (inq) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18557.1.5 Markov chains, processes, elds, networks (Mar) . . . . . . . . . . . . . . . . . . . . . . . 18657.1.6 Gaussian random variables, vectors, functions (Gau) . . . . . . . . . . . . . . . . . . . . . 18757.1.7 Conditioning (cnd) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18857.1.8 Specic distributions (spd) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18857.1.9 Empirical measure (emm) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19057.1.10 Limit theorems (lmt) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19057.1.11 Large deviations (lrd) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19157.1.12 Random graphs (rgr) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19157.1.13 Random matrices (rmt) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19157.1.14 Stochastic calculus (scl) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19257.1.15 Malliavin calculus (Mal) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19357.1.16 Random dynamical systems (rds) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19357.1.17 Analytic aspects (including measure theoretic) (anl) . . . . . . . . . . . . . . . . . . . . . 193

57.2 Core probability: other articles, by number and type of random variables . . . . . . . . . . . . . . 19457.2.1 A single random variable (1:) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19457.2.2 Two random variables (2:) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19657.2.3 Three random variables (3:) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19757.2.4 Finitely many random variables (F:) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19757.2.5 A large number of random variables (nite but tending to innity) (L:) . . . . . . . . . . . 19957.2.6 An innite sequence of random variables (S:) . . . . . . . . . . . . . . . . . . . . . . . . 19957.2.7 Uncountably many random variables (continuous-time processes etc) (U:) . . . . . . . . . . 201

57.3 Around the core . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20257.3.1 General aspects (grl) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20257.3.2 Foundations of probability theory (fnd) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20357.3.3 Gambling (gmb) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20457.3.4 Coincidence (cnc) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20457.3.5 Algorithmics (alg) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20557.3.6 Bayesian approach (Bay) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20557.3.7 Financial mathematics (fnc) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20657.3.8 Physics (phs) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20657.3.9 Genetics (gnt) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20757.3.10 Stochastic process (spr) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20757.3.11 Geometric probability (geo) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20857.3.12 Empirical ndings (emp) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20857.3.13 Historical (hst) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20857.3.14 Miscellany (msc) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209

57.4 Counters of articles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209

58 CauchySchwarz inequality 21058.1 Statement of the inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

CONTENTS xiii

58.2 Proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21158.3 Alternative Proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21158.4 Special cases . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212

58.4.1 Rn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21258.4.2 L2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213

58.5 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21358.5.1 Probability theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213

58.6 Generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21458.6.1 Positive functionals on C*- and W*-algebras . . . . . . . . . . . . . . . . . . . . . . . . . 21458.6.2 Positive maps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215

58.7 Physics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21558.8 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21658.9 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21658.10References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21658.11External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216

59 Chain (algebraic topology) 21759.1 Integration on chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21759.2 Boundary operator on chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21759.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218

60 Chain rule (probability) 21960.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219

61 Chans algorithm 22061.1 Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22061.2 Implementation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22161.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221

62 Characteristic function (probability theory) 22262.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22362.2 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22362.3 Generalizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22362.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22462.5 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224

62.5.1 Continuity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22562.5.2 Inversion formulas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22562.5.3 Criteria for characteristic functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226

62.6 Uses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22762.6.1 Basic manipulations of distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22762.6.2 Moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22862.6.3 Data analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22962.6.4 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229

xiv CONTENTS

62.7 Entire characteristic functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23062.8 Related concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23062.9 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23062.10References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23062.11Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23162.12External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231

63 Chebyshevs inequality 23263.1 History . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23263.2 Statement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232

63.2.1 Probabilistic statement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23263.2.2 Measure-theoretic statement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233

63.3 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23363.4 Sharpness of bounds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23363.5 Proof (of the two-sided version) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234

63.5.1 Probabilistic proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23463.5.2 Measure-theoretic proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234

63.6 Extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23463.6.1 Asymmetric two-sided case . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23463.6.2 Bivariate case . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23563.6.3 Two correlated variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23563.6.4 Multivariate case . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23663.6.5 Vector version . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23663.6.6 Innite Dimensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23763.6.7 Higher moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23863.6.8 Exponential version . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23863.6.9 Inequalities for bounded variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238

63.7 Finite samples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23963.7.1 Dependence of sample size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24063.7.2 Comparative bounds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240

63.8 Sharpened bounds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24163.8.1 Standardised variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24163.8.2 Semivariances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24163.8.3 Selbergs inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24263.8.4 Cantellis inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24363.8.5 Bhattacharyyas inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24463.8.6 Mitzenmacher and Upfals inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244

63.9 Related inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24463.9.1 Zelens inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24563.9.2 He, Zhang and Zhangs inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24563.9.3 Hoedings lemma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24563.9.4 Van Zuijlens bound . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245

CONTENTS xv

63.10Unimodal distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24563.10.1 Unimodal symmetrical distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24663.10.2 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247

63.11Bounds for specic distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24863.12Zero means . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248

63.12.1 Unit variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24863.13Integral Chebyshev inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249

63.13.1 Other inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24963.14Haldanes transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24963.15Cherno bounds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24963.16Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25063.17See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25063.18References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25063.19Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25363.20External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253

64 Choquet theory 25464.1 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25564.2 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25564.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255

65 ChvtalSanko constants 25665.1 Background . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25665.2 Denition and existence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25665.3 Bounds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25765.4 Distribution of LCS lengths . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25765.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257

66 Clarksons inequalities 25966.1 Statement of the inequalities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25966.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25966.3 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260

67 ClarkOcone theorem 26167.1 Statement of the theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26167.2 Integration by parts on Wiener space . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26267.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26267.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26267.5 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262

68 Coarea formula 26368.1 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26368.2 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264

xvi CONTENTS

68.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264

69 Coherence (philosophical gambling strategy) 26569.1 Operational subjective probabilities as wagering odds . . . . . . . . . . . . . . . . . . . . . . . . . 26569.2 Dutch books . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 265

69.2.1 A very trivial Dutch book . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26569.2.2 A somewhat less trivial and more instructive Dutch book . . . . . . . . . . . . . . . . . . . 265

69.3 Conditional wagers and conditional probabilities . . . . . . . . . . . . . . . . . . . . . . . . . . . 26669.4 Another Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26669.5 Coherence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26769.6 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26769.7 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26769.8 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267

70 Collectively exhaustive events 26870.1 History . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26870.2 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26970.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269

71 Complementary event 27071.1 Complement rule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270

71.1.1 Example of the utility of this concept . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27071.2 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27171.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27171.4 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271

72 Complete measure 27272.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27272.2 Construction of a complete measure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27272.3 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27372.4 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27372.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 273

73 Complex measure 27473.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27473.2 Integration in respect to a complex measure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27473.3 Variation of a complex measure and polar decomposition . . . . . . . . . . . . . . . . . . . . . . 27573.4 The space of complex measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27573.5 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27673.6 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276

74 Computable measure theory 27774.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277

CONTENTS xvii

75 Concentration dimension 27875.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27875.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27875.3 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 278

76 Concentration of measure 27976.1 The general setting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27976.2 Concentration on the sphere . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28076.3 Other examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28076.4 Footnotes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28076.5 Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280

77 Conditional dependence 28177.1 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28277.2 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282

78 Conditional event algebra 28378.1 Standard probability theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28378.2 Conditional probabilities and probabilities of conditionals . . . . . . . . . . . . . . . . . . . . . . 28378.3 The construction of conditional event algebras . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28478.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284

79 Conditional expectation 28579.1 Concept . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28579.2 History . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28579.3 Classical denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286

79.3.1 Conditional expectation with respect to an event . . . . . . . . . . . . . . . . . . . . . . . 28679.3.2 Conditional expectation with respect to a random variable . . . . . . . . . . . . . . . . . . 286

79.4 Formal denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28779.4.1 Conditional expectation with respect to a -algebra . . . . . . . . . . . . . . . . . . . . . 28779.4.2 Conditional expectation with respect to a random variable . . . . . . . . . . . . . . . . . . 28879.4.3 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288

79.5 Conditioning as factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28879.6 Computation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28979.7 Basic properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29079.8 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29179.9 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29279.10References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29279.11External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 292

80 Conditional independence 29380.1 Formal denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29380.2 Uses in Bayesian inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294

xviii CONTENTS

80.3 Rules of conditional independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29580.3.1 Symmetry . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29580.3.2 Decomposition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29580.3.3 Weak union . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29580.3.4 Contraction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29580.3.5 Contraction-weak-union-decomposition . . . . . . . . . . . . . . . . . . . . . . . . . . . 29580.3.6 Intersection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296

80.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29680.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296

81 Conditional probability 29781.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297

81.1.1 Conditioning on an event . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29781.1.2 Denition with -algebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29981.1.3 Conditioning on a random variable . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300

81.2 Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30081.3 Use in inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30181.4 Statistical independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30181.5 Common fallacies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 302

81.5.1 Assuming conditional probability is of similar size to its inverse . . . . . . . . . . . . . . . 30281.5.2 Assuming marginal and conditional probabilities are of similar size . . . . . . . . . . . . . 30281.5.3 Over- or under-weighting priors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303

81.6 Formal derivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30381.7 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30381.8 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30481.9 External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304

82 Conditional probability distribution 30582.1 Discrete distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30582.2 Continuous distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30582.3 Relation to independence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30682.4 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30682.5 Measure-Theoretic Formulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30682.6 Relation to conditional expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30682.7 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30782.8 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30782.9 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 307

83 Conditional probability table 30883.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 308

84 Conditioning (probability) 30984.1 Conditioning on the discrete level . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309

CONTENTS xix

84.1.1 Conditional probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30984.1.2 Conditional expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31084.1.3 Conditional distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311

84.2 Conditioning on the level of densities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31184.2.1 Conditional probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31284.2.2 Conditional expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31284.2.3 Conditional distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 313

84.3 What conditioning is not . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31484.3.1 Geometric intuition: caution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31484.3.2 The limiting procedure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314

84.4 Conditioning on the level of measure theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31584.4.1 Geometric intuition: caution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31584.4.2 Conditional probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31584.4.3 Conditional expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31684.4.4 Conditional distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317

84.5 Technical details . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31884.6 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31984.7 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31984.8 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319

85 Conductance (graph) 32085.1 Generalizations and applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32085.2 Markov chains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32185.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32185.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321

86 Constant Q transform 32286.1 Calculation of the Transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32286.2 Fast calculation using FFT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32386.3 Comparison with the Fourier Transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32386.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 324

87 Content (measure theory) 32587.1 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32587.2 Integration of bounded functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32587.3 Duals of spaces of bounded functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32687.4 Construction of a measure from a content . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326

87.4.1 Denition on open sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32687.4.2 Denition on all sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32687.4.3 Construction of a measure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

87.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

88 Contiguity 328

xx CONTENTS

88.1 Biology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32888.2 Computer science . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32888.3 Geography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32888.4 Interaction design . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.5 Management . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.6 Mathematics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.7 Philosophy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.8 Physics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.9 Probability theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.10Psychology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32988.11References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33088.12See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330

89 Contiguity (probability theory) 33289.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33289.2 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33289.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33389.4 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33389.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33389.6 Additional literature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33389.7 External references . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 333

90 Continuity correction 33490.1 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 334

90.1.1 Binomial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33490.1.2 Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 334

90.2 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33490.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33590.4 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335

91 Continuity set 33691.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336

92 Continuous wavelet transform 33792.1 Scale factor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33892.2 Continuous wavelet transform properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33892.3 Applications of the wavelet transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33892.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33992.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339

93 Continuum percolation theory 34093.1 Early history . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34093.2 Denitions and terminology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340

CONTENTS xxi

93.2.1 Common models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34093.2.2 Components and criticality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342

93.3 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34293.3.1 Wireless networks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342

93.4 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34293.5 Textbooks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34293.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342

94 Conull set 34594.1 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 345

95 Convergence in measure 34695.1 Denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34695.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34695.3 Counterexamples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34795.4 Topology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34795.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348

96 Portmanteau theorem 34996.1 Informal descriptions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34996.2 Total variation convergence of measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35096.3 Strong convergence of measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35096.4 Weak convergence of measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 351

96.4.1 Weak convergence of random variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35296.5 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35296.6 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352

97 Convergence of random variables 35397.1 Background . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35397.2 Convergence in distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354

97.2.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35497.2.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 355

97.3 Convergence in probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35597.3.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35697.3.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 356

97.4 Almost sure convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35697.4.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35697.4.2 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357

97.5 Sure convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35797.6 Convergence in mean . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35897.7 Properties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35897.8 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36097.9 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 360

xxii CONTENTS

97.10References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361

98 Convex combination 36298.1 Other objects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36298.2 Related constructions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36298.3 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 363

99 Convex hull 36599.1 Denitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36699.2 Convex hull of a nite point set . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36699.3 Computation of convex hulls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36799.4 Minkowski addition and convex hulls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36899.5 Relations to other structures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36999.6 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37099.7 See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37099.8 Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37099.9 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37199.10External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 371

100Convex hull algorithms 372100.1Planar case . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372

100.1.1 Lower bound on computational complexity . . . . . . . . . . . . . . . . . . . . . . . . . . 372100.1.2 Optimal output-sensitive algorithms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373100.1.3 Algorithms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373100.1.4 AklToussaint heuristic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373100.1.5 On-line and dynamic convex hull problems . . . . . . . . . . . . . . . . . . . . . . . . . . 374100.1.6 Simple polygon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374

100.2Higher dimensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374100.3See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375100.4References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375100.5Further reading . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375100.6External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375

101Convex position 376101.1References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376

102Convexity in economics 377102.1Preliminaries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377

102.1.1 Real vector spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377102.1.2 Convex sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 378102.1.3 Convex hull . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379

102.2Duality: Intersecting half-spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379102.2.1 Supporting hyperplane theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380

CONTENTS xxiii

102.2.2 Economics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380102.3Nonconvexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 381

102.3.1 Nonsmooth analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 382102.4Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383102.5References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385

103Coopmans approximation 387

104Counting measure 388104.1Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 388104.2Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 388104.3References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 389

105Coupling (probability) 390105.1Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390105.2Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390

105.2.1 Random walk . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390105.2.2 Biased coins . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391

105.3See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391105.4Notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391105.5References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391

106Covariance operator 392

107CramrWold theorem 393107.1Proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393107.2References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393107.3External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393

108Craps principle 394108.1Proof . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394108.2Application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394

108.2.1 Stopping . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395108.3Etymology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395108.4References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395

109Crofton formula 396109.1Statement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 396109.2Proof sketch . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 396109.3Other forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 396109.4Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397109.5See also . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397109.6References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397109.7External links . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397

xxiv CONTENTS

110Cue validity 398110.1Denition of cue validity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398110.2Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398110.3Use of the cue validity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 399110.4References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 399

111Curvature of a measure 400111.1Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 400111.2Examples . . . . . . . .