Kalman and Bayesian Filters in Python.pdf


Preview of PDF document kalman-and-bayesian-filters-in-python.pdf

Page 1 2 3 456402

Text preview


4

CONTENTS

2 Discrete Bayes Filter
2.1 Tracking a Dog . . . . . . . . . . . . . . . . . . . . . .
2.2 Extracting Information from Multiple Sensor Readings
2.3 Noisy Sensors . . . . . . . . . . . . . . . . . . . . . . .
2.4 Incorporating Movement Data . . . . . . . . . . . . . .
2.5 Adding Noise to the Prediction . . . . . . . . . . . . .
2.6 Generalizing with Convolution . . . . . . . . . . . . .
2.7 Integrating Measurements and Movement Updates . .
2.8 The Effect of Bad Sensor Data . . . . . . . . . . . . .
2.9 Drawbacks and Limitations . . . . . . . . . . . . . . .
2.10 Tracking and Control . . . . . . . . . . . . . . . . . . .
2.10.1 Simulating the Train Behavior . . . . . . . . .
2.11 Bayes Theorem . . . . . . . . . . . . . . . . . . . . . .
2.12 Total Probability Theorem . . . . . . . . . . . . . . .
2.13 Summary . . . . . . . . . . . . . . . . . . . . . . . . .
2.14 References . . . . . . . . . . . . . . . . . . . . . . . . .

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

49
49
50
51
53
54
56
57
60
61
62
63
66
67
68
69

3 Least Squares Filters
71
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
4 Gaussian Probabilities
4.1 Introduction . . . . . . . . . . . . . . . . . . . . .
4.2 Mean, Variance, and Standard Deviations . . . .
4.2.1 Random Variables . . . . . . . . . . . . .
4.2.2 The Mean of a Random Variable . . . . .
4.2.3 Standard Deviation of a Random Variable
4.2.4 Variance of a Random Variable . . . . . .
4.2.5 Why the Square of the Differences . . . .
4.3 Gaussians . . . . . . . . . . . . . . . . . . . . . .
4.4 Nomenclature . . . . . . . . . . . . . . . . . . . .
4.5 Gaussian Distributions . . . . . . . . . . . . . . .
4.6 The Variance . . . . . . . . . . . . . . . . . . . .
4.7 Interactive Gaussians . . . . . . . . . . . . . . . .
4.8 Computational Properties of the Gaussian . . . .
4.9 Computing Probabilities with scipy.stats . . . . .
4.10 Fat Tails . . . . . . . . . . . . . . . . . . . . . . .
4.11 Summary and Key Points . . . . . . . . . . . . .
4.12 References . . . . . . . . . . . . . . . . . . . . . .

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.

73
73
73
73
73
74
77
77
78
79
80
81
83
84
84
85
88
88

5 One Dimensional Kalman Filters
5.1 One Dimensional Kalman Filters . . . .
5.2 Tracking A Dog . . . . . . . . . . . . . .
5.3 Math with Gaussians . . . . . . . . . . .
5.4 Implementing the Update Step . . . . .
5.5 Implementing Predictions . . . . . . . .
5.5.1 Animating the Tracking . . . . .
5.6 Implementation in a Class . . . . . . . .
5.7 Relationship to the g-h Filter . . . . . .
5.7.1 Exercise: Modify Variance Values
5.8 Introduction to Designing a Filter . . .
5.8.1 Animation . . . . . . . . . . . . .
5.9 Exercise(optional): . . . . . . . . . . . .
5.9.1 Solution . . . . . . . . . . . . . .
5.9.2 Discussion . . . . . . . . . . . . .

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

89
89
89
94
99
101
105
106
107
108
108
111
111
112
112

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.
.