Hello, dear friend, you can consult us at any time if you have any questions, add WeChat: daixieit

COMP0045 Probability Theory and Stochastic Processes

Main summer / standard assessment sitting 2021–2022

Questions

1. Elementary probability (total 24 marks)

Assume a population of unknown size N whose members are labeled from 1 to N, e.g. runners in a marathon, trains in a subway network or enemy tanks. Suppose you observe the serial number X = 42.

a) What is the probability that the population size is N? To make things easier, assume that, due e.g. to information from the intelligence service, only two equally likely sizes are possible, N1   =  100 and N2   =  1000, and use Bayes’ extended theorem to nd P (Ni |X), i = 1, 2. (14 marks)

b) Discuss a possible (Bayesian or frequentist) approach to estimate N from X when no information on the a priori probabilities P (Ni ), i e N, is available. (8 marks)

c) Briefly explain why often small companies use large invoice numbers with e.g. 5 or 6 digits even if they actually issue only a few hundred invoices per year. (2 marks)

2. Stochastic processes with continuous states (total 38 marks)

A Markov process is continuous if its transition probability density function satisfies

lim   1                 f1o1(x2 , t + ∆t | x1 , t)dx2  = 0   A∈ > 0 uniformly in x1 , t and ∆t.

a) Is this an almost certain limit, a limit in the mean, a limit in probability or a limit in distribution? Which of the other limits does it imply? (5 marks)

b)  Show that for the Cauchy process, whose transition probability density function is

t2 _ t1                     

f1o1(x2 , t2 | x1 , t1 ) =

the above limit is different from zero and thus the process is not continuous.  A sim- ple way to do so is using l’Hˆopital’s theorem, which, together with the fundamental theorem of calculus, avoids computing the integral. (15 marks)

c)  Check the result of subquestion b computing the integral and then taking the limit. (18 marks) Hints:

dx = arctan x + c

1                         π

x                      2

arctan x 0 x.

3. Stochastic processes with continuous states (total 38 marks)

The one-time probability density of the Cauchy process is the Lorentz function

t      

f1 (x, t) =

and its characteristic function is the bilateral exponential or Laplace function

1 (ξ, t) = e_toξo .

f1 (x, t) = Fξ二(_1) [ 1 (ξ, t)] =    i北ξ 1 (ξ, t)dξ .            (10 marks)

b) Exploiting the convolution theorem and the characteristic function provided above, prove that the Cauchy process whose transition probability density has been given in question 2b fulfils the Chapman-Kolmogorov equation

f1o1 (x3 , t3 |x2 , t2 )f1o1 (x2 , t2 |x1 , t1 )dx2  = f1o1 (x3 , t3 |x1 , t1 ).            (18 marks)

c) The Fourier approach of subquestion b is possible because the transition density de-

pends only on the difference between the initial and nal positions x1  and x2 , i.e. f1o1(x2 , t2 |x1 , t1 ) = f1o1(x2 _ x1 , t2 _ t1 ).

This property applies to a class of stochastic processes that includes the Wiener pro- cess. Which class is it and how can it briefly be characterised? (5 marks)

d) Why, in spite of the property discussed in subquestion c, one does not usually move to Fourier space when proving that the Wiener process fulfils the Chapman-Kolmogorov equation? (5 marks)