Hello, dear friend, you can consult us at any time if you have any questions, add WeChat: daixieit

January 2018 Examination

ST302

Stochastic processes

1. Let (sn )n>0  with s0  = ① 持 0 be a simple random walk adapted to a given iltration (大n )n>0, i.e. P(sn+1  = sn  + 1|大n ) = p = 1 - P(sn+1  = sn - 1|大n ). Assume p  and denote 1 - p by q.

a) Let xn   =  sn  - sn-1   for n  >  1.   Find the  moment generating function of xn. That is, compute for θ E R

φ(θ) = E[exp(θxn )]. [3 marks]

b)  show that (Mn(θ))n>0  is a martingale for all θ E R, where

Mn(θ)  =  . [6 marks]

c) Let T = min{n  > 0  : sn   = 0}.   using the optional stopping Theorem (no justiication is necessary) show that for any S  0

E[ST ] =  .

(Hint: For a given S 持 0 ind θ*  < 0 for which φ(θ* ) =  and make use of the martingale Mθ *   from part b).)       [8 marks]

2.     a)  Identify ALL (not only irreducible) closed sets, and transient and recurrent states in the following Markov chain in discrete time.  Is the chain irreducible?                                                   [6 marks]

1     2      3      4     5

1   0.4   0.3   0.3    0     0

2    0    0.5    0    0.5    0

3   0.5    0    0.5    0     0

4    0    0.4    0    0.6    0

5    0    0.3    0    0.3   0.4

b)  A basketball player makes a shot with the following probabilities of hit:

1/3 if he has missed the last two times

1/2 if he has scored one of his last two shots

3/4 if he has scored both of his last two shots

Let xn  be H if the n-th shot is a score and M otherwise.


i) Explain why x is not a Markov chain.                     [2 marks]

ii)  propose a Markov chain model for his shooting and compute  its stationary distribution.                                    [3+5 marks] 

iii)  If he is allowed to play an unlimited amount of time, what is the limiting fraction of time he scores a shot?          [3 marks]

3.     a)  customers arrive at a bank according to a poisson process with rate λ per minute.  Given that two customers arrived in the irst 4 minutes, what is the probability that (i) both arrived in the frst minute; (ii) one arrived in the irst minute and the other arrived in the last minute.                                                    [5+5 marks]

b)  Let N be a poisson process with intensity λ .  Let (ti )iΣ1  be the associated interarrival times.  Deine T0   = 0 and Tn  = t1  + t2  + . . . + tnfor n  >  1.   Let 大0   =  {Q)Ω} and 大n   be the σ-algebra generated by t1t2. . . tn.  Show that M , where Mn  = Tn  -  , is a martingale with respect to (大n )nΣ0 .

(Hint: what is the distribution of ti)                             [5  marks]

4.  Let B be a standard Brownian motion.

a)  prove that the following processes can be written as stochastic integrals with respect to B:

i)

exp t) sin(aBt ) - 1; [4 marks]

ii)

(Bt + cos(at)) exp (al0 t sin(as)dBs - t sin2 (as)ds) . [6 marks]

b) Let f be a deterministic function such that 10(t) f2 (s)ds < 钝 for

all t  0.  It is well-known that the random variable 10T f (s)dBs is normally distributed given 大t  for any t E [0)T), where (大t )tΣ0  is the iltration generated by B. compute the mean and the variance of 10T f (s)dBs  conditional on 大t  fort < T.  (Hint:  Recall that the future increments of B are independent of their past.  )  [6 marks]

c) Let x be the solution to the SDE

dxt  = b(xt )dt + σ(xt )dBt)



with xo  = ① , where σ(g)  0 for all g e R.  Deine p by

p() = lo  exp (2 log du) dg,       A① e R.

(Take it for granted that p is well deined for all ①.)   use Ito,s formula to show that (p(xt ))t>o  is a (local) martingale.  [6 marks]

5.  suppose that x is a birth-and-death chain in continuous time, where the birth and death rates are given by q(n, n + 1) = λn + a and q(n, n 一 1) = μn for some λ 持 0, μ 持 0 and a > 0.

a) Let pt (i, j) := P(xt  = j|xo  = i) for i > 0, j > 0.  show that for each i > 0

p(i, 0)   =   apt (i, 0) + μpt (i, 1)

p(i, j)   =   (λ(j 一 1) + a)pt (i, j  1) 一 ((λ + μ)j + a)pt (i, j)

+μ(j + 1)pt (i, j + 1), j > 1. [4 marks]

b) Deine mt (i) := E[xt |xo  = i] for i > 0. Thus,

mt (i) = jpt (i, j).

Diferentiating the above sum and using part a) show that, for each i > 0, mt (i) satisies

m(i) = jp(i, j) = a + (λ 一 μ)mt (i),       mo (i) = i.

(Hint:  After substituting p(i, j) from part a) rewrite m as the total of three sums and apply a change of variable to each sum.

Also use the fact that every row of pt  sums up to 1.)    [9 marks] c) Let mt (i) be as in part b). verify that

mt (i) =  (e(-μ)t   1)+ ie(-μ)t

if λ  μ . what is mt (i) if λ = μ?      [4 marks]

d) what is the average population size in the long run?  That  is,  compute limt一凯 mt (i).  Interpret your results.  what happens to the average population size in the long run if a = 0?     [4 marks]


e) Assume a = λ and compute the stationary probabilities, (π(n)n>0), of this Markov chain for μ 持 λ using detailed balance conditions π(k)q(k, j) = π(j)q(j, k).   consequently show that the limiting distribution is geometric with success probability  . using the limiting distributon compute the long-run mean of this Markov chain and compare with your answer from part d).  (Recall that X is said to have a geometric distribution with success probability p if P (X = n) = p(1 - p)n.  The mean value of such a random variable is .)                                                            [6 marks]