Hello, dear friend, you can consult us at any time if you have any questions, add WeChat: daixieit

MTH5540 Applied Class 7 Problem Set

1.  Classify the Markov chains defined by the transition diagrams in the gure. State if each of the resulting chain is (i) irreducible and (ii) aperiodic. Justify your answer.

 

2.  Consider a random walk on the non-negative integers with transition probabilities puu  = P(X\ = v|X = u) =

for u, v e N n (0}.

(a)  Sketch the state space and transitions.

(b) Is this Markov chain irreducible? Why or why not?

(c) Is this Markov chain aperiodic? Why or why not?

(d) Is this Markov chain recurrent? Why or why not?

(e) Is this Markov chain positive recurrent? Why or why not?

(f)  Does this Markov chain have a stationary distribution? Why or why not?

(g)  Does this Markov chain have a limiting distribution? Why or why not?