SHBI-GB.7301 Stochastic Modeling & Simulation Summer 2022 Homework 3

1. Three white and three black balls are distributed in two urns in such a way that each contains three balls.  We say that the system is in state i = 0, 1, 2, 3, if the first urn contains i white balls. At each step, we draw one ball from each urn and place the ball drawn from the first urn into the second, and conversely with the ball from the second urn.  Let Xn  denote the state of the system after the nth step. Explain why {Xn, n = 0, 1, 2, ...} is a Markov chain and calculate its probability transition matrix.

2.  A store that stocks a certain commodity uses the following (s, S) ordering policy. If its supply at the beginning of a time period is x, then it orders

o(x) = ．0

if

if

x > s,

x < s.

The order quantity is immediately filled. The daily demands are independent and equal to j with probability αj  for j = 0, 1, 2, ....  All demands that cannot be immediately met are lost.  Let Xn denote the inventory level at the end of the nth time period. Argue that {Xn, n > 1} is a Markov chain and compute its transition probabilities.

3. Let X = {Xn, n > 0} be a time-homogeneous Markov chain with state space s = {1, 2, 3, 4} and transition matrix

╱ .2   .3   .5    0  、

『    0    .2    .3    .5    │

P    =     

『    .5    0    .2    .3    │

( .3   .5    0    .2 ．

Given that at time zero we start out in state 1, what is the expected value of X2? In other words, calculate E[X2IXó = 1].

4. Specify the communicating classes of the following Markov chains.