問1
[1]
上の遷移図において、
$$\begin{pmatrix}a_1\\a_2\\a_3\\a_4\end{pmatrix}=\begin{pmatrix}1\\2\\3\\4\end{pmatrix}$$
の時なので、
$$p_{ij}=\begin{pmatrix}\frac{1}{4}&\frac{1}{4}&\frac{1}{4}&\frac{1}{4}\\ \frac{1}{8}&\frac{3}{8}&\frac{1}{4}&\frac{1}{4}\\ \frac{1}{12}&\frac{2}{12}&\frac{6}{12}&\frac{1}{4}\\ \frac{1}{16}&\frac{2}{16}&\frac{3}{16}&\frac{10}{16}\end{pmatrix}$$