Please submit solutions to questions (S1) and (S2) to e-BART by 20 Mar 2023 noon.  For the tutorials, questions 1(i), 3 (1(i) prepares for this) and 11 are similar to the summative questions.  So, discuss these if you need guidance for the summative part.  Of the others, especially 7, 8, 12, 4, 5 are good for exam preparation. I recommend attempting one question from each section initially, then revisiting the remaining questions.

Applications of left (generalised) eigenvectors

1. (Coefficients for Jordan Normal Form basis) Consider the matrix A e R4x4,

A =  —(—)   —(—)   —(—)   —(—)

It has an eigenvalue λ  =  1 of algebraic multiplicity 1.   Find an eigenvector b1  for λ .   Let B = (b1, b2, b3, b4 ) be a Jordan normal form basis for A, where the first element equals your previously computed eigenvector b1 for λ = 1 (no need to compute b2, b3, b4 ).

(i) The vector v = (— 1, 1, 0, 0)T  can be written uniquely as a linear combination v = α1b1 + α2b2 + α3b3 + α4b4 . Find the coefficient α1 .

(ii) Consider the matrix C(p) = A + Bp, were p e R is a number and

B =           

The matrix C(0) has the simple eigenvalue λ = 1, as stated in part (i). As established in the lecture, for small p, C(p) will have a unique simple eigenvalue λ(p) with λ(0) = 1. Find λ \ (0) (the derivative of λ with respect to p at p = 0).

2. (A general statement about left and right generalised eigenvectors) Let A e Cn xn be a matrix with eigenvalue λ e C. Let w be an eigenvector or generalised eigenvector of AT  that is not a lead vector of their Jordan chain, and let v be an eigenvector of A. Prove that wTv = 0.

3. (More difficult version of Question 1) Consider the matrix A e R4x4,

A =  —    —   —(—)   —

It has an eigenvalue λ  = 1 of algebraic multiplicity 2 and geometric multiplicity 1.  Find an eigenvector b1 and a generalised eigenvector b2 for λ, such that b1, b2 form a Jordan chain for λ = 1 (so λb1  = Ab1 and λb2 + b1  = Ab2, see below for instructions). Let B = (b1, b2, b3, b4 ) be a Jordan normal form basis for A, where the first two elements equal your previously computed Jordan chain b1, b2 for λ = 1. The vector v = (— 1, 1, 0, 0)T can be written as a linear combination v = α1b1 + α2b2 + α3b3 + α4b4 . Find the coefficients α1 and α2 .

(Hints) The general procedure for finding Jordan chains simplifies to the following steps if we know that λ has algebraic multiplicity 2 and geometric multiplicity 1:

(1) compute REFs for A — λI and (A — λI)2, and call them R1  and R2 .  The matrix R1  has one non-pivot column (call its number k), the matrix R2 has one additi;nal pivot column (call its number l).

(2) One possible candidate for generalised eigenvector b2  is the solution x of R2x  = 0 with xk = 0 and xQ = 1 (or any non-zero number).

(3) The corresponding eigenvector b1 is then b1 = (A — λI)b2 .

Note that the choice how we pick b2 in step 2 is somewhat arbitrary. This suggestion works best for easy computability on paper. For finding the coefficients α1, α2, you may plan to repeat the above procedure for AT, but for the left generalised eigenvector the choice suggested in step 2 is not particularly good.

Powers and functions of matrices

4. Consider the matrix

A = ╱     \ .

(i) Show that the row-sums (i.e., the sum of the elements in each row) of An  are 1 for all n e N.

(ii) Compute A10,

(iii) Show that An 二 ╱     \ as n 二 &.

(iv) Inspired by this example, show that, if a matrix A e Cn xn has one eigenvalue λ1  = 1 of algebraic multiplicity 1 with right eigenvector v1 and left eigenvector w1(T) (scaled such that w1(T)v1 = 1), and all other eigenvalues of A have modulus smaller than 1, then limk→& Ak = v1w1(T) . (This question is easier when one assumes that A is diaogonalisable, so this should be attempted first.)

5. For the matrices

A1 = ┐ ,                                   A2 = ┐

find Cj = exp(Aj) and Dj = cos(Aj). Note that

exp(x) =  &   ,                 cos x =  &  (— 1)j  =  (exp(ix) + exp(—ix)). 

Inner products and maps

6. Label the following statements as being true or false

(i) If V is a real inner product space with dim V < & every linear map T : V 二 R has the form T(x) = )x, y| for some y e V.

(ii) For V = C([0, 1];R) = 4f : [0, 1] 二 R continuous汐 with with inner product equal to

)f, g| := l0(1) f(x)g(x)dx.

every linear map T : V 二 R has the form T(f) = )f, g| for some g e V.

Non-standard inner products

7. Consider the maps Pj : R2 × R2 二1 R, defined by Pk(x, y) = xTAky for the following matrices: A1 = ┌3(1)   4(2)┐ ,                      A2 = ┌2(3)   3(2)┐ ,                      A3 = ┌3(2)   2(3)┐ .

Which of the maps Pk are inner products for R2 ? For each k for which Pk is not an inner product, state one property of inner products that is violated. For each k for which Pk is an inner product, show that Pk has all properties of an inner product.

8. Consider the maps Q1,|, Q2,b  : R2  × R2  1二 R, defined by Q1,|(x, y) = xT (B1,|)y, Q2,b(x, y) = xT (B2,b)y for the following matrices, which now depend on parameter a, b:

B1,| = ┌1(0)   a(1)┐ ,                                    B2,b = ┌2(b)   1(2)┐

For which a e R is Q1,|  an inner product, and for which b e R is Q2,b  an inner product?  If Q1,| or Q2,b is not an inner product for certain a or b, state one property of inner products that is violated. For those a for which Q1,| is an inner product, show that Q1,| has all properties of an inner product (same for Q2,b and b).

If a range of a or b for which Q is an inner product is an interval with a boundary, check if Q is still an inner product at exactly the boundary.  If yes, show this, if not, then show which property of inner products is violated at the boundary.

9. Show that the following expressions constitute inner products:

(i)  )f, g| :=l0(1) f(t) g(t) dt for continuous functions f, g : [0, 1] 二 C.

(ii)  )A, B| := tr(ABT ) for complex n × n matrices A, B. Here tr is the trace of a matrix (the sum of its diagonal elements).

10.  (Question may require some exploration.)  Let l . l be a norm on a real vector space V satisfying the parallelogram identity

2lx l2 + 2ly l2 = lx + y l2 + lx − y l2

for all x, y e V. (See below for definition of norm without inner product.) Show that

)x, y| =  ╱lx + yl2 − lx − y l2、

defines an inner product such that lxl2 = )x, x|.

We have defined the norm using an inner product in the lecture. However, a norm is a more general concept for vector spaces. For a vector space V over R, a norm is a map l . l : V 二 [0, &) with the properties

(i)  (definiteness) lxl > 0 for all x  0 in V,

(ii)  (homogeneity) lcxl = |c|lxl for all x e V and c e R, and

(iii)  (triangle inequality) lx + yl k lxl + lyl for all x, y e V.

For example, a commonly used norm for V = Rn  is lxl&  := max4|xi| : i = 1, . . . , n汐 for x = (x1, . . . , xn)T .  The max-norm does not satisfy the parallelogram inequality and cannot come from an inner product.  The above statement claims the reverse of the simple fact from the lecture (and is more difficult to prove): if a norm satisfies the parallelogram equality, it must be defined as lxl = /)x, x| for some inner product, namely the concrete construction given above.

Gram-Schmidt Orthonormalisation

11. Apply the Gram-Schmidt procedure to the following basis B to find an orthonormal basis C = (c1, c2, c3 ):

B = (b1, b2, b3 ) =  ì(、)    in R3

with the usual inner product )x, y| = xTy.  The vector v = (1, 1, 1)T  can be written as a linear combination of the vectors (c1, c2, c3 ), v = c1 α1 + c2 α2 + c3 α3 . Find the coefficients (α1, α2, α3 ).

12.  Apply the Gram-Schmidt procedure to the following basis to find an orthonormal basis: [1, 2x, 3x2] in R2[x], the polynomials of degree 2 or less with real coefficients, with the inner product

)p, q| = l0(1) p(x)q(x)dx .

13. Using the inner product

)p, q| = l0(1) p(x)q(x)dx

for polynomials on [0, 1], and the formula for the angle α between two vectors x and y,

cos α =  )x, y| 

show that the angle αn between the polynomial p(x) = nxn and q(x) = (n + 1)xn41 goes to 0 as n 二 &.

One can use the estimate cos α  >  1 − 2α2  and (cos α)2   >  1 − α2  for small α .  The above statement shows that the basis (1, x, 2x2, . . . , nxn ) is a poor basis for the space of polynomials with degree k n and large degrees n. All basis vectors point in similar directions. If you plot nxn and (n + 1)xn41 for large n on the interval [0, 1] you will notice that they look very similar. 

Summative questions

The following questions depend on individual values for each student.

Individual  values Question  S1:

c1  =         c2  =

0               -1

0               -1

2               -1

1                 0

Question  S2:        A  =                         [-1,    0,  -1,    1] [-1,    1,    0,    1] [  2,    0,    2,  -1] [-2,  -3,  -4,  -1]

for  studentID=710080986,  Candidate  Number=281241

lambda  =

1

0

-1

1