Some details about Question 1 and 2

For both questions, use the library ”HRW” that contains the ”WarsawApts” dataset.  The symbol n represents length of the variables for the given dataset (WarsawApts), and a bold 1 represents vector of ones. The mean squared error (MSE) is a normalized version of residual sum of squares (RSS) and is given as MSE=RSS/n.

Notations

Throughout this assignment, small letter represents a value, small letter attached with a subscript represents an entry of a vector, small bold letter represents a vector, and capital bold letter represents a matrix.

Question 1:  Splines

The aim of this question is to learn how to code linear spline basis in order to approximate a non-linear dataset via penalized spline regression (PSR). For PSR, a Cholesky decomposition (CD) and singular value decomposition (SVD) approach can be used, but for this task the regression based approach will be adopted, and any solution based on CD and SVD will not be accepted. All the questions here are connected and must be attempted sequentially.

1.  Store construction.date variable from WarsawApts in x and areaPerMzloty in y.         Generate 20 different location of knots and store them in vector k  (ki   corresponds to i-th value of k, i = 1, ..., 20) using quantile (ref:  Tutorial 5 Question 2) function. To accomplish this task, you need a numeric vector of probabilities of length 22 that can be generated using seq(0,1,length=22), however extreme values of 0 and 1 should be excluded from this function in order to match the knots and the samples in x (x- intercepts).

2. Using these knot locations now generate a Z matrix containing 20 linear spline basis functions constructed using (x − ki )+ .  Also plot this matrix by limiting the range of y-axis between -1 and 2 as shown in Figure 1a.

3. Using the vector of ones, x, and Z, construct a C matrix of size n × 22 (ref:  lecture slide 18 of the spline regression). Also, generate a D matrix of size 22 × 22 consisting of ones on the diagonal entries and zeros elsewhere except the first two entries (ref:

Figure 1: Spline basis and fitted curve

lecture slide 30 of the spline regression).  Then,  100 values of tuning parameter (λ) selected from 0 to 50 as seq(0,50,length=100) are used to estimate the fitted curves using penalized spline regression.

4. Now, compute the RSS errors, degrees of freedom, and generalized cross validation (GCV) associated with 100 tuning parameters.

5. For λ corresponding to minimum GCV, overlay the true plot with a fit of y as shown in Figure 1b.  As you can see from the plot that with 20 linear spline basis the fitted curve looks a bit too linear and might not be a good fit.  Lets increase the number of basis to 60 and obtain Figure 1c (similar to 1a) and 1d (similar to 1b).  Were the results improved by increasing the number of basis?  Compute the MSE to justify the improvement/deterioration.

Question 2: Non-parametric Regression

The aim of this question is to learn how to code kernel regression using different kernels. Here, question 2.1 and 2.2 are connected and must be attempted sequentially, whereas question 2.3, 2.4, and 2.5 are connected and must be attempted sequentially

1. Using 6 values of k selected from 3 to 23, write an R code for k-nearest-neighbor (NN) averaging.  You can do this by firstly estimating the absolute difference between the current sample xi  and the vector x as d = |xi 1 − x|, and secondly using d to find those indices that correspond to its k smallest values. These indices are the indices of the k NNs to the current xi .  Use these indices to select the corresponding entries from the data vector y and take their mean as your i-th estimate yˆi .

2. For each case of k, generate a figure illustrating a fitted vector  on the true vector y (6 sub-figures in total, must be plotted in a single figure using 3×2 subplots), and compute the MSE. For which case did you find the minimum MSE? In terms of MSE, what can be said regarding the fitting comparison between k-NN and linear spline basis?

3. Using slide 13 of the kernel regression lecture, write a single function to accommodate all 6 kernels.  This function must be capable of returning 6 values, where each value corresponds to the output value of a single kernel.

Figure 2: Cameraman picture and its density plot

4. Keeping the bandwidth fixed at  h  =  2 and using formula fˆ(xi )  =     j(n) (where {j = 1, ..., n}) code 6 kernel regression based fits for y by using 6 kernels from the previous question ( To elaborate, for each sample xi  and xj , six different kernel values must be obtained in a single go to eventually generate six estimated values of the i-th fit (xi ), where (xi ) is a vector and has 6 entries).

5. For each of the six kernels, generate a figure illustrating a fitted vector (x) on the true vector y (6 sub-figures in total, must be plotted in a single figure using 3 × 2 subplots). Also, for each kernel estimate the MSE. For which kernel, the MSE is found to be minimum?

Question 3: Expectation-Maximization

For this question,  you are not allowed to use R’s built in function for the expectation- maximization  (EM) algorithm.   You have already learnt how to code EM algorithm for a gaussian mixture consisting of two probability density functions  (pdfs).   Here, you will extend that algorithm to three cases, where all three having different standard deviations.

1. In order to load relevant libraries and the provided image that is needed for the subse- quent questions, use the following code

l i b r a r y ( ” p l o t . m a t r i x ” )

l i b r a r y ( ” png ” )

l i b r a r y ( ” f i e l d s ” )

I  <❂ readPNG ( ”D: / C o d e f i l e s /CM . png ” )

I=I [ , , 1 ]

I=t ( a p p l y ( I ,   2 ,   r e v ) )

p a r ( mfrow=c ( 2 , 1 ) )

i m a g e ( I ,   c o l     =  g r a y ( ( 0 : 2 5 5 ) / 2 5 5 ) )

p l o t ( d e n s i t y ( I ) )

2. The above code will generate figure 2 and as you can see from the density plot of the cameraman picture (Figure 2b) that it is a mixture of three Gaussian distributions with different standard deviations for each. Therefore, extend the EM algorithm so that it can estimate parameters for these three pdfs.  You may consider reshaping the image data matrix I to one dimensional vector before applying your algorithm.