1    Coursework

This coursework is linked to the Simplex Method.   In theory the worst case complexity of the Simplex Method is O(n!).  That is, the computational cost grows factorially with the number of decision variables. However, in practical cases the complexity is often much less. Here we will study how much less.

You will

1.  code, in Python, alternative pivoting rules for the Simplex Method;

2.  run the different rules on multiple different linear programs with different numbers of decision variables, outputting the run-time data as an Excel spreadsheet;

3.  within Excel, compute the average and worst case run-time as a function of the instance size;

4.  within Excel, produce plots showing (quantitatively) the complexity;

5. within LaTeX, write a report analysing the pivoting rules, including your analysis using tables and plots.

1.1    Algorithms

The Simplex Method performs pivoting operations swapping an index between the basic set B and its complement N .  The pivoting rule chooses a (row, column) pair (r, s).  Given that pivot entry, row operations are performed so that the tableau entry ārs  → 1, and all other entries in that column, āis , i ≠ r → 0.

In the theory part of the course the pivoting rule shown was Bland’s rule, also called the smallest

subscript rule.  This first chooses s to be the smallest (column) index with negative reduced costs

test.

1.1.1    Largest coefficient rule

In the largest coefficient rule, we look at every column j with negative reduced costs c̄j  < 0.  We then choose s to be the column index with largest (in magnitude) negative coefficient.

1.2    Python

On Noteable you will find code implementing the (one phase) Simplex Method and Bland’s rule.  The function simplex takes as input the tableau (in basic form), the initial basis (as a list of integer indexes), and a function that implements the pivoting rule. It returns the solution as a dictionary containing its status (did it succeed), the optimal solution, and the final basis.  This function is defined in the simplex_generation.py file: you should not modify it.

The function find_pivot_bland implements Bland’s rule.   It takes as input the tableau,  and returns the  (r, s) pair giving the row and column indexes on which to pivot.  This function is defined in the simplex.ipynb notebook.  You should not modify this function, but you will need to edit code later in this notebook.

1.2.1   Task 1

At the top of the file there is an integer variable

student_id = 12345678

You must replace this number with your own eight digit ID. This is used to generate the problems

the Simplex Method will solve.

1.2.2   Task 2

Using         find_pivot_bland    as         a         template,           you         should         implement find_pivot_largest_coefficient.     This  should  be  done  within  the  simplex.ipynb note- book.    A  stub  is  given.    The  function  should  implement  the  largest  coefficient  rule  given above.

There are tests on within the notebook that perform very basic checks of the code:  they do not guarantee complete correctness.

1.2.3   Task 3

It is essential that you complete task 1 before doing this step.

In the Settings section of the notebook there is a boolean variable set, as

run_timings = False

Once you are happy with your code, change this to

run_timings = True

When you run the full notebook, particularly the last cell, it will produce a spreadsheet.  This should take no more than one minute (on Noteable:  times will vary on other machines).  At the end it will have produced an Excel spreadsheet timings.xlsx.

Note: if you cannot complete task 2, or want to continue on with the analysis before completing it, in the Settings section of the notebook there is a boolean variable

only_time_Bland = False

By setting this to

only_time_Bland = True

a spreadsheet creating the timing data just for Bland’s rule will be produced.

1.3    Excel

The timing data in the Excel spreadsheet was created by looping over a range of problem sizes (quantified by the number of decision variables n; the number of constraints was set to n+5).  For each problem size, 50 instances were created. For each instance the simplex method was run using both Bland’s rule and the largest coefficient rule.

The spreadsheet contains two sheets associated with the two pivoting rules.  On each sheet, each row contains the times to solve each individual instance. The first column gives the instance size; the next 50 columns gives the times.

1.3.1   Task 4

Download the spreadsheet from Noteable.  Duplicate it and rename it analysis.xlsx.  Load the duplicate analysis.xlsx into Excel. Create a new sheet in the workbook; call it Analysis. Using

appropriate Excel functions, add five columns to this sheet.  The first should contain the instance sizes n. The next four should contain the average time and worst-case time for each pivoting rule and instance size (Smallest subscript: Average, Largest coefficient: Average, Smallest subscript: Worst, Largest coefficient: Worst).  From these, create five more columns con- taining the logarithms (base 10) of n and each time respectively.

1.3.2   Task 5

Create two plots.  One should plot the (logarithm of the) average run time for each pivoting rule as a function of the (logarithm of the) instance size. The other should plot the (logarithm of the) worst case run time for each pivoting rule as a function of the (logarithm of the) instance size.

Both plots should be appropriately labelled and include trend lines for each pivoting rule. Save your figures in pdf or png format (pdf is preferred where possible).

1.3.3   Task 6

Using appropriate functions (e.g., INTERCEPT, SLOPE), compute the best fit coefficients for log(t) = p0 log(n) + p1 ,

where t is the timing data and n is the instance sizes.  There should be different coefficients for each pivoting rule and for the average and worst cases (so four pairs of coefficients in total).

1.4    LaTeX

On Overleaf there is a report template. The report template can be found here. From the Overleaf menu (top left) you can Copy Project to your account so you can edit your personal version. You need to complete the report to communicate your results.

1.4.1   Task 7

In  the  first  section  of  the  LaTeX  document,   include  your  Python  code  for  the  function find_pivot_largest_coefficient.

1.4.2   Task 8

In the second section of the LaTeX document, using big  notation, analyse your Python code.