1    Introduction

In this lab  (lab  2) you’ll implement Raft,  a replicated state machine protocol.   A  replicated  service (e.g., key/value database) achieves fault tolerance by storing copies of its data on multiple replica servers. Replication allows the service to continue operating even if some of its servers experience failures (crashes or a broken or flaky network). The challenge is that failures may cause the replicas to hold differing copies of the data.

Raft manages a service’s state replicas, and in particular it helps the service sort out what the correct state is after failures.  Raft implements state machine replication.  It organizes client requests into a sequence, called the log, and ensures that all the replicas agree on the contents of the log.  Each replica executes the client requests in the log in the order they appear in the log, applying those requests to the replica’s local copy of the service’s state.  Since all the live replicas see the same log contents, they all execute the same requests in the same order, and thus continue to have identical service state.   If a server fails but later recovers, Raft takes care of bringing its log up to date.  Raft will continue to operate as long as at least a majority of the servers are alive and can talk to each other. If there is no such majority, Raft will make no progress, but will pick up where it left off as soon as a majority can communicate again.

In this lab you’ll implement Raft as a Go object type with associated methods, meant to be used as a module in a larger service. A set of Raft instances talk to each other with RPC to maintain replicated logs. Your Raft interface will support an indefinite sequence of numbered commands, also called log entries. The entries are numbered with index numbers.  The log entry with a given index will eventually be committed. At that point, your Raft should send the log entry to the larger service for it to execute.

NOTE: Only RPC may be used for interaction between different Raft instances. For example, different instances of your Raft implementation are not allowed to share Go variables.  Your implementation should not use files at all.

In this lab you’ll implement most of the Raft design described in the extended paper, including saving persistent state and reading it after anode fails and then restarts.  You will not implement cluster membership changes (Section 6) or log compaction / snapshotting (Section  7).

You should consult the extended Raft paper and the Raft lecture notes/video.  You may also find the Runway model for Raft or the original Raft Visualization useful to get a sense of the high-level workings of Raft. In addition, the Students’ Guide to Raft provides some implementation and debugging tips.  The links are provided here:

.  Raft paper: https://raft.github.io/raft.pdf

.  Raft video: https://youtu.be/YbZ3zDzDnrw

.  Runway model: https://runway.systems/?model=github.com/ongardie/runway-model-raft .  Raft visualization: https://raft.github.io/

.  Students’ guide: https://thesquareplanet.com/blog/students-guide-to-raft/

.  Hint:  Start early. Although the amount of code to implement isn’t large, getting it to work correctly will be very challenging.  Both the algorithm and the code is tricky and there are many corner cases to consider. When one of the tests fails, it may take a bit of puzzling to understand in what scenario your solution isn’t correct, and how to fix your solution.

.  Hint: Read and understand the extended Raft paper and the Raft lecture notes/video before you start. Your implementation should follow the paper’s description closely, particularly Figure 2, since that’s what the tests expect.

This lab is due in three parts. You must submit each part on the corresponding due date. This lab does not involve a lot of code, but concurrency makes it very challenging to debug.

START EACH PART EARLY!

2    Environment Set-Up

You’ll implement this lab in Go.  The Go web site (https://golang.org/) contains lots of tutorial infor- mation which you may want to look at.

Go environment is provided on the Zeus cluster: https://labs.vse.gmu.edu/index.php/Systems/Zeus We supply you with skeleton code and tests. The software skeleton is in blackboard (lab2.tar).

The skeleton code and tests are in raft, and a simple RPC-like system is in labrpc. Here is a quick start:

$  scp  lab2.tar  <gmu  user  id>@zeus.cec.gmu.edu:∼      #copy  lab2.tar  to  Zeus

$  ssh  <gmu user  id>@zeus.cec.gmu.edu        #log-in

$  cd  cs475/

$  mkdir  lab2/

$  cd  lab2/

$  mv  ∼ /lab2.tar  .           #copy  the  lab  tar  file

$  tar  -xv f  lab2.tar         #unzip  the  file

Now lab2/src should contain three sub-directories, labgob/, labrpc/, and raft/. You will be working on raft/ for this lab assignment.

#in  cs475/lab2

$  ls

lab2.tar         src

$  ls  src

go.mod         labgob/         labrpc/         raft/

To get up and running, execute the following commands:

#in  cs475/lab2

$  export  GOPATH="$PWD"

$  cd  src/raft

$  go  test

Test   (2A):  initial  election  . . .

---  FAIL:  TestInitialElection2A   (4.84s)

config.go:326:    expected  one  leader,  got  none

Test   (2A):  election  after  network  failure  . . .

---  FAIL:  TestReElection2A   (4.90s)

config.go:326:    expected  one  leader,  got  none

Test   (2B):  basic  agreement   . . .

---  FAIL:  TestBasicAgree2B   (10.03s)

config.go:471:    one(100)  failed  to  reach  agreement

...

When you’ve finished all three parts of the lab, your implementation should pass all the tests in the src/raft directory:

$  go  test

Test   (2A):  initial  election  . . .

. . .    Passed  --  3.0  3  46  13164  0

Test   (2A):  election  after  network  failure  . . .

. . .    Passed  --  4.9  3  120  24309  0

Test   (2B):  basic  agreement   . . .

. . .    Passed  --  1.1  3  16  4598  3

Test   (2B):  agreement  despite  follower  disconnection  . . .

. . .    Passed  --  6.4  3  110  29737  8

Test   (2B):  no  agreement  if  too  many  followers  disconnect  . . .

. . .    Passed  --  3.9  5  184  38454  3

Test   (2B):  concurrent  Start()s  . . .

. . .    Passed  --  0.8  3  10  2862  6

Test   (2B):  rejoin  of  partitioned  leader  . . .

. . .    Passed  --  4.5  3  128  30888  4

Test   (2B):  leader  backs  up  quickly  over  incorrect  follower  logs  . . .

. . .    Passed  --  31.2  5  2204  1779548  102

Test   (2B):  RPC  counts  arent  too  high   . . .

. . .    Passed  --  2.3  3  36  10862  12

Test   (2C):  basic  persistence   . . .

. . .    Passed  --  4.4  3  76  20311  6

Test   (2C):  more  persistence   . . .

. . .    Passed  --  17.6  5  856  187976  16

Test  (2C):  partitioned  leader  and  one  follower  crash,  leader  restarts  . . .

. . .    Passed  --  2.1  3  34  8839  4

Test   (2C):  Figure  8   . . .

. . .    Passed  --  36.3  5  936  199945  22

Test   (2C):  unreliable  agreement   . . .

. . .    Passed  --  6.4  5  212  79855  246

Test   (2C):  Figure  8   (unreliable)  . . .

. . .    Passed  --  33.4  5  2764  6182207  491

Test   (2C):  churn   . . .

. . .    Passed  --  16.3  5  644  317082  211

Test   (2C):  unreliable  churn   . . .

. . .    Passed  --  16.3  5  540  236498  121

PASS

ok  raft  193.964s

3    The code

Implement Raft by adding code to raft/raft.go.  In that file you’ll find a bit of skeleton code, plus examples of how to send and receive RPCs. You can add more functions or structs in raft.go if needed.

Your implementation must support the following interface, which the tester and (eventually) your key/value server will use. You’ll find more details in comments in raft.go.

//  create  a  new  Raft  server  instance:

rf  :=  Make(peers,  me,  persister,  applyCh)

//  start  agreement  on  a  new  log  entry:

rf.Start(command  interface)  (index,  term,  isleader)

//  ask  a  Raft  for  its  current  term,  and  whether  it  thinks  it  is  leader rf.GetState()   (term,  isLeader)

//  each  time  a  new  entry  is  committed  to  the  log,  each  Raft  peer //  should  send  an  ApplyMsg  to  the  service   (or  tester) .

type  ApplyMsg

A service calls Make(peers,me,...)   to  create a Raft peer.   The  peers argument is an array of established RPC connections, one to each Raft peer (including this one).  The me argument is the index of this peer in the peers array.  Start(command) asks Raft to start the processing to append the command to the replicated log.  Start() should return immediately, without waiting for this process to complete. The service expects your implementation to send an ApplyMsg for each new committed log entry to the applyCh argument to Make().

Your Raft peers should exchange RPCs using the  labrpc Go package that we provide to you.  It is modeled after Go’s rpc library, but internally uses Go channels rather than sockets.   raft.go contains some example code that sends an RPC (sendRequestVote()) and that handles an incoming RPC (Re- questVote()).  The reason you must use labrpc instead of Go’s RPC package is that the tester tells labrpc to delay RPCs, re-order them, and delete them to simulate challenging network conditions under which your code should work correctly.  Don’t rely on modifications to  labrpc because we will test your code with the labrpc as handed out.

Your first implementation may not be clean enough that you can easily reason about its correctness.  Give yourself enough time to rewrite your implementation so that you can easily reason about its correctness. Subsequent labs will build on this lab, so it is important to do a good job on your implementation.

4    Part 2A

4.1    Task

Implement leader election and heartbeats (AppendEntries RPCs with no log entries).  The goal for Part 2A is for a single leader to be elected, for the leader to remain the leader if there are no failures, and for a new leader to take over if the old leader fails or if packets to/from the old leader are lost.  Run go  test -run  2A to test your 2A code.

.  Hint: Add any state you need to the Raft struct in raft.go. You’ll also need to define a struct to hold information about each log entry.  Your code should follow Figure 2 in the paper as closely as possible.

.  Hint:  Fill in the RequestVoteArgs and RequestVoteReply structs.  Modify Make() to create a background goroutine that will kick off leader election periodically by sending out RequestVote RPCs when it hasn’t heard from another peer for a while.  This way a peer will learn who is the leader, if there is already a leader, or become the leader itself. Implement the RequestVote() RPC handler so that servers will vote for one another.

.  Hint: To implement heartbeats, define an AppendEntries RPC struct (though you may not need all the arguments yet), and have the leader send them out periodically. Write an AppendEntries RPC handler method that resets the election timeout so that other servers don’t step forward as leaders when one has already been elected.

.  Hint: Make sure the election timeouts in different peers don’t always fire at the same time, or else all peers will vote only for themselves and no one will become the leader.

.  Hint: The tester requires that the leader send heartbeat RPCs no more than ten times per second.

.  Hint:  The tester requires your Raft to elect a new leader within five seconds of the failure of the old leader (if a majority of peers can still communicate).  Remember, however, that leader election may require multiple rounds in case of a split vote (which can happen if packets are lost or if candidates unluckily choose the same random backoff times). You must pick election timeouts (and thus heartbeat intervals) that are short enough that it’s very likely that an election will complete in less than five seconds even if it requires multiple rounds.

.  Hint: The paper’s Section 5.2 mentions election timeouts in the range of 150 to 300 milliseconds.  Such a range only makes sense if the leader sends heartbeats considerably more often than once per 150 milliseconds. Because the tester limits you to 10 heartbeats per second, you will have to use an election timeout larger than the paper’s 150 to 300 milliseconds, but not too large, because then you may fail to elect a leader within five seconds.

.  Hint: You may find Go’s rand useful. https://pkg.go.dev/math/rand

.  Hint: You’ll need to write code that takes actions periodically or after delays in time.  The easiest way to do this is to create a goroutine with a loop that calls time.Sleep(). The hard way is to use Go’s time.Timer or time.Ticker, which are difficult to use correctly.

.  Hint: If you are puzzled about locking, you may find this advice helpful:

https://mymasonportal.gmu.edu/bbcswebdav/courses/77919.202270/raft locking.txt

.  Hint:  If your  code has trouble passing the tests, read the paper’s Figure 2 again; the full logic for leader election is spread over multiple parts of the figure.

.  Hint:  A good way to debug your code is to insert print statements when a peer sends or receives a message, and collect the output in a file with go  test  -run  2A  >  out.   Then, by studying the trace of messages in the out file, you can identify where your implementation deviates from the desired protocol.   You might find DPrintf in util.go useful to turn printing on and off as you debug different problems.

.  Hint:  Go RPC sends only struct fields whose names start with capital letters.  Sub-structures must also have capitalized field names (e.g.  fields of log records in an array).  The  labgob package will warn you about this; don’t ignore the warnings.

.  Hint: You should check your code with go  test  -race, and fix any races it reports.

Be sure you pass the 2A tests before submitting Part 2A, so that you see something like this:

$  go  test  -run  2A

Test   (2A):  initial  election  . . .

. . .    Passed  --  2.5  3  30  0

Test   (2A):  election  after  network  failure  . . .

. . .    Passed  --  4.5  3  78  0

PASS

ok  raft  7.016s

Each “Passed” line contains four numbers; these are the time that the test took in seconds, the number of Raft peers (usually 3 or 5), the number of RPCs sent during the test, and the number of log entries that Raft reports were committed. Your numbers will differ from those shown here.  You can ignore the numbers if you like, but they may help you sanity-check the number of RPCs that your implementation sends.  For all of labs 2, 3, and 4, the grading script will fail your solution if it takes more than 600 seconds for all of the tests (go  test), or if any individual test takes more than 120 seconds.

Your code will be tested on Zeus.  No marks will be awarded if your code does not pass the test.  You will receive full marks only if your code successfully passes the test.

Please post questions on Piazza. Do not e-mail course staff about programming problems. Project help questions sent via email are of extremely low priority, as they were sent to the wrong place and will most likely be responded to with “please post on Piazza” .

4.2    Point Distribution for 2A

The whole Lab 2 (A+B+C) is 20% of your total final grade. A detailed breakdown of Part 2A:

No marks will be awarded if your code does not pass the test.  You will receive full marks only if your code successfully passes the test.

4.3    Submission for 2A

You must turn in your lab assignment on Blackboard.  Create a zip file of only the following Go source file:  raft.go. Please name your zip file as lab2a-YourGmuUserID.zip.

One point will be taken out from this assignment if you do not follow the submission format.

Test your code on Zeus before submitting it.  Note that we have provided ample resources for you to verify that our view of your assignment is the same as your own.

You can resubmit your assignment an unlimited number of times before the deadline.   Note the late submission policy:  assignments will be accepted up until 3 days past the deadline at a penalty of 10% per late day; after 3 days, no late assignments will be accepted, no exceptions.

5    Part 2B

We want Raft to keep a consistent, replicated log of operations.  A call to Start() at the leader starts the process of adding a new operation to the log; the leader sends the new operation to the other servers in AppendEntries  RPCs.

5.1    Task

Implement the leader and follower code to append new log entries.   This  will  involve  implementing Start(), completing the AppendEntries RPC structs, sending them, fleshing out the AppendEntry RPC handler, and advancing the commitIndex at the leader. Your first goal should be to pass the Test- BasicAgree2B() test (in test  test.go).  Once you have that working, you should get all the 2B tests to pass (go  test  -run  2B).

.  Hint: You will need to implement the election restriction (section 5.4.1 in the paper).

.  Hint:  One way to fail the early Lab 2B tests is to hold un-needed elections, that is, an election even though the current leader is alive and can talk to all peers. This can prevent agreement in situations where the tester believes agreement is possible.  Bugs in election timer management, or not sending out heartbeats immediately after winning an election, can cause un-needed elections.

.  Hint:  You may need to write code that waits for certain events to occur.   Do not write loops that execute continuously without pausing, since that will slow your implementation enough that it fails tests.  You can wait efficiently with Go’s channels, or Go’s condition variables, or (if all else fails) by inserting a time.Sleep(10 * time.Millisecond) in each loop iteration.

.  Hint:  Give yourself time to rewrite your implementation in light of lessons learned about structuring concurrent code.  In later labs you’ll thank yourself for having Raft code that’s as clear and clean as possible. For ideas, you can re-visit the Raft structure, locking and guide, pages.

The tests for upcoming labs may fail your code if it runs too slowly. You can check how much real time and CPU time your solution uses with the time command. Here’s some typical output for Lab 2B:

$  time  go  test  -run  2B

Test   (2B):  basic  agreement   . . .

. . .    Passed  --  1.2  3  16  4598  3

Test   (2B):  agreement  despite  follower  disconnection  . . .

. . .    Passed  --  6.5  3  112  30220  7

Test   (2B):  no  agreement  if  too  many  followers  disconnect  . . .

. . .    Passed  --  3.8  5  180  37559  3

Test   (2B):  concurrent  Start()s  . . .

. . .    Passed  --  0.7  3  8  2274  6

Test   (2B):  rejoin  of  partitioned  leader  . . .

. . .    Passed  --  4.6  3  128  31025  4

Test   (2B):  leader  backs  up  quickly  over  incorrect  follower  logs  . . .

. . .    Passed  --  31.0  5  2200  1771420  103

Test   (2B):  RPC  counts  arent  too  high   . . .

. . .    Passed  --  2.3  3  36  10862  12

PASS

ok  raft  53.088s

real  0m53.303s

user  0m1.600s

sys  0m0.881s

The “ok  raft  53.088s” means that Go measured the time taken for the 2B tests to be 53.088 seconds of real (wall-clock) time.  The  “user 0m1.600s” means that the code consumed 1.600 seconds of CPU time, or time spent actually executing instructions (rather than waiting or sleeping).  If your solution uses much more than a minute of real time for the 2B tests, or much more than 5 seconds of CPU time, you may run into trouble later on.  Look for time spent sleeping or waiting for RPC timeouts, loops that run without sleeping or waiting for conditions or channel messages, or large numbers of RPCs sent.

Be sure you pass the 2A and 2B tests before submitting Part 2B.

5.2    Point Distribution for 2B

The whole Lab 2 (A+B+C) is 20% of your total final grade. A detailed breakdown of Part 2B:

No marks will be awarded if your code does not pass the test.  You will receive full marks only if your code successfully passes the test.

5.3    Submission for 2B

You must turn in your lab assignment on Blackboard.  Create a zip file of only the following Go source file:  raft.go. Please name your zip file as lab2b-YourGmuUserID.zip.

One point will be taken out from this assignment if you do not follow the submission format.

Test your code on Zeus before submitting it.  Note that we have provided ample resources for you to verify that our view of your assignment is the same as your own.

You can resubmit your assignment an unlimited number of times before the deadline.   Note the late submission policy:  assignments will be accepted up until 3 days past the deadline at a penalty of 10% per late day; after 3 days, no late assignments will be accepted, no exceptions.

6    Part 2C

If a Raft-based server reboots it should resume service where it left off.  This requires that Raft keep persistent state that survives a reboot.  The paper’s Figure 2 mentions which state should be persistent, and raft.go contains examples of how to save and restore persistent state.

A  “real” implementation would do this by writing Raft’s persistent state to disk each time it changes, and reading the latest saved state from disk when restarting after a reboot. Your implementation won’t use the disk; instead, it will save and restore persistent state from a Persister object (see persister.go). Whoever calls Raft.Make() supplies a Persister that initially holds Raft’s most recently persisted state (if any). Raft should initialize its state from that Persister, and should use it to save its persistent state each time the state changes. Use the Persister’s ReadRaftState() and SaveRaftState() methods.

6.1    Task

1) Complete the functions persist() and readPersist() in raft.go by adding code to save and restore persistent state.  You will need to encode (or  “serialize”) the state as an array of bytes in order to pass it to the Persister. Use the labgob encoder we provide to do this; see the comments in persist() and readPersist().  labgob is derived from Go’s gob encoder; the only difference is that labgob prints error messages if you try to encode structures with lower-case field names.

2) You now need to determine at what points in the Raft protocol your servers are required to persist their state, and insert calls to persist() in those places.  There is already a call to readPersist() in Raft.Make().  Once you’ve done this, you should pass the remaining tests.  You may want to first try to pass the  “basic persistence” test (go  test  -run   ’TestPersist12C’), and then tackle the remaining ones (go  test  -run  2C).

*NOTE:  In order to avoid running out of memory, Raft must periodically discard old log entries, but you do not have to worry about this until the next lab.

.  Hint: Many of the 2C tests involve servers failing and the network losing RPC requests or replies.

.  Hint: In order to pass some of the challenging tests towards the end, such as those marked “unreliable”, you will need to implement the optimization to allow a follower to back up the leader’s nextIndex by more than one entry at a time.  See the description in the extended Raft paper starting at the bottom of page 7 and top of page 8 (marked by a gray line).  The paper is vague about the details; you will need to fill in the gaps, perhaps with the help of the 6.824 Raft lectures

.  Hint: A reasonable amount of time to consume for the full set of Lab 2 tests (2A+2B+2C) is 4 minutes of real time and one minute of CPU time.

Your code should pass all the 2C tests (as shown below), as well as the 2A and 2B tests.

$  go  test  -run  2C

Test   (2C):  basic  persistence   . . .

. . .    Passed  --  4.6  3  74  19893  6

Test   (2C):  more  persistence   . . .

. . .    Passed  --  17.5  5  840  185852  16

Test  (2C):  partitioned  leader  and  one  follower  crash,  leader  restarts  . . .

. . .    Passed  --  2.2  3  32  8299  4

Test   (2C):  Figure  8   . . .

. . .    Passed  --  27.0  5  700  141239  22

Test   (2C):  unreliable  agreement   . . .

. . .    Passed  --  6.5  5  220  81875  246

Test   (2C):  Figure  8   (unreliable)  . . .

. . .    Passed  --  34.2  5  2308  7989683  312

Test   (2C):  churn   . . .

. . .    Passed  --  16.3  5  552  368926  351

Test   (2C):  unreliable  churn   . . .

. . .    Passed  --  16.4  5  644  263237  262

PASS

ok  raft  124.537s