괘편당이라는 아호는 선생께서 제주목사를 마치고 돌아오실 때 행장 속에 평소 사용하시던 말채찍이 들어 있는 것을 보시고, 이것도 관급품이라고 하시며 관아 동각의 벽에 걸어두고 돌아오셨다. 이에 감탄한 제주 백성들이 선생의 청렴을 기리기 위하여 매월 초하룻날 이곳에서 참배하였다고 한다. 그 후 채찍의 색이 바래자 다시 색깔을 칠하고 고운 비단으로 싸서 걸어두고 참배하였다. 그래서 그 집의 당호를 '말채찍을 걸어둔 집'이라 하여 쾌편당이라 이름 하였다.