于成龙的官阶虽越升越高，但生活却更加艰苦了。为扼止统治阶级的奢侈腐化，他带头实践“为民上者，务须躬先俭仆”。

去直隶，他“屑糠杂米为粥，与同仆共吃”，在江南是“日食粗粝一盂，粥糜一匙，侑以青菜，终年不知肉味。”江南民因而亲切地称他作“于青菜”。

总督衙门的官吏在严格的约束下，“无从得蔬茗，则日采衙后槐叶啖之，树为之秃。”他天南地北，宦海20余年，只身天涯，不带家眷，只一个结发妻阔别20年后才得一见。他的清操苦节享誉当时。