二十九岁时,他出任州祭酒,不久便不堪吏职,辞官归家。不久,州里又召他做主簿,他辞却了此事,依旧在家闲居。隆安二年,陶渊明加入桓玄幕。隆安四年初奉使入都,五月从都还家,于规林被大风所阻,有诗《庚子岁五月从都还阻风规林》,表达了他对归家的渴望和对园林对旧居的怀念。一年后因母丧回浔阳居丧。三年丁忧期满,陶渊明怀着“四十无闻,斯不足畏”的观念再度出仕,出任镇军将军刘裕参军。此时他的心情是矛盾的,既想为官一展宏图,可在出仕后却仍然眷念田园,“目倦川途异,心念山泽居”《始作镇军参军经曲阿作》。义熙元年三月,陶渊明为建威将军刘敬宣参军,经钱溪使都,有《乙巳岁三月为建威参军使都经钱溪》诗云:“晨夕看山川,事事悉如昔”,“眷彼品物存,义风都未隔”,“园田日梦想,安得久离析”,动荡于仕与耕之间已有十余年,他已厌倦了也看透了官宦生活。