他自幼刻苦好学,家贫,靠替人抄写、代笔或作记室维持生活。南明弘光元年为阁臣高弘图记室,出谋划策,力图恢复,很受高弘图、张慎言等赏识。后拟荐为中书舍人及礼部司务,他感到“时事日非,不足与有为”,坚辞不就。后回家隐居。谈迁从明天启元年开始,历时20余年,前后“六易其稿,汇至百卷”,完成一部编年体明史,共500万字,取名《国榷》。清顺治四年,《国榷》手稿被窃。他时已53岁,发愤重写,经4年努力,终于完成新稿。顺治十年,携稿随人北上,实地考察历史遗迹,加以补充、修订。书成后,署名《江左遗民》,以寄托亡国之痛。十四年,去山西平阳祭奠先师张慎言,病逝于旅舍。