太阿剑为春秋时欧冶子、干将所铸，李斯的《谏逐客书》中描述秦始皇佩戴此剑。
据《史记·李斯列传》记载“今陛下致昆山之玉，有随和之宝，垂明月之珠，服太阿之剑。”，说明秦始皇曾配此剑。秦始皇死后将其陪葬。
始皇帝死后，太阿剑和很多宝贝都跟着埋入了始皇地宫，后来楚汉相争，楚霸王项羽挖出了始皇地宫，把里面很多的宝贝都带了出来。
项羽后来又重新封锁了始皇地宫，并且把始皇地宫的机关地图画在了羊皮卷上，请了当时著名的铸剑大师欧冶公将太阿剑一分为三，成逐日、奔月、追星三大名剑，地图也被分成三份，藏在了这三把剑之中！”
