游标卡尺的精度是由卡尺游标上的刻度与主尺上的刻度之间的刻度值的大小来确定的。比如0.02毫米精度的游标卡尺上，主尺上49毫米刚好等于副尺上50格，副尺每格长为0.98毫米。主尺与副尺的刻度间相关为1减0.98等于0.02毫米，因此它的测量精度为0.02毫米。0.05毫米精度的游标卡尺，主尺上的19毫米等于游标副尺上的20格，副尺每格长为0.95毫米，主尺与副尺的刻度间相关为1减0.95等于0.05毫米，因此它的测量精度为0.05毫米。