指使用同種備用樣品進行重復測定所得到的結果之間的重現性。測量度（也常簡稱精度）高，是指偶然誤差與系統誤差都比較小，這時測量數 據比較集中在真值附近。雖然度高可說明準確度高，但的結果也可能是不準確的。誤差是準確度的表示，是實測值與真實值偏離程度，而偏差是精密度的表示，是平行測量間的相異程度。 準確度表示測量結果的正確性，精密度表示測量結果的重復性和重現性，精密度是準確度的前提條件。 普通意義的分辨率（resolution）就是屏幕圖像的精密度，是指顯示器所能顯示的像素的多少。對于光柵尺而言是指可以測量的小單位.對于傳感器的分辨率與精度的理解，可以拿千分尺為例，分辨率代表千分尺可以讀到小數點后幾位，但精度還與尺子的加工精度，測量方法有關系。 同樣的，在光柵尺的使用中，分辨率與精度是*不同的兩個概念。
       光柵尺的分辨率，是指光柵尺可讀取并輸出的長度變化，對應的參數有：每毫米光柵刻線數、脈沖數、細分等。比如50線光柵和100線光柵在同等條件下分辨率就不一樣，同等的50線光柵如果細分方法不一樣分辨率也會不一樣。
        光柵尺的精度，是指光柵尺輸出的信號數據對測量的真實長度度的準確度，對應的參數是微米（μm）、納米（nm）.目前國內光柵尺分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm。那么這些分辨率是怎么得來的呢？ 以每毫米50線光柵為例，經過4細分，就能得到很簡單的5μm的分辨率，而不用采用電子細分，這也是目前國內海德漢機床尺的多數工藝，至于高分辨率的光柵尺，就必須采用電子細分技術，增加插補細分器才能得到。高分辨率光柵尺一般應用于儀器儀表如視頻儀、工具顯微鏡、CNC加工中心等。
影響光柵尺測量精度有如下幾個方面：
A：光學部分  B：機械部分  C：電氣部分  D：使用中的安裝與傳輸接收部分，使用后的精度下降，機械部分自身的偏差。
A、光學部分對精度的影響：
光柵尺玻璃—主要的是母尺精度、每毫米刻線數、刻線精度、刻線寬度一致性等。
光發射源—光的平行與一致性、光衰減。
光接收單元—讀取誤差、讀取響應。
光學系統使用后的影響—污染，衰減。
B、機械部分對精度的影響：
安裝精度。軸承的精度與結構精度。光學組建安裝的精度。 例如，就軸承的結構而言，單軸承支撐結構的軸承偏差無法消除，而且經使用后偏差會更大，而雙軸承結構或多支承結構，可有效降低單個軸承的偏差。
C、電氣部分對精度的影響：
電源的穩定精度—對光發射源與接收單元的影響。讀取響應與電氣處理電路帶來的誤差；電氣噪音影響，取決于光柵尺電氣系統的抗干擾能力；例如，如果電子細分，也會帶來的誤差，按照德國海德漢提供的介紹，海德漢光柵尺的細分電氣誤差與正余弦曲線誤差會有一個很小的差異。
D、光柵尺使用中帶來的精度影響：

輸出電纜的抗干擾與信號延遲（較長距離或較快頻率下）；
       接收設備的響應與接收設備內部處理可能的誤差。
       光柵尺高速位移時的動態響應偏差。
       常見的就是我們自己使用安裝的方法與安裝結果帶來的偏差。
       綜上所述，光柵尺的分辨率和精度其實是兩個*不同的概念，但是二者有關聯，高分辨率可以得到高的測量精度，但不是高分辨率一定能得到高的測量精度。在同等條件下，理論上高分辨率光柵尺一定可以得到高的測量精度。