一個編碼器的分辨率依賴于其編碼器的刻線數(增量編碼器)或者編碼器碼盤模式(值編碼器)。一般來說，分辨率是一個固定值，一旦編碼器被制造出來就沒辦法再增加刻線數或者編碼。但是增量編碼器可以通過信號細分來增加分辨率，

       例如，方波增量編碼器(HTL/TTL)輸出增量方波信號，通過每次記錄每個增量通道(信號A)的上升沿和下降沿，可以提高兩倍的編碼器分辨率。這樣當我們記錄兩個通道(信號A和B)的上升沿和下降沿時，我們可以提高四倍的編碼器分辨率(4倍頻)，如
 當編碼器的線數和測量單位確定以后，精度受到這些刻線或者測量單位的寬度和間距的影響，不一致的寬度或者間距會導致脈沖的誤差。同時，一些外部因素同樣會影響編碼器的精度。旋轉編碼器的精度主要取決以下幾方面：

       1)  徑向光柵的方向偏差

       2)  刻線碼盤相對軸承的偏心

       3)  軸承徑向偏差

       4)  與聯軸器的連接導致的誤差
        
       對于直線編碼器來說，由于溫度引起的刻線和安裝表面的擴張同樣會影響編碼器的精度，一致的寬度和測量間隙是影響增量編碼器精度的關鍵因素。 
        
       對于伺服電機編碼器來說，分辨率與精度的關系非常容易讓人混淆。精度主要取決于編碼器的制造工藝，而分辨率可以通過細分來提高，但不是說高的分辨率就代表編碼器可以達到高的精度。例如:通過使用sin/cos增量信號，西門子伺服電機編碼器可以將分辨率提高到高達24位(分辨率16777216)，轉換后編碼器可以描述的*小單位為0.07角秒,但是其物理精度僅僅可以達到±40角秒，分辨率能提供的精度遠大于編碼器的實際物理精度。
但是對于使用HTL或者TTL類型的西門子伺服電機編碼器來說，分辨率只能提高4倍。如 1024 SR或者2048 SR類型編碼器，可提供的*高分辨率為 4096 或者 8192，轉換后編碼器可以描述的*小單位為 5.27角分或者 2.63角分，但是其物理精度可以提供達到±1角分, 分辨率提供的精度小于編碼器的實際物理精度。