Le pouvoir de résolution d'un réseau est l'aptitude du réseau à séparer deux longueurs d'onde. Il est défini par le critère de Rayleigh qui considère que deux longueurs d'onde et sont séparables si le maximum de l'une ( ) est à la position du premier minimum nul de l'autre ( ).

Figure 20 : Représentation schématique du critère de Rayleigh pour la séparation de deux longueurs d'onde

Si l'on se place à l'ordre pour la radiation ,la position du premier minimum nul correspond à un déphasage :

A l'ordre et pour la longueur d'onde , on observe un maximum si

Par différentiation de cette relation on obtient à fixé la différentielle de la différence de phase qui donne de combien on doit changer l'angle de diffraction pour changer la phase d'une quantité

Ce changement de phase est de pour passer du maximum au minimum nul immédiatement voisin. Le critère de Rayleigh impose que

D'autre part si à ordre fixe on change la longueur d'onde, la relation fondamentale des réseaux impose que

Par identification il s'ensuit que le pouvoir de résolution peut s'écrire

On observe ainsi que le pouvoir de résolution augmente avec l'ordre et ne dépend que du nombre de traits éclairés par la lumière incidente.

Pour un réseau contenant éclairé sur et en se plaçant à l'ordre 1 nous avons :

ce qui conduit à séparer pour une longueur d'onde un de :