La quantification sous JPEG2000 se fait sur les coefficients calculés par la DWT à l'aide d'un quantificateur à pas variable. Ceci est possible grâce à la possibilité de définir des zones de plus grande importance lors de la compression: ces zones - appelées subbands et notées b - possèdent un pas de quantification plus faible. Cette étape se déroule de manière similaire à celle appliquée lors de JPEG (modèle q-table).
(Vous nous pardonnerez les termes anglais: les documentations que nous avons lues nous ont toujours été fournies dans cette langue et nous préférons nous éviter des traductions hasardeuses!)
Il s'agit d'un quantificateur uniforme (cf quantificateur de JPEG) fonctionnant avec des nombres entiers et qui possède une zone mettant à zéro les coefficients trop faibles (qui sont relatifs rappelons-le); ceci concerne une zone centrale de largeur :
La quantifiée , que l'on nomme index de quantification, calculée à partir d'une entrée avec un pas de quantification découle de la formule suivante:
On complète donc la figure du précédent paragraphe:
La valeur déquantifiée se calcule comme suit:
La valeur de r détermine le biais lié à la reconstruction. Intuitivement, nous aurions tendance à remplacer une valeur manquante (un 0 ou un ) par dite midpoint reconstruction (reconstruction sans biais). Cependant, la valeur est utilisée en pratique car elle minimise l'erreur quadratique du signal ainsi reconstruit: on parle de centroid reconstruction.
Une des principales améliorations de JPEG2000 vient du fait que ce format tient compte du système de vision humaine (HVS pour Human Visual System). Lors de la quantification, outre le fait que l'on tient compte des probabilités des différentes valeurs pour les stocker (cf figure de centroïd reconstruction), on fait intervenir le CSF (Contrast Sensitivity Function) qui est une fonction qui montre la sensibilité au contraste de l'oeil humain en fonction de la fréquence de changement de luminance:
La courbe observée correspond à l'inverse d'une fonction ayant une réalité physique: il s'agit, pour un signal sinusoïdal de fréquence donnée, du niveau critique d'énergie nécessaire pour provoquer une réponse neurologique. Sur la figure, on voit nettement qu'il est possible de définir des seuils au-delà ou en-deça desquels les informations sont moins bien perçues par l'oeil humain. Ainsi, on s'autorise à créer des distortions car leur impact sera visuellement fort limité.
La quantification de JPEG2000 se fait bit-à-bit. Lors de cet encodage progressif, un coefficient est dit insignifiant s'il vaut zéro et que les bits de poids plus forts valent également zéro, signifiant si sa valeur est différente de zéro. L'avantage de ce codage par plan de bits est d'une part de permettre lors des communications réseau la réception progressive avec affinages successifs lors des réceptions des autres plans, et d'autre part une meilleure compression puisque les champs de bits de poids forts comportent un grand nombre de zéros.