Renk kuantalama aslında bir optimizasyon problemi olarak da ele alınabilir. Önce bir renk uzayı belirleriz ve ardından mevcut görüntüdeki renk dağılımı ile kuantalama hatası arasındaki ilişkiyi göstermeye çalışırız. Amacımız ortalama hata değerini minimize etmektir. x mevcut görüntedeki orijinal renk değerini, kuantalanan değeri göstermek üzere bozulma ölçüsü genel olarak denklemiyle tanımlanır ve kısaca ile gösterilir. 'nin beklenen değeri

(1)

kuantalama sürecindeki tüm hatanın ölçülmesini sağlar. görüntüdeki renklerin olasılık dağılım fonksiyonudur (pdf). minimum olduğu zaman kuantalama optimum olarak adlandırılır.

Histogram eşitlemeye dayalı renk kuantalama, kuantalama işleminden sonra görüntüde maksimum seviyede renk bilgisinin kalmasını sağlar. P. Heckbert (1982) tarafından geliştirilen bu yöntem literatürde median cut algoritması olarak da bilinmektedir [2]. Sayısal görüntü işleme alanında kullanılan histogram eşitleme görüntülerin görsel özelliliğini arttırmaya yönelik bir uygulamadır.

Histogram eşitlemeye dayalı renk kuantalama eşit sayıda renklerden oluşan kuantalama hücrelerinin belirlenmesine dayanır. Bu da kuantalanmış görüntünün uniform bir histograma sahip olmasına neden olacaktır [3].

Uygulanan algoritma adım adım şöyledir:

1. RGB renk küpünde görüntüdeki tüm renkleri içeren en küçük hücreyi seçiniz.
   
2. Hücrenin uzun olan ekseni boyunca renkleri küçükten büyüğe doğru sıralayınız.
   
3. Renkleri sıraladıktan sonra hücreyi uzun ekseni boyunca ortadan iki parçaya bölünüz.
   
4. Yukarıdaki işlemi renk uzayını istediğiniz sayıya düşürene kadar devam ediniz.

Yeni renk skalasına ait değerler her bir hücre içersinde kalan renklerin ortalaması alınarak hesaplanır ve bir hücre içersinde kalan tüm renk değerleri ortalamalarıyla değiştirilir.