Ich bin mir auch nicht sicher, ob Du mit den dpi Einstellungen dein Problem lösen kannst. Jedenfalls berechnet man den richtigen dpi-Wert so:
x [dpi] = xres [pix] * 2,54 [cm]/ b [cm]
Das heißt die x-Auflösung mal 2,54 cm (=1") durch die tatsächliche Breite Deines Monitors. Dann kannst du die Prozedur nochmal für y-Auflösung und die Höhe wiederholen. Weichen die Werte relativ weit voneinander ab, hast Du eine ungünstige Auflösung für deinen Monitor gewählt.
EDIT: Mit X (oder startx) -dpi x kannst Du den errechneten Wert dann testen.
Eigentlich kann man sich das aber sparen; denn wenn in der xorg.conf die richtigen Maße angegeben sind (-> DisplaySize x y [mm]), werden die dpi automatisch berechnet.
Wenn Du dann die dpi der Schriften veränderst werden diese zwar größer/kleiner, aber ob die Qualität dadurch steigt, weiß ich nicht.
Ich hab auch mal gelesen, dass die Farben bei der Qualität eine Rolle spielen sollen, wobei das Optimum schwarze Schrift auf hellem Grund liefern soll. Weiß aber nicht, ob das so stimmt.