Einen solchen Ansatz verfolgt der IMAP-Server dbmail. Er läuft mit postgresql und mysql, evtl. auch mit anderen Datenbanken.
Ich persönlich bevorzuge maildir, da man sehr einfach an die Mails kommt, falls es mal ein Problem gibt. Ein Datenbanksystem skaliert aber wesentlich besser.