El cambio mas barato que podes hacer es agregar 2 modulos de RAM como decis, lo que pasa que si le mandas 2 mas de 800 mhz te van a ir a los 677mhz de las que ya tenes, y posiblemente no hagan dual channel, lo que te convendria es vender esos 2 modulos y comprar 2x2gb DDR2 de 800 o 1066 mhz.
Ahora si cambias mother como es socket 775 no te conviene mantener la plataforma y pensar en un quad core, porque cuando lo compres va a ser un micro de mas de 4 años. Tendrias que comprar un 1156 o 1366 para pensar cambiar por un i5/i7, lo que significa cambiar mother, micro y memorias.
Yo en tu lugar venderia micro, mother y memorias y compraria un i5.