Para descartar las memorias tenes que dejarlas lo mas sueltas posibles, o sea con la frecuencia y latencias stocks que sabes que son las que funcionan.
Tambien podes pasarles un memtest para ver si estan bien a X seteo (no solo para comprobar si estan pinchadas).
Seguro que como estas subiendole el bus del micro tambien estas oceando las memorias y las estas haciendo laburar a unos seteos que no bancan.
Eso es una regla basica del OC, primero subis el procesador con memorias en velocidad stock y cuando sabes que el procesador esta estable ahi le das a las memorias.

Es Black Edition el phenom? si es asi no te gastes en subirle el bus, dale al multiplicador de una.