Redempt, aunque la fuente sea de 500w, puede ser que mande poco amperaje por el canal de 3.3v que entra al mother (y luego a la placa) o incluso que el mother teng aun cuello de botella entre su conector y el slot AGP.
Si tenes de las que se conectan directo a la placa, tendrias que ver la potencia de ese canal.
El hecho de que ya no se te tilde al bajar la calidad, te dice que la culpable era la placa, demasiado procesamiento y moria todo; conclusión: falta de corriente / sobrecalentamiento de la placa.
Yo veria de ventilar un poco más la placa para descartar sobrecalentamiento, y luego provaria otra fuente.
Tambien está la posibilidad de que la placa no soporte por hardware algunas de las instrucciones de D3D que usa el juego cuando los gráficos estan en niveles altos, por lo cual se hace por software (se encarga el CPU) y quizas ahí está tu cuello de botella, en cantidad de procesamiento / sobrecalientamiento del CPU.
Sabes que modelo de GeForce tenes?
BallsBreaker, la fuente generalmente tiene una etiqueta pegada en un costado que dice las caracteristiscas, pero yo no me fío y agarro un multimetro para medir voltaje y corriente.
Si no sabes de electricidad o jamas abriste una PC, NO LO INTENTES.
Saludos