Mira, yo probaria pasandolos a AVI que es como graba mi camara y por lo general al subirlos a youtube no pierden tanta calidad.

Edit: Igual con el celular (graba a MOV) tampoco suele tener una baja de calidad (sacando que no sirven ni para grabar ni filmar), proba tal vez cambiando los ajustes de la camara.