в вегасе не кодируй видос. (без сжатия выводи)
есть специальные программы для сжатия.
попробуй Any Video Converter Professional.