两年，他被召入朝，凉州都督和安西大都护是一同解职的，
之前朝廷一直没任命新的凉州都督，
凉州都督向来被认为是大都督府下第一都督，中都督府中排名第一。这个都督人选，也向来是要精挑细选的，李世民为秦王时就曾兼任过凉州都督，后来是杨恭仁，再宇文士及、武士彟、樊兴、武怀玉等，都是朝廷重臣，甚至好几任是宰相。
牛进达出任凉州都督，这是有点让武怀玉意外的。
谁都知道，老牛是瓦岗出身，虽说他不是出身草莽，而是将门之家。但他早年毕竟是混瓦岗的，而且一直都是程咬金的搭档，瓦岗败后，他们先是短暂的归附了王世充。
后来老牛跟老程等瓦岗九将，一起在阵前随秦琼弃王世充而去投奔唐军。
投唐后，老牛也是跟着进了秦王府，不过直到贞观初，老牛的官职并不高，跟秦琼程咬金他们相差甚远，秦程在武德四年就授封上柱国、国公，
而老牛在参与玄武门之变，以秦王府心腹再立拥立之功，也仅授了右武卫中郎将，封魏城县男。
老牛能在十六年时间，从一个县男，到如今的国公、大将军，进步这么快，主要还是跟武怀玉关系好，跟着武怀玉参与了多次大战，立下许多功勋，武怀玉又帮他出任了几任都督之职，