窦融见更始政权不稳，东方扰乱，不愿出关。
窦家累世在凉州为官，窦融的高祖父曾为张掖太守，从祖父曾为护羌校尉，从弟为武威太守，累世在河西，知其土俗。
他对其兄弟说:‘天下安危未可知，河西殷富，带河为国。
张掖属国精兵万骑，一旦缓急，杜绝河津，足以自守，此遗种处也。’兄弟们都同意他的看法。
窦融于是辞巨鹿太守，谋求镇守河西，把家属带了去。
在那里，抚结雄杰，怀辑羌众，河西民心向之。
窦融在河西，与酒泉太守梁统、金城太守库钧、张掖都尉史苞、酒泉都尉竺曾、敦煌都尉辛肜等结交，倡议‘推一人为大将军、共全五郡，观时变动。’
于是众人一致推窦融行河西五郡大将军事。
是时武威太守马期、张掖太守任仲得知消息，解印绶离去。
窦融仍居于属国，领都尉职，而置从事监察五郡。
窦融当时采取了以下几项措施：
一是在稳定社会方面。
窦融在经营河西五郡之初，面临着极为严峻的外部环境。
当时隗嚣称王陇右、卢芳与匈奴联兵扰掠北部边疆羌人寇掠金城、陇西匈奴胁迫西域各族东寇，河西郡县城门常常昼闭。
在如此严峻的政治形势下，窦融为稳定河西地区社会，首先运用权谋，断然改变了河西各郡郡守权均力齐、各自为政状况‘
使自己登上了河西五郡大将军之位，并将政治、经济、军事权力集于自己一人之手，又把各郡豪杰、名士抚纳于自己翼羽之下，从而形成了一个相对稳定的政治集团，使经营河西的活动有了政治保证。
其次，窦融从一开始就大力扩充步兵和骑兵，不断加强军事力量。
在平日厉兵秣马，而战时则与各郡郡守共同率兵出征，且屡战屡胜，遂使河西五郡出现了兵马精强的局面。
第三，为防御南面的羌人、北面的匈奴、西面的西域各族扰掠，窦融健全了由郡县、都尉府、塞、部和燧等军事机构构成的边防防御、警戒体系；
并制定和严格实行了《塞上烽火品约》边防守备条例，为保障社会安定和居民的安心生产创造了良好条件。
有诗云：
说河西，道河西，
河西曾经了不起。
虽说偏僻无人问，
雄居西北乾健地。
说洒西，道河西，
河西一望数千里。
凉州大马快如风，
搭弓射箭是羌氐。
说河西，道河西，
荒原漠漠地堪瘠。
山下宝藏尽皆有，
此时无声沉寂寂。
说河西，道河西，
前有窦融立旌旗。
少年将军跃马上，
指日但开新天地。