马超、韩遂再次派使者送信给曹操，想割河西之地请和，但曹操不同意，马超于是退兵回到了凉州上邽（gui），郡人任养率自己的部众迎接马超。
曹操追兵到安定后，因为河间有人反叛，于是撤军回东边，当时作为使节的杨阜劝说曹操，“马超有韩信、英布那样的勇略，又深得羌人、氐人的拥戴，整个西州都非常敬畏他，如果大军归还，不做周密的准备，恐怕陇上诸郡县，就不再属于国家的了。”
曹操虽然明白马超的厉害，但河间战事迫在眉睫，就先撤兵回许昌，不过还是留下夏侯渊、张郃的名将把守要害(详见潼关之战)。
潼关之战失败不久，马超就迅速兼并陇上诸郡县(陇西、南安、汉阳、永阳等)，张鲁也遣大将杨昂相助马超，共集结万余人，围攻凉州刺史韦康于凉州治所冀城(今甘肃甘谷县南)。
韦康派阎温秘密出城，向夏侯渊求救。
阎温乘夜潜水出城。
第二天，马超军发现阎温的踪迹，派人追踪拦截他，马超军在显亲界内追上阎温，将他捉住去见马超。
马超解开他的捆绑，对他说，“现在胜败已经分明，您为了孤城请救兵却被人捉到这儿，怎么施展大义呢？如果听我的话，告诉城里，东方不会有救兵前来，这是转祸为福的计策，不然，现在就把你杀掉。”
阎温假装应允，马超便用车载着他来到冀城城下。
阎温朝着城内大声喊，“大军不出三天就会来，努力呀！”
城内的人都为他哭泣，祝祷他万岁。
马超恼怒地责问他，“你不要命了吗？！”
阎温不回答。
当时马超久攻不下，所以慢慢引诱阎温，盼他回心转意。又对他说，“城里的朋友，有想跟我同心合力的吗？”
阎温又不理睬，马超便严厉地责怪他。
阎温说，“事君之道只有一死，您却要让长者说出不义的话，我难道是苟且偷生的人吗？”
马超于是杀了他。
…………
曹操抓捕在邺（ye）城的马超族人(包括父亲马腾，二弟马休，马铁等)，计三族人，全部斩杀。另一方面，又派夏侯渊为首的征西部队前去冀城救援。
可是，夏侯渊援兵未到，韦康就开城投降了，马超占据冀城，默许张鲁部将杨昂处死刺史韦康。
夏侯渊领兵前来攻打，行军到距离冀城二百余里的时候，马超率领军队来战斗，击败了夏侯渊援军。
随后百顷氐王杨千万与兴国氐王阿贵也起兵响应马超，率军屯于兴国，夏侯渊于是撤军回长安，两年时间不敢西进。
马超以冀城为根据地，割据陇上，自称征西将军，领并州牧，督凉州军事。
韦康旧部下杨阜、姜叙、姜隐、赵昂、尹奉、姚琼、孔信、武都人李俊、王灵于建安十八年(213年)结谋反叛，并派遣从弟杨谟到冀城告诉杨阜另一个从弟**，联合安定梁宽、南安赵衢、庞恭等蓄谋起兵。
杨阜和姜叙率先在卤城起兵，赵衢（qu）、尹奉劝马超去攻打，马超听到后，率兵前去攻打，梁宽、赵衢偷偷占据冀城，关闭城门，并杀害马超妻子和孩子。
马超大怒，但又攻不进冀城，于是袭击历城，杀死杨阜、姜叙在历城的族人(包括怒骂马超的姜叙母亲)，杨阜于是率领叛军和马超对战，战场上杨阜与宗祖昆弟七人来围攻马超，都被马超杀死，杨阜自己也身负五处重伤犹然死战。
夏侯渊援军赶到后，马超失去了根据地，进退狼狈，只得投奔汉中依附张鲁。
这场战后，杨阜等多达十一人因讨马超的功劳被封侯。
投靠张鲁后的马超，很受张鲁的欣赏，封马超为都讲祭酒，还打算把女儿嫁给马超，但是在部下的劝谏下，反悔了。
马超向张鲁借兵，打算反攻凉州。
马超领兵围攻祁山三十天，未能攻下，随后夏侯渊派张郃引援兵赶到，马超没有继续攻打，丢下军事器械做引诱，撤军回了汉中。
张鲁的部下杨白等因为害怕马超的才能，想要加害于他，于是马超辞兵逃入氐中。
恰逢刘备此时率兵入川，刘备派李恢结好马超，马超知道张鲁不是干大事业的人，于是写信给刘备，请求归附(详见冀城之围)。
建安二十年(215年)，正旦(正月初一)时候，马超妾董氏的弟弟董种来向马超恭贺新年，马超捶胸吐血而说，“家门百口余人，全部被杀害，如今我们两个还有什么好相庆祝的？”
…………
到了夏季，马超派人向刘备了转达了投靠之意。刘备听说马超要来投，高兴的说道，“益州可以拿下了！”
于是派人去迎接马超，且偷偷把自己的一支军队给马超，让马超率兵合围成都。马超率领兵马径直到成都，屯兵于城北，城中所有人都因为马超威名而惊恐，不到十天的时间，成都军民就崩溃了，刘璋随即开城投降。
刘备平定西川后，迁升马超为平西将军，并命他督临沮。
…………
刘备与曹操争霸于汉中之地，刘备派马超与刚刚在巴西大胜张郃的张飞、吴兰、雷同等将领屯兵于下辩，牵制曹军先锋主力。
建安二十三年(218年)，正月，张飞与马超、吴兰、雷铜等率军驻扎沮水，佯攻武都、阴平两郡。吴兰、雷铜被曹洪、曹休等人识破击败，吴兰部将任夔（kui）战死。
三月，曹操亲率大军来争夺汉中，刘备据守，马超与张