十二月（1128年1月），金军大举南侵，进犯孟州汜水关。 宗泽即派岳飞为踏白使，让他率领五百骑兵前往侦察。岳飞在汜水关一带击败金军，凯旋后，即被宗泽任命为统领，不久又提升为统制。
建炎元年冬到二年（1128年）春，金国分兵三路全军出动，在东京开封府所属及其毗邻的州县，宋金两军进行了剧烈的拉锯战。宗泽坐镇东京留守司，虽四面受敌，仍从容地调度军队，部署战斗，使金军无力攻下开封。正月里，开封市民甚至一如往时张灯结彩。岳飞在滑州城附近的胙城县、黑龙潭、官桥等地作战，均表现突出，颇有战功。 一日宗泽招见岳飞并授以用兵作战阵图，且说：“尔勇智材艺，虽古良将不能过。然好野战，非古法，今为偏裨尚可，他日为大将，此非万全计也。”飞回答：“兵家之要，在于出奇，不可测识，始能取胜。阵而后战，兵法之常，运用之妙，存乎一心。”这番话终于使宗泽点头称是。
建炎二年四月以后，天气开始炎热，金军撤退，宗泽准备北伐。王彦的八字军奉宗泽之命移屯滑州。五马山的首领马扩也携带信王赵榛的信前来东京留守司。宗泽和王、马等人共同制订了北伐的计划。这年六月止，宗泽上陈述恢复大计的奏章达24次，但始终没有取得高宗的支持。年近古稀的宗泽再也支持不住，背疽发作，于七月初一含恨离世，临终前仍然高呼：“过河！过河！过河！”
开封弃守
宗泽死后，杜充继任东京留守。其人“性残忍好杀，而短于谋略 ”，置宗泽生前的计划于不顾，北伐终告夭折。
1128年（建炎二年）八月，金军再次南侵。一次，岳飞奉命驻守竹芦渡，用疑兵之计打败金军，因功转武功郎。
1129年（建炎三年）正月，岳飞奉东京留守司的命令从守卫北宋皇陵的驻地西京河南府返回开封。杜充出于排斥异己的动机，命飞向守城将领张用、王善袭击。时王善驻扎城东，张用驻扎城南，岳飞、桑仲、李宝诸人驻扎城西，均负有守卫京师重任。飞不愿自相残杀，婉言推辞，但杜充以军法问斩相威胁，勒令飞出兵。飞有以往擅自脱离王彦的教训，无法抗命，只能出战，南薰门之战，以八百人击退张、王部数万人，以功升武经大夫。 杜充又派马皋等继续追击张、王部，却被打败。王善攻打淮宁，张用不从，引军离去，自此成为游寇，后终被岳飞收降。自春至夏，飞随陈淬多次与王善作战，王善率部东流西窜，最后降金。飞因多次战功先后转武略、武德大夫，授英州刺史。
上年八月开始南侵的金军，于是年正月又先后攻下徐州、淮阳、泗州，进袭扬州。二月初三日，南迁扬州的宋高宗得到金军攻陷天长军（安徽天长）的消息，惊慌失措，落荒逃至杭州。五月，苗刘兵变被镇压后，高宗移驾建康。就在高宗移驾建康时，杜充借“勤王”之名，行脱离危险之实，准备离开开封，前往建康。
岳飞于六月下旬刚回军开封，就接到杜充南撤的命令。飞向充苦谏：“中原地尺寸不可弃，今一举足，此地非我有，他日欲复取之，非捐数十万众不可得也。”充不听。飞无奈，只得率军随之南下。 开封随后于次年二月陷落。
收复建康
高宗对杜充放弃开封的举动不加责罚，反而还命他负责长江防务，升任右相。 高宗在建康稍事逗留，就又返回杭州，并派使臣杜时亮向金营呈送《致元帅书》。
屈辱的书信，并未取得金人的怜悯。1129年秋，金军又兵分多路向南进犯。完颜挞懒（汉名昌）领军进攻淮南，完颜兀术（汉名宗弼）则领军直接进攻江南，直捣赵构所在的临安（杭州），只图一举灭亡南宋，占领整个宋朝领土。
十一月初，兀术占领长江北岸和县。金军沿长江北岸东进，与李成合攻乌江，离建康不到百里。杜充向朝廷上报“督师诣采石防守”，却深居简出不做准备。岳飞入杜充寝阁，苦劝再三至于流涕，但也无济于事。
听到金军渡江的消息后，杜充才派都统制陈淬率岳飞、戚方等将官统兵二万奔赴马家渡，又派王的一万三千人策应。陈淬率军力战，飞率右军和金国汉军万夫长对阵，王却不战而逃，陈淬战死，诸将皆溃，飞苦战无援，整军退屯建康东北的钟山。杜充又弃建康，逃往真州，不久降金。建康失陷。
马家渡之战后，岳飞决定脱离杜充，独自转战后方。 时岳飞的部下有叛逃者，飞向他们慷慨陈词，士卒皆被感动，愿随飞作战。杜充投敌，宋军纷纷溃散。溃军中一些北方将领不愿再战，欲推举岳飞为主帅，一同投金。岳飞假意应允，乘其不备，带亲信数人与之相斗，一连击败数十人；飞又对众军严肃训诫了一番，众皆心悦诚服，军心遂定。
兀术占领建康府后，亲率主力追赶宋高宗。高宗由越州逃向明州，随后又从明州乘船，逃到海上避难。
完颜兀术由建康进军，接连攻下溧水、广德、安吉、湖州，直取杭州，岳飞则领军在其后方，伺机给予痛击。岳飞遣刘经率兵千人夜袭溧阳，顺利攻克了被金军占领的溧阳县城。飞亲自领军转战广德境中，六战皆捷。驻军广德军的钟村，军粮用尽，将士忍饥，却不敢扰民。
1130年（建炎四年）初春，宜兴正被溃军骚扰，县令请岳飞来宜兴，说：“县中存粮，可供一万军士吃十年！” 二月，飞进驻宜兴，屯于张渚镇。 在广德和宜兴，飞收降了因政局混乱而在当地为匪的多支部队以及金军强征来的河北、河东等地签军。飞不歧视、苛待他们，伪军们都传话说：“此岳爷爷军。”争来降附。 飞抗金英勇，爱民如亲，宜兴人民感恩戴德。他们说：“父母生我也易，公之保我也难。”
二月，金军以舟师浮海，穷追高宗三百里未获。兀术借口“搜山检海已毕”，纵兵烧掠明州、临安等城，携带所掠全部金银财宝，从大运河水陆并进，经秀州（浙江嘉兴）、平江（江苏苏州）等地向北撤退。经过常州时，岳飞率军从宜兴赶来截击。飞四战皆捷，擒女真万户少主孛堇等十一人。常州截击战之后，飞首次得到朝廷诏令，命他配合镇江韩世忠，从左翼进击金军，伺机恢复建康。
金军在水路与韩世忠相持达四十日，被困于黄天荡，因奸细献策才得以入江。陆路上，岳飞在四月二十五日于建康城南三十里的清水亭首战大捷，金兵横尸十五里。
五月初，飞在建康南面的牛头山扎营，在夜间以百人敢死队骚扰金军，金军伤亡甚大。 兀术准备放弃建康，先在城中大肆杀掠和破坏，然后从建康西北的靖安镇（亦称龙湾）向北岸的宣化镇渡江。 飞领骑三百、步兵二千冲下牛头山，大破金军，进据新城。又追至靖安，消灭了未及渡江的金军。建康得以收复。
建康战役历时半月，岳家军仅斩女真兵就“无虑三千”，擒获二十多名军官。这是岳家军的首次辉煌胜利。
是年四月，岳飞已归属御前右军都统制、浙西江东制置使张俊部下。 飞收复建康后，张俊要把飞派往饶州，扼守江南东、西两路。但飞十分重视守卫建康的战略意义。 五月下旬，岳飞亲自押解战俘去行在越州，生平第一次觐见宋高宗赵构。他向朝廷上奏说：“建康为要害之地，宜选兵固守。臣以为贼若渡江，必先二浙，江东、西地僻，亦恐重兵断其归路，非所向也。臣乞益兵守淮，拱护腹心。”高宗看了飞的奏章，深以为是，遂改变张俊原议，并赐予飞金带、马鞍等物。
六月十五日，岳飞回到宜兴，在张大年家题词：近中原板荡，金贼长驱……（参见：五岳祠盟记）
六郡归宋
岳飞于绍兴元年至三年（1131—1133）先后平定了游寇李成、张用、曹成和吉、虔州的叛乱，升任神武后军统制。宋高宗赐御书“精忠岳飞”锦旗给飞，后又将牛皋、董先、李道等所部拨归岳家军，岳家军兵力得到扩充。
1134年（绍兴四年）春，岳飞上《乞复襄阳札子》，提出收复陷于伪齐政权的襄阳六郡（襄阳府、郢、随、唐、邓等州、信阳军）的主张，并说：“恢复中原，此为基本。”奏议得到朝廷许可，但高宗又特别规定岳家军不得称“提兵北伐或言收复汴京”，只以收复六郡为限。…
