1895年8月中旬，战争转入台中。为了保卫彰化，黑旗军和台湾义军在大甲溪一带同日军展开激战，取得全胜，缴获日军枪械甚多。后来，日军不甘失败收买奸细带路，偷袭黑旗军后路，大甲溪遂为日军占据。大甲溪失守后，日军步步进逼，攻占台中等地。刘永福被迫率军退守彰化。
1895年8月28日，日军以强大兵力进攻彰化城北的八卦山，黑旗军和义军与日军展开肉搏战，击毙日本号称最精锐的近卫师团一千余人，打死少将山根信成。在这场悲壮的血战中，义军首领吴汤兴中炮牺牲，刘永福部将吴彭年英勇战死。刘永福黑旗军的精锐七星队三百余人也壮烈殉难，彰化失守。尔后，云林、苗栗亦相继沦陷，接着嘉义告急，刘永福命令黑旗军统领王德标迅速率领所部七星队北上增援，又派部将杨泗洪率黑旗军各营及各地义军密切配合，并亲赴嘉义前线坐镇指挥。由于黑旗军与义军的英勇善战，在刘永福的指挥下，各路义军协力作战，此役获大胜，杀敌近千人。并相继克复云林、苗粟、反攻彰化。但黑旗军和义军在连续苦战之后，断晌缺械，刘永福派人回大陆求援，清政府不但不予救济，反而将内地募捐援台款项强烈扣留，并下令严密封锁沿海，断绝对台增援。刘永福痛心疾首，发出“内地诸公误我，我误台民”的悲叹！
1895年9月11日，日本又派第二师团增援台湾。嘉义一战，日酋近卫师团长北白川能久中将重伤毙命。10月15日，日军进攻台南东南的打狗港。刘永福的养子刘成良率军多次打退日军的进攻，后来守卫炮台的兵士饥饿不能战，刘成良率部退守台南。这时，据守曾文溪的黑旗军和义军将士，与进攻的日军展开白刃格壮举，孤军不敌，台南最后一道防线失守。
1895年10月18日，刘永福召集部将会议，商讨战守之计，未得结果，次日，日军大举进攻安平炮台，刘永福亲手点燃大炮，轰击敌舰。当晚，日军攻城益急，城内弹尽粮绝，在艰苦的恶战中，士兵筋疲力尽，至不能举枪挥刀。当时城内大乱，刘永福欲冲回城内，部属极力劝阻。刘永福见大势已去，仰天捶胸，呼号哭说：“我何以报朝廷，何以对台民！”当天深夜，刘永福带领养子刘成良等十多人乘坐小艇，然后搭上英国商船“迪利斯”号内渡厦门。21日台南陷落，台湾全境被日军占据。
潜入大陆
1897年春回钦州闲居。刘永福对腐败无能的清廷投降卖国行径早已心怀不满，遂萌发了革命念头。次年，粤督谭钟麟电催回穗任军械局职，委辞不干。
1899年回南宁招募营勇，重建黑旗福军四营。回穗后几次奉令出兵镇压农民械斗而不行，力陈“并无作乱之事”真情，采取说服教育调解，使百姓免遭祸殃，深得众人称颂。
1899年冬，义和团革命斗争席卷北京。刘永福奉调入京镇守而迟迟不行，后经
多次催促方始起程。但队伍抵衡州时，又奉电调回广东惠州、潮州弹压农民革命军。刘永福率军转回韶关后静观形势，直至事态平息始返广州。广东巡抚德寿又命令刘永福前往办理善后，永福以不熟悉情况而拒绝接受任务。刘永福同情农民，支持革命之心绪已在实际行动中显现出来。
1902年，粤督陶璜调永福署琼州镇，永福以情况不熟，地僻山荒难以适应，请改调碣石镇，获准。陶璜对刘永福德高望重，兵多将强早就畏惧三分，千方百计削弱刘永福兵力。
1903年，下令将刘部张来营调回省城。刘永福手下仅剩两营，已无足轻重，于是禀请销差。经两广总总督岑春煊批准，遣散为农，自己变成空名镇守。
1904年，刘永福干脆以风湿病发作三请辞职，粤督李鸿章批曰：“声望素孚，威扬中外，纵有微恙，卧治也可，”不予批准。只好回广州沙河刘家祠休养治病。广州是孙中山革命党人宣传活动的中心之一，刘永福接受革命思想越来越多，认识越来越深，思想起了深刻变化，于是，从同情支持革命到积极参与革命，成为民主革命先躯者。
1905年9月，越南革命志士潘佩珠与王族阮述来至广州沙河刘家祠拜访刘永福，邀请刘大将军出任策划越南革命的军事行动，刘永福提出了宝贵的意见，并且答应越南革命军组成后，派黑旗军原部将吴凤典组织钦廉和左江一带壮汉族子弟兵编为别动队，与越南人民并肩作战。阮述留在广州，经常与刘永福联系策划。潘佩珠与中国民主革命先行者孙中山是知交，孙中山对他影响很大。他在越南组织领导民主革命运动与中山先生互为呼应。越南革命党人经常来往于刘家祠堂，对刘永福的民主革命思想起了积极的促进作用。刘永福对孙中山、黄兴等革命党人也逐步有所认识和了解。时年虽已古稀，仍祈望能参加民主革命营伍，为创建民国“贡献余力”。
1907年，刘永福的晚年，仍关心国事，体恤民瘼。钦州三那（那思、那丽、那彭）群众在刘思裕的领导下，举行声势浩大的抗捐运动，刘永福对此予以同情和支持。
1908年，孙中山派遣黄兴、王和顺领导钦州三那（那思、那彭、那丽）农民抗捐斗争失利，刘永福把王和顺藏于堂内，清军统领郭仁璋带领清军前来搜捕，刘永福亲自出面坐在堂中，怒斥郭仁璋为“小人”，不许轻举妄动。郭仁璋无可奈何，只好领兵退走，王和顺免于遭难。当晚深夜，令兵丁带上二千光洋，护送王和顺经十万大山转往越南河内，并秘信通知其妻黄美兰在云南河口的内弟黄茂兰送两挑光洋至河内支援孙中山先生革命，积极筹划河口起义。孙中山任命黄明堂为总指挥，王和顺、关仁甫为副总指挥，指挥部就设在黄茂兰家。黄茂兰是刘永福内弟、黑旗军部下，清政府缩编黑旗军时回云南河口老家任清军管带，革命党人通过刘永福的关系取得了他的信任，同意在他家设立起义总指挥部。刘永福对河口起义作出了应的努力。
1911年7月，在王和顺等介绍下参加了孙中山领导的同盟会。10月10
日，辛亥革命在武昌爆发，刘永福不顾年迈体弱，与留粤的革命党人联络活动，积极响应革命，10月30日赴港。11月9日广东宣告独立，11月14日返穗，应广东都督胡汉民之请，出任广东省民团总长，节制广州十数万民军。刘永福就任后，尽自己最大的努力，整理营伍，发布通告，分兵巡守，维护社会秩序，为巩固新生的革命政权作出了重大贡献。越两月，全省革命秩序大体安定后，永福即请辞去民团总长职务，告老返乡，住在钦州三宣堂。
1915年，窃国大盗袁世凯为了巩固自己“大总统”的地位，与日本签订了丧权辱国的“二十一条”，不惜牺牲国家民族的利益，来换取日本侵略者的支持，企图复辟帝制，刘永福闻讯后，义愤填膺，即拍电上京，请缨抗日，反对复辟，获得了全国各族人民的拥护。
1917年元月9日，刘永福走完了一生的历史途程，在钦州老家溘然长逝，终年80岁 ，葬于惠州城内西湖畔。
临终遗言
予起迹田间，出治军旅，一生惟以忠君爱国为本。无论事越事清
，皆本此赤心，以图报称。故临阵不畏死，居官不要钱，虽幸战绩颇著，上邀国恩，中越均授以提督之职，居武臣极地，亦可谓荣矣。然予心惕惕，终不以官爵为荣，只知捍卫社稷，不使外洋欺我中国为责任。此身虽老，热血常存。现今国事日危，外强虎视，若中政府不早定大计，任选贤将，练兵筹饷，振起纲维，各省督军不知和衷共济，竭力为国，以救危亡，因循坐误，内乱交作，蛮夷野性，必乘机入寇，割据瓜分，亡国奴隶，知所不免。吾今已矣，行将就木，恨不能起而再统师干，削平丑类，以强祖国。儿曹均已成立，各宜发奋为雄，抱定强种主义，投军报效，以竟予未了之志。倘为国用，自宜竭力驰躯，不惜以铁血铸山河，强大种族，以期臻于五大洲最强美之国。若不能见用于时，亦宜将于之遗嘱，遍告当轴名公，求其人告大总统，务以尊贤任能为急务。远小人，贱货色，严边防，慎取舍，旁求山林逸才，延揽智谋健将；惜民力以裕财源，养民气以威夷狄；集群策群力，以鞭笞天下，则天下之尚力者，自然入我范围而不敢抗。如是，则国基巩固，国势富强，吾虽死，九泉之下，亦将额首而颂太和。…
