二月十五日，北宁之战爆发，两万桂军一触即溃，黑旗军也因兵力不足而败退。刘永福先是随桂军退守太原，但二月二十五日法军不战而取太原，桂军退至谅山一带，刘永福则逃回兴化，手下兵力只剩下3700余人。三月中旬，刘永福随滇军撤出兴化，并率吴凤典等部驻守文盘州、大滩，分黄守忠所部驻守宣光。五月，宣光也被法军占领。
在这一时期，清廷内部存在分歧，以李鸿章为首的主和派主张放弃甚至除掉刘永福和黑旗军，而主战派如张之洞、张佩纶等则力主援助刘永福抗法。最终，清廷中枢采纳了主战派的意见，并在观音桥事件和马尾海战后继续与法军作战。光绪十年（1884年）七月初六日，清廷正式对法宣战，授予刘永福记名提督之官衔，并赏戴花翎，命其驱逐法军，恢复越南。九月，清廷加恩赏银五万余两，并对黑旗军将领予以封赏。
在此之前，八月中旬，刘永福的黑旗军与滇军共6000人已经包围了宣光，并不断与法国援军交战。十月，唐景崧奉两广总督张之洞之命，率麾下景军四营前来援助攻城；十一月，丁槐率3000滇军增援宣光，并决定由刘永福率黑旗军在左育打援，唐景崧和丁槐负责攻打宣光城。清军六次攻打宣光均未成功，而法军在击溃东线潘鼎新所率桂军、夺取谅山后，派3000至4000人向西增援宣光。
光绪十一年（1885年）正月十六、十七日，黑旗军与法军在左育激战，黑旗军溃败，法军也付出了伤亡400多人的代价，这是黑旗军与法军作战中杀伤最多的一次。刘永福与黄守忠之间早有矛盾，左育之战后，刘永福认为黄守忠应对兵败负责，黄守忠则率800人投奔唐景崧，另有两千多名败兵逃归清军其他部队，而刘永福手下残兵不过500人，黑旗军由此分裂。
六、归国任职
光绪十一年（1885年）春，刘永福在准备与法国再战的同时，派遣部将吴凤典、李唐、魏名高、胡昆山等人前往两广地区招兵买马，计划在五月内新增5000兵力。然而，就在这个时候，冯子材在镇南关取得了大捷，收复了谅山。清廷在听取了李鸿章的意见后，决定与法国议和，并放弃了对越南的宗主权。这意味着刘永福必须离开越南。
四月初一日，张之洞电告唐景崧，让吴凤典和李唐暂停募兵。在法国的施压和清廷的催促下，刘永福不得不处理完保胜据点的善后事宜，并于五月十三日率领黑旗军及家眷进入云南文山之南溪。五月十五日，清廷授予刘永福“依博德恩巴图鲁”的名号，并封赠三代，其子刘成良也获得知州的职位。
刘永福临行前心情沉重，他对前来送别的越南民众说：“这是祖国大皇帝九次上谕催促的结果，我不能违命……你们等着，我入关三年，到天朝看看情况如何。”他还派人告诉来华求助的越南兴化巡抚阮光碧：“洋贼未平，我不会长久离开。”然而，刘永福再也没有回到越南。
关于刘永福的安置问题，清廷在二月二十二日命令云贵总督岑毓英和两广总督张之洞处理此事。张之洞主张将刘永福安置在钦州或上思，而刘永福本人则表示愿意驻扎南宁。然而，广西巡抚李秉衡担心刘永福的手下游勇会在广西引起与法国的摩擦，不愿其驻扎广西。最终，张之洞决定将刘永福安置在琼州，但慈禧太后对此表示担忧，认为“琼州孤岛，我水师不力，一旦有事，何以制之？”九月二十七日，张之洞采纳了唐景崧的意见，将刘永福调任广州，并动用义捐银数千两为其在广州购置了一座大宅。
在此之前，刘永福已于八月初四日从文山出发，九月二十四日抵达南宁。张之洞命令他解散新募的兵士，只保留1000余人，分为五个营（每营200人）和亲兵100人，称为“福军”。刘永福将家眷行李安置在宾州（今广西宾阳）的岳父家中。十二月二十二日，刘永福抵达广州，并于次日拜见张之洞。张之洞派孙鸿勋和陈文序管理黑旗军营务，并指导刘永福学习礼仪和历史知识。经过近一个月的考察，张之洞于光绪十二年（1886年）正月十九日上奏清廷，推荐刘永福担任总兵。慈禧太后接受奏请，将广东南澳镇总兵李扬升开缺，由刘永福补任该职。但因清廷指示暂缓赴任，刘永福暂时留在广州，并曾请假回博白祭祖，在宾州与家人团聚。
光绪十三年（1887年）夏，广东碣石地方发生民众与洋教徒的冲突，张之洞奏请让刘永福署理碣石镇总兵，以稳定局势。刘永福于八月初一日到任。不久后，清廷指示他入京觐见，并要求进一步削减福军的规模。八月二十三日，刘永福从广州出发，在广东水师提督方耀的陪同下，乘坐“海晏”号船前往天津，并于十月初二日抵达北京。初三日，刘永福进宫面见光绪皇帝，十四日觐见慈禧太后，并向光绪帝辞行。十八日，刘永福和方耀离开北京，继续在广东担任南澳镇总兵，并负责巡防闽粤海疆。
七、抗日保台
光绪二十年（1894年）六月下旬，随着日本入侵朝鲜，甲午中日战争爆发。在军机大臣翁同龢的推荐下，光绪帝命令两广总督李瀚章和闽浙总督谭钟麟督促刘永福带兵前往台湾，协助台湾巡抚邵友濂防备日军。刘永福的旧部经过多次裁撤，仅剩300人，他请求招募到3000人，恢复黑旗军的规模。然而，谭钟麟并未同意刘永福的请求，而是将临时招募的1000名潮勇改为刘永福部下，并配发武器和四个月的军饷，让他先行前往台湾。
刘永福接到命令后，先赶回广州燕塘旧居布置招募事宜，随后前往潮州，带领这1000名潮勇到汕头训练，准备渡海赴台。邵友濂对刘永福的态度颇为冷淡，请求将其调至台南而非台北，清廷批准后，刘永福于八月初五日率领潮勇抵达台南。随着清军在平壤战败，战火蔓延至中国境内，北洋水师在黄海海战中遭受重创，清廷一度考虑将刘永福调往辽东抵御日军，甚至设想让他直捣日本本土的长崎等地。但随着日军军舰出现在澎湖海域，邵友濂改变了主意，挽留刘永福，并请求将其留在台湾。
九月十二日，清廷命令刘永福留在台湾。刘永福视察了基隆、沪尾和澎湖的防务，并于九月二十三日拜见了新任台湾巡抚唐景崧，提议自己带兵防守台北，但遭到拒绝。九月三十日，唐景崧安排刘永福防守凤山东港至恒春一带，即台南府南部沿海，限制其活动范围。同年冬天，两江总督张之洞打算调刘永福北上上海防守，刘永福借此机会向总理衙门申诉自己在台湾受到排挤的情况，请求增兵增饷，但这些安排最终未落实。
光绪二十一年（1895年）正月，北洋水师全军覆没，日军越过辽河，逼近山海关。张之洞打算将刘永福调至京畿抵御日军，唐景崧同意。但不久后，日军军舰出现在澎湖海域，唐景崧决定加强台南防守，叫停了调刘永福北上的计划。张之洞于二月二十三日分别致电唐景崧和刘永福，劝两人以大局为重。四天后，日军占领澎湖。三月二十三日，《马关条约》签订，中国将台湾和澎湖列岛割让给日本。刘永福闻讯后，誓言抗日保台。
五月二日，唐景崧在台湾士绅的支持下成立了抗日政权“台湾民主国”，自任总统，刘永福被任命为大将军。五月九日，因台湾镇总兵万国本内渡，唐景崧命刘永福暂代此职。刘永福返回台南，不久后台北被日军占领，唐景崧及其官员纷纷内渡，日本军舰在台南安平海域侦察。刘永福致电闽浙总督边宝泉请求“暗助”，边宝泉联系张之洞，张之洞表示“任其自为之”。
刘永福接到了伪托张之洞名义的电文，要求他坚守两个月，援兵即可至。刘永福受此伪电鼓舞，将其公告台南，民众士气大振，誓死抵抗。随后台南绅民推戴刘永福为“台湾民主国”总统，但他拒绝，仍以帮办台湾军务、南澳镇总兵、署台湾镇总兵的身份领导抗战。
闰五月初七日，刘永福与台南文武官吏一百余人歃血为盟，约定他为抗日保台的盟主，誓言与日本战至台湾最后一寸土地。台中知府黎景嵩告急求援，刘永福派易顺鼎带三营兵力驰援台中，但易顺鼎中途变卦，刘永福送他登船内渡。七月四日，刘永福收到日本首任台湾总督桦山资纪的劝降信，刘永福严词拒绝，并誓言恢复台北。然而，抗战局势日益恶化，苗栗、大甲溪接连失守，吴彭年与台湾义军退守彰化。刘永福派兵增援，但八卦山炮台失守，吴彭年、吴汤兴、李士炳力战阵亡，残兵退守嘉义。日军逼近台南，刘永福亲赴前线部署，后在谋士吴桐林建议下返回台南坐镇，派杨泗洪率军抗敌。杨泗洪围攻日军前锋，日军亦受重创，退回彰化，王德标趁机收复云林。此时，日军内部疾病流行，近卫师团长北白川宫能久亲王病逝。刘永福与日军以浊水溪为界，对峙约一个月
八、退回大陆
光绪二十一年（1895年）闰五月，易顺鼎被刘永福遣回大陆，试图请求张之洞等督抚为刘永福提供军械支援，但均遭拒绝。只有张之洞手下的道员恽祖祁等人筹集了一部分款项。七月二十七日，易顺鼎带着筹到的6000两银子抵达台南，但这对于急需军火和物资的台湾抗日军民来说，无疑是杯水车薪。刘永福对此大失所望，加之与易顺鼎在诸多事务上的意见不合，易顺鼎在十天后返回大陆。易顺鼎没有能够为台湾抗日军民带来期望中的军械支援，严重打击了抗日军民的斗志。紧接着，吴桐林也前往大陆寻求军饷，结果同样无功而返。
此时，日军第二师团长乃木希典率领约人的大军增援台湾，加上日本方面收买了台南的汉奸胥吏高慧等人，对刘永福的底细及布防情况了如指掌，使得台南的陷落几乎成为定局。
八月十五日，嘉义保卫战打响，但在日军近卫师团的强大攻势下，嘉义于二十日失陷。与此同时，日军的其他两路部队也开始行动：一路是第二师团的混成第四旅团于八月二十二日从澎湖登陆布袋嘴港；另一路是第二师团的主力及混成第三旅团，同样在八月二十二日从澎湖登陆恒春东港、枋寮之间。在三路日军的夹击之下，台南的局势岌岌可危。
在这个关键时刻，刘永福在儿子刘成良和英国驻台南领事欧思讷的劝说下，决定离开台湾。欧思讷在八月二十二日将刘永福写给桦山资纪的信交给驻扎澎湖的南进军司令官高岛鞆之助，要求日军不得伤害百姓，并且必须厚待自己和部下，以便顺利内渡。然而，高岛鞆之助认为刘永福的言辞过于傲慢，于翌日复信拒绝，并要求刘永福亲自前来日军大营乞降。同时，刘永福还请英国人向近卫师团递交自己的信件，要求停战议和，然后再内渡，但同样遭到拒绝，并被要求投降。刘永福被激怒，继续坚持抗战。
八月二十八日，日军第二师团的主力及混成第三旅团占领凤山县，混成第四旅团先后在王爷头、曾文溪与台湾军民激战。到九月初二日，徐骧阵亡，王德标失踪。易顺鼎一直建议刘永福效仿历史上的人物如王保保、李定国，退入台湾内山（中央山脉）展开游击作战。但此时台南已经弹尽粮绝，人心惶惶，刘永福在九月初三日带着儿子刘成良等十余人乘坐英国商船“多利士”号内渡。翌日，刘永福抵达厦门，虽然乘客遭到日军盘查，但刘永福幸运地未被发现。最后他另雇小艇，从轮船上吊着落艇，得以平安上岸。就在他抵达厦门的当天，日军占领了台南府城，标志着台湾反割台斗争的结束。
刘永福内渡后，辗转抵达广州。两广总督谭钟麟立即准备安排他的职务，考虑到南澳镇与澎湖岛对照，刘永福再回本任“恐生枝节”，遂于十月初六日请示清政府是否可以让刘永福调任南韶镇总兵。然而，刘永福此时身心俱疲，上书请求开缺回籍调理。谭钟麟查明属实后，电呈清政府请旨。十一月十六日，清政府电谕准许刘永福开缺回籍，并命前任台湾镇总兵万国本补授南澳镇总兵。
日本驻华公使林董在报纸上读到这一消息后，向清政府提出抗议，要求追究刘永福抵抗日军的责任，但被清政府驳回。此后，刘永福便在钦州闲居养病
九、老骥伏枥
甲午战争后，帝国主义列强掀起瓜分中国的狂潮，清廷要求各地将军、督抚举荐“老于兵事，缓急可恃”的武官以抵御外侮。两广总督谭钟麟在光绪二十三年（1897年）冬敦请刘永福复出。刘永福赴广州谒见谭钟麟，被委任为军械局总办，月薪三百两。然而，光绪二十四年（1898年）初，刘永福辞职，并投入重建黑旗军的工作中。他回到南宁，在左右两江各府县招兵买马，从一万余人中挑选2000余人，组成了新的黑旗军（福字营）。在此期间，刘永福还曾两次调停民间械斗，显示了他在地方上的威望和影响力。
光绪二十五年（1899年）十月二十七日，清廷补授刘永福为河南南阳镇总兵。但刘永福以自己使用粤语、不通其他省份方言为由请求留在岭南，得到了清廷的批准。光绪二十六年（1900年）二月十四日，他与广东碣石镇总兵张铭新互调，碣石镇总兵成为他在清朝担任的最后一个官职。
上任后不久，刘永福就被派去广宁剿匪。同年七月，因八国联军入侵京津，清廷号召天下勤王，署理两广总督德寿决定派刘永福率黑旗军北上勤王。九月，刘永福行至湖南衡州。此时广州发生史坚如炸德寿事件，德寿急召刘永福回粤，严防革命党。同年冬天，刘永福移驻惠州，此时他对清政府倍感失望，萌生了“归隐山林，优游泉石”的想法。两广总督多次调他去镇压反清起义，他都反应消极，或应或不应。
黑旗军被一分为二，刘永福自领三营，其余三营驻扎广州或肇庆，逐渐脱离刘永福的管辖。光绪二十九年（1903年）九月，刘永福自请解散自领的三营，从此黑旗军不复存在。此后，他不断向两广总督岑春煊请求辞职，但岑春煊均未允诺。光绪三十三年（1906年），周馥署理两广总督后，刘永福再次请求辞职，周馥同意代奏。光绪三十四年（1907年）正月，清廷正式批准刘永福辞职。
刘永福回到钦州不久，就发生了革命党人刘思裕领导的三那人民反糖捐斗争，刘永福被清政府派去劝说刘思裕，但未成功。随后，反糖捐斗争演变为反清起义，起义失败后，刘永福曾庇护起义群众。在防城起义和河口起义中，刘永福均表示同情和支持，河口起义的指挥部就设在刘永福的内弟黄茂兰家。两广当局得知刘永福“通匪”的情况，便想借机收拾他。因此，在光绪三十四年（1908年）四月刘永福赴上思扫墓并处理已故部将吴凤典家中财产分配之争的过程中，他的五名护兵被上思同知蔡其铭无故杀害。刘永福便状告蔡其铭，但蔡其铭受到广西巡抚（后升两广总督）张鸣岐的庇护，故此案久拖不决。在此期间，刘永福为了避嫌，基本暂停了与革命党的往来。
宣统三年八月十九日（1911年10月10日），辛亥革命在武昌爆发，消息传到广东，张鸣岐加紧逮捕革命党人。刘永福因蔡其铭案的审理而身在广州，见时局动荡，便于九月初九日潜赴香港。九月十九日，广州光复，群龙无首，都督胡汉民邀请刘永福出任广东民团总长，以维持秩序、稳住局面。刘永福起初以年老推辞，但在胡汉民一再劝告下，最终同意出任。一个月后，他见事务繁多，大局稍定，便辞职回乡。
十、晚年
刘永福晚年定居在钦州三宣堂，过着较为平静的生活。他时常向乡亲们口述自己的回忆，这些珍贵的历史资料后来被整理成黄文澜（署名“黄海安”）的《刘永福历史草》和李健儿的《刘永福传》。尽管进入了民国时代，刘永福依然关心着国家的命运和发展。
民国元年（1912年），当刘永福得知《俄蒙协约》缔结的消息后，他内心充满忧虑，担心外蒙古的归属问题。为此，他在年底向大总统袁世凯发电，请求北上抗俄，收复外蒙古，展现了他强烈的爱国情怀。
到了民国四年（1915年）5月9日，当得知袁世凯接受了日本提出的“二十一条”大部分条款时，刘永福更是感到无比愤怒。他形容自己当时的心情是“愤慨填胸，白发怒举，面赤亮如重枣，目光如电欲射人”，并再次致电袁世凯政府，请求带兵抗日，表达了他不屈不挠的民族主义精神。
民国六年（1917年）1月7日，一向身体硬朗的刘永福突然感到身体不适，意识到自己大限将至。1月9日，他召集了儿孙，口授遗言。在遗言中，刘永福表达了对当时国内军阀混战和列强环伺的时局的深深忧虑。他告诫子孙们要“各宜发奋为雄”，秉承“强种主义”，积极投身军旅，报效国家，完成他未竟的心愿。他特别提到，如果有机会为国效力，应当全力以赴，不惜以铁血铸就山河，增强国力，使中华民族跻身世界强国之林。
刘永福还嘱咐子孙，如果不能获得重用，则应该上书大总统，呼吁重视人才选拔，远离小人，轻视物质利益，加强边防建设，谨慎决策，广泛搜寻山林中的贤才，吸引智谋健将。他强调要节约民力，充实国库，凝聚民心，威慑外敌，汇聚群策群力，以实现国家统一和繁荣。
最后，刘永福表达了自己对国家未来的美好愿望，希望看到“国基巩固，国势富强”，并表示如果能够实现这一目标，他将在九泉之下含笑以对。在留下这些肺腑之言后，刘永福离开了人世，结束了他八十年的传奇人生。
