敌人加快了南侵的速度。

丘逢甲所率台中义军，继续顽强抗击南进日军。但敌众我寡，伤亡惨重，不少将领英勇牺牲。最后粮饷枯竭，弹药尽净，各部星散。丘逢甲不得不带领少数亲随退至深山丛林之中，与日寇相周旋。他曾设想去台南与刘永福会合，图谋再举，但“道中梗，不能行”。在此情势下，义军统领谢道隆力劝丘逢甲返回大陆。丘逢甲开始很不以为然，及至部属反复解释，才决定内渡。

经过六天的海上颠簸，丘逢甲一行安抵福建泉州，后乘船经厦门转汕头。他身在大陆，心系台湾，自称“台湾遗民”，将自己的住房命名为“念台”，将儿子丘琮取字“念台”，并写下大量诗歌，抒发他念念不忘台湾、盼望早日收复故土的心情，常常别署“台湾遗民”、“海东遗民”、“南武山人”、“痛哭生”等号。他吟道：“十年如未死，卷土定重来。”遗憾的是，丘逢甲内渡后没能再回去，48岁便不幸英年早逝。临终之际，他喊道：“死后必须南向而葬，我不能忘记台湾啊!”

丘逢甲兵败内渡，进一步削弱了台湾的抗日力量。从当时台湾的军事态势来看，敌我双方力量对比极为悬殊，抗战斗争面临着最为严峻的考验。

那个时候，日本已把海陆军精锐共两个师团和一个混战支队7万余人投入台湾战场。日军装备精良，训练有素，兼有浓厚的武士道精神，指挥作战的侵台日军头目桦山资纪、北白川能久、高岛鞆之助、乃木希典、山根信成等更是久经沙场的军国主义干将，作战经验丰富。相比之下，驻台清军和义军则大都是仓猝成军，缺乏训练，素质较差。基隆、台北、新竹、台中相继失陷后，藩库存银及军火弹药尽遭劫掠，更使台湾军民的抗敌斗争失去了饷械凭借。显然，这仗再打下去，谁胜谁败已经一目了然。

日寇的气焰在得知丘逢甲内渡后更加嚣张。他们放弃了在安平登陆的计划，转而集中优势兵力南下攻掠。沿途各地义军拼死阻击。在大科嵌，日军坊城支队近900人被围六日，弹尽粮绝，伤亡惨重。但义军的抵抗已经无力阻止日军挥师南侵。8月10日，日寇大举进攻苗栗，刘永福派幕僚吴彭年率七星黑旗军700人增援。吴彭年与义军首领吴汤兴、徐骧紧密配合，血战大甲溪。黑旗军埋伏于大甲溪旁，乘敌不备，猝起猛攻，日军方寸大乱。溃退之敌渡溪过半，徐骧率义军从两侧丛林中杀出，日军顿时如惊弓之鸟，四散而逃，义军乘势堵杀，日寇丢盔弃甲，死伤惨重，溪水为之断流。

8月23日，日军出动优势兵力，从小路仓围抄袭义军，义军不敌，退守八卦山，再与日寇拼杀。

八卦山位于彰化城东，地势险要，易守难攻。它与城北大肚溪一起，构成彰化城的天然屏障。8月27日夜，日军集中兵力猛攻八卦山，徐骧与吴彭年居高临下，敌人佯攻，枪炮击中危石，山石纷纷下落，砸死砸伤不少日军。徐骧又夜袭日营，日军自相惊扰践踏，死伤无数。

八卦山久攻不克，急坏了领兵出战的日军陆军少将山根信成。他指使部下四处收买惯匪、奸细，终于大致弄清了八卦山的地形地物。一天晚上，山根支队由汉奸引路，悄悄爬上了山顶。双方当即展开激战。吴彭年和徐骧、吴汤兴率黑旗军、义军殊死拼杀，居然毙敌千余人，日少将山根信成也命丧八卦山。我军也付出了重大代价：500余人战死，吴彭年中弹牺牲，吴汤兴中炮阵亡，只有徐骧率众拼死杀出重围，退往台南。日后有一位诗人这样写道：“七星旗卷秋云黑，八卦山围战火红。”

8月28日，八卦山失守。同日，彰化城沦陷。