大阪第四师团成立于1888年，是日军中资格最老的师团之一，配备装备一流，堪称日军“精锐”。
    1937年，第四师团调到中国东北，划归关东军序列。1939年，苏联与日本在中蒙的诺门坎地区发生战争，驻扎在伪满洲国北部的第二、第四师团奉命增援前线。第二师团接到命令强行军4天赶到诺门坎，当天投入战斗。第四师团的出动令虽然下达，却迟迟不动，原因是师团的疾病患者突增，五花八门的原因要求留守。勉强组织好的部队向前线出发，第二师团四天的路程，第四师团走了八天，而且大量掉队，部队到达前线的当天，苏日宣布停战。
    第四师团不能打仗的消息不胫而走。同日军作战的中国军队一听说对手是“大阪师团”，往往士气大增，抢着和和第四师团交战。第四师团接连吃败仗，甚至牵连友军，以至友邻部队向日军司令部补抱怨：“有第四师团参战，本来打赢的的仗，也会打输……”第四师团成为日军的“丧门星”，哪个军都都不要它，大本营只好将其改为直辖部队。1942年，第四师团被调到菲律宾。
    1945年8月日本投降时，第四师团正在泰国曼谷附近休整。与其他不肯接受战败命运的日军部队不同，第四师团的投降与回国进行的异常顺利。当全体面色红润、身体健康的第四师团官兵出现在日本港口时，本土那些营养不良、形容枯槁的日本人都十分吃惊。回国后第二天，就有官兵跑到美军兵营前，整齐地摆开摊位，兜售起战争纪念品。
    对于第四师团的特殊现象，日本作家司马辽太郎认为，这是大阪的独特文化造成的。大阪是著名的商业城市，居民多与商业有关，围绕着苛捐杂税等问题，大阪几百年来不断和大名斗志斗勇、讨价还价。天皇在大阪人心中的地位与其他地方大不一样。虽然二战中，出身大阪的士兵也受到了军国主义的的蛊惑，却不会急着去“为天皇而死”。看待上级的命令，出身于大阪的官兵也习惯“讨价还价”，不会像其他部队那样闭着眼睛执行到底。
    日本历史学家关幸辅在《日军第一窝囊师团》里做了一段小结：“如果日本部队都像第四师团这样，大概中日之间也不会发生战争了吧？要是这样，也就不会有日本的战败了吧……”
    有意思的是，这支著名的“弱旅”在战后竟保留了自己的番号，直到几天，日本陆军中仍编有第四师团这支部队。