日军的基本单位是师团，有多种编制。在抗战爆发时，日军有十七个常设师团是日军的常备军，番号依次为近卫至二十（内欠十三c十五c十七c十八师团）。编制为四单位制，即师团下辖二个旅团c旅团下辖二个步兵联队，步兵联队辖有三个步兵大队c大队下辖四个步兵中队个机枪中队（八挺重机枪）个大队炮小队（二门70步兵炮）c步兵中队辖三个步兵小队c小队辖一个机枪组（二挺轻机枪）个掷弹筒组（二个掷弹筒）和二个步枪组。师团还辖有一个炮兵联队个辎重联队个工兵联队个骑兵联队（四个骑兵中队与一个机枪中队）以及其它部队。
此时的师团分为两种：一是驮马制，炮兵联队辖有四个大队（三十六门75山炮与十二门75野炮），步兵联队辖有一个联队炮中队（四门山炮）个步兵炮中队（四门步兵炮），总编制为28500人；一是挽马制，炮兵联队有三十六门野炮与十二门120榴弹炮c步兵联队辖有一个联队炮中队与一个速射炮中队（37速射炮四门）c总人数为25000人。此外还有以下一些独立的特种兵部队——骑兵旅团（辖二个骑兵联队与一个骑炮兵联队个装甲车队）c坦克联队c独立工兵联队c独立野炮联队（三十六门120榴弹炮与十二门75野炮）c独立野战重炮兵联队（二十四门150重榴弹炮）c野战重炮兵联队（十六门100加农炮）c独立重炮兵大队（八门150加农炮）c迫击炮大队（中型迫击炮三十六门）c独立山炮兵联队c电讯联队c铁道联队等等。
抗战爆发后，日军又重新组建了十三c十八两个新编常设师团，又组建了一批特设师团。所谓的特设师团是指由常设师团的预备役人员所组成的部队，其番号为常设师团c联队的番号前加一百。其编制大体与常设师团相同，只是骑兵联队变为骑兵大队（二个骑兵中队与一个机枪小队），挽马制师团的炮兵联队为三十六门野炮与十二门山炮。特设的驮马制师团人数为28200人c挽马制为24400人。同时在作战时日军给各师团配属特种兵及补充人员等，可使一个师团指挥的人马达四万人以上。
在侵华战争中c由于作战消耗，同时日军感到四联队制师团行动不便，因此又实施了三单位制师团与独立混成旅团两种编制。三单位制师团的编制为师下辖一个步兵团，步兵团下辖三个步兵联队，联队下辖三个步兵大队与一个步兵炮中队（四门步兵炮）c步兵大队无大队炮小队，炮兵联队为二十四门山炮或野炮，骑兵联队改为搜索联队，其它如辎重c工兵等后勤部队也大为减少，编制人数为12800人。独立混成旅团辖五个步兵大队与一个炮兵队c通讯队c工兵队c辎重队等，总人数约5000人。步兵大队辖三个步兵中队与一个机枪中队（四挺重机枪）c炮兵队辖一个山炮中队与二个野炮中队。这两种部队都是主要做为守备用途的，同时具有小规模的野战能力。
到了武汉战役结束之后c由于战场的扩大与战争消耗，日军越来越多将三单位制师团与独立混成旅团投入了第一线。因此c日军进行了编制上的调整，将三单位制师团的后勤部队予以补充，使总人数达到了15000一17000人。独立混成旅团的步兵大队改为辖四个步兵中队与一个机枪中队，总人数达6000一7000人。该编制仅限于一线部队，守备部队仍为原编制。另外又开始将四单位制师团改为三单位制。
太平洋战争爆发之后c日军又编组了两旅团制师团。师团下辖两个步兵旅团，旅团辖四个步兵大队c步兵大队辖四个步兵中队与一个机枪中队（八挺重机枪）。师团