1940年春，随着在共产党在与国民党争夺华北敌后实际控制权的斗争中取得了决定性的胜利，日军华北方面军已经注意到“华北将成为中共天下”的现实危险性，因而决定将讨伐重点全面指向八路军。[38]紧接着，华北方面军所属14个师团中约10个师团开始了针对华北的八路军以及对华北地区的各个抗日根据地的所谓“肃正作战”行动。
前此日军的所谓“扫荡”，通常只是以一定数量的部队分途寻找八路军作战直至打入根据地，烧杀之后即迅速退回原驻地，以有限兵力保守点和线，集中一定的兵力留作机动。因此，八路军反“扫荡”通常也只是以少量游击部队与其周旋，根据地坚壁清野，大部队转进敌空隙处使敌到处扑空，在个别有利时则以伏击方式打击来敌，待敌退走后则又重新集结并恢复根据地。但这次的情况与过去有所不同。日军明显地在设法改变其点线的控制，力图实际占领平原地区并把点线伸入到八路军控制的山岳地区来，同时通过修路筑堡使点线连网把八路军控制区压缩到最小的程度。日本侵略军的这种措施不仅使八路军继续大规模扩军成为不可能，而且使其继续保持现有根据地和现有规模的军队也成为一件极其困难的事情。到1940年6月底，不仅华北抗日根据地大片土地开始变为游击区，就连八路军最后控制后一点产粮区和在太行山北段刚刚建立起来的军事工业基地，也因日军进占不退而难以保持。如何才能将敌人赶走呢？八路军领导人显然认为：“只有在敌占区内积极动作，才能巩固基本根据地”。鉴于此，八路军总部于7月下决心在敌人要害地区组织较大规模的破袭战，迫敌退守。[39]这就是著名的“百团大战”的由来。
与日寇熬时间的长期斗争的方针
百团大战，规模之大，动员兵力之多，作战时间之长，取得战果之巨，确为前所未有。其作战形式，除破袭战具有较多的“扑一下就跑”的游击战成份之外，较大规模的运动战、攻坚战、阵地战的应用也相当普遍。这场战役无疑是对这一时期敌后八路军与华北日军总体军事对抗能力的一次实际的检验。检验的结果表明，这时的八路军尽管能够无比坚决和勇敢地贯彻上级的作战意图，但其军事实力此时还不适宜对敌人展开如此大规模的战役行动。
首先，双方1940年期间武器弹药的配备和供应相差甚远。八路军这时总兵力约40万，有步枪9万，另有手枪近5000支，轻机枪680挺，重机枪195挺，掷弹筒108架，迫击炮156座，其他各种炮47门，但步枪子弹平均每枪不足20粒，手枪子弹平均每枪23粒，轻机枪子弹平均每枪30粒，掷弹筒和迫击炮平均都只有3颗炮弹。而这时日本华北方面军人数比八路军少将近4万人，但步枪超过八路军2万余支，轻机枪为八路军的8.5倍，重机枪为八路军的7.4倍，掷弹筒为八路军的67倍，迫击炮为八路军的23倍，各种炮为八路军的24倍，且弹药充足，还有大批坦克、飞机等重型装备。[45]比较双方的装备，八路军的劣势是再明显也不过了。八路军此时实际有枪数相当低，徒手兵约占50％以上。且据朱德和彭德怀这时的有关报告，八路军这时拥有的轻武器“百分之八十使用过度，来复线已磨平，口径已松，射击已失效”，而“自动火器（轻重机枪）平均每连不及一挺”。相比之下，日军几乎可以说是武装到了牙齿。
除了武器装备方面的巨大差距之外，敌人此时的单兵作战能力和小分队的独立作战能力，也由于其武器的精良和训练较多而远远高于因扩编过快而战斗素质有所下降的八路军。彭德怀这时曾率7倍于敌的兵力在野战中力图围歼一部日军，结果激战一天，付出相当大的伤亡却未能达到目的。对此，彭德怀感触颇深。而类似的例子在百团大战中则屡见不鲜。加上八路军新扩编的部队甚多，干部战士都严重缺乏正规战斗的经验，这些都大大降低了八路军的战斗力，使之付出了过多的伤亡。若全部统计以战役后反“扫荡”作战告一段落的11月底为截止时间，相信八路军总共伤亡人数不应少于其12月上报国民政府的22000人。而日本军队方面的伤亡数字，从其有关的战史记录分析，则远远低于此数。[46]
但是，对于共产党人来说，百团大战的最大问题其实还是没有能够实现原来的战役设想。这时的八路军并不害怕牺牲，如果这场战争真能够象彭德怀所强调的那样：“今天的小牺牲可以免掉将来的大困难”，损失更多也值得。问题是，战役的出发点本来是牵制并制止敌人的进攻，恢复和扩大抗日根据地，同时尽可能地缩小敌占区，而战争的结果却没有能够达到上述目的。甚至，战役结束后，日军由于受到前所未有的沉重打击，又极大地加强了它在华北的兵力，能占据者全部占据之，不能占据者则反复“蚕食”或用所谓“三光”政策烧光、杀光、抢光，让八路军和共产党也难以生存，致使八路军原有的控制区迅速缩小，平原地区的根据地绝大部分成了游击区。进攻的结果我倒更加困难了。[47]
百团大战刚一结束，中共中央就敏感地意识到这种大规模军事进攻可能带来的副作用。1941年1月，中共中央首先就交通破袭战的战法提出异议。它清楚地看到：敌人控制占领区的交通线实为其既定方针，对其主要交通线，我破袭愈多，敌守备愈强，结果反陷我之交通联络愈加不便。而破袭的结果，因敌之技术优越，修复甚易，担惊受累的只是路旁居民，以致夜毁昼修，不胜其劳。因此，中共中央决定：“道路不可不破亦不可太破，凡与我太有害而于敌非必争者（如插入我根据地内之大路），必须彻底破袭之；凡在敌为必争，在我无力控制者（如正太路平汉路北），不可因破袭而引起敌之守备加严”。[48]不难看出，中共中央已经意识到，在现有的条件下，八路军对日作战应当更加讲求策略和注重实际效果。
随着1941年1月国民党发动皖南事变，一举消灭了新四军7000余人，和日军针对百团大战的报复性“扫荡”在华北愈演愈烈，毛泽东不能不重新估计战争形势，并提出新的军事方针。在苏德战争爆发前后，毛泽东已明确提出：“目前方针是必须打日本，但又决不可打得太凶。不打则国民党不能谅解，中间派亦会说话，但如果打得太凶，则有相反危险，日本将转向我们报复，国民党坐收渔利”。他在给周恩来的电报里称此方针是“与日寇熬时间的长期斗争的方针”。而实行这一方针的原因，最主要的就是“敌我军事技术装备悬殊太远，我人力、物力、地区、弹药日益困难”，如果我不顾一切牺牲来作战，结果只能是孤注一掷并被敌人打垮。[49]
看来百团大战在敌我双方军事装备上暴露出来的巨大差距，给了毛泽东相当强烈的印象。毛泽东早就指出：八路军的基本缺点就是技术装备不如敌人。然而，在军队和根据地顺利发展的时期，他没有特别重视这个问题。在百团大战之后，他才真正意识到这种武器弹药方面的严重匮乏，已经成为八路军在对日战争中的致命的弱点。特别是在日军已转入进攻的情况下，八路军必须迅速转入退却，这个时候不设法保存自己，反而去大举进攻敌人是完全错误的。因此，在日寇疯狂“扫荡”和进攻的情况下，八路军最有效的作战方法就是尽量将大兵团化整为零，尽可能加强地方军及各地的群众武装，最大程度地减少甚至停止集中作战。中共中央和中央军委这时在其指示中强调指出：我们一无飞机、大炮、坦克，再则我们的步枪、机枪质量也差，子弹也日益困难，想要靠我们自己力量办到有优良的步枪、机枪，有极充足的子弹，在目前条件下，已是完全的空谈。百团大战已经证明，大规模的集中作战，“不可能获得任何重要的结果”，反而“可能在一个或几个战斗中即基本上被消耗或有极大的削弱”，因为“抗日战争与过去国内战争不同，没有集中最大力量对敌进行消灭战的可能”，“在武器未改变前，运动战的可能日益减少甚至不可能”。