1928年，图哈切夫斯基写了一份关于改装红军和发展空军和装甲兵的报告，说明红军在技术装备和空军方面落后于欧洲其他强国，其水平还停留在10年前的国内战争年代，要加速组建航空兵。图哈切夫斯基的思维是超前的，而斯大林、伏罗希洛夫则认为这些是不现实的。当时苏联还没有发达的工业作为军工产业的基础。图哈切夫斯基竭尽全力要把红军参谋部打造成一个积极主动的、有战略眼光的军事机构，而不是单纯的技术和咨询部门。他经常打报告阐述自己观点的主动精神使斯大林反感，认为战略研究是最高统帅一个人的事，其他人不必操心。伏罗希洛夫和布琼尼两位老骑兵也认为骑着战马、挥舞战刀、高呼“乌拉”一样可以打到巴黎和伦敦。
图哈切夫斯基的种种努力没有得到认可。1928年5月他辞去红军参谋长职务，被任命为列宁格勒军区司令员。尽管斯大林、伏罗希洛夫对他抱有成见，图哈切夫斯基到列宁格勒后依然关心红军的发展和军队的改革问题。在这三年里他与列宁格勒党政一把手基洛夫合作得很愉快。他喜欢同像基洛夫、古比雪夫、奥尔忠尼启则这样富有正义感的同志和领导一起工作，也高兴与像亚基尔、乌博列维奇、费尔德曼这样有责任心的战友共事。在他的努力下，列宁格勒城市的防御设施和巧妙的工事配备在后来的卫国战争中起到很大作用。1930年1月，他又写出书面报告，未获答复。4月份他又写一份，得到的答复与1928年的大致相同，回答是“不明白一个马克思主义者怎么会产生这样离奇的想法。如果采用这个计划，那么意味着全国的军国主义化，没有比这更‘损害’国家了”。按斯大林的观点，军事改革已于1928年就结束了。