蘇芬戰(zhàn)爭后，斯大林著手對軍隊進(jìn)行調(diào)整，伏羅希洛夫和謝苗·布瓊尼都被調(diào)任，沙波什尼科夫的待遇則不同，他思路廣闊，頭腦敏銳，善于分析，謙虛寬厚，紀(jì)律嚴(yán)明，繼續(xù)受到斯大林的重用。1940年8月起任蘇聯(lián)副國防人民委員。

在1940年蘇聯(lián)緊張備戰(zhàn)時，斯大林讓副國防人民委員沙波什尼科夫就德國入侵可能采用什么計劃，起草一份全面的參謀報告。

沙波什尼科夫在報告中認(rèn)為，德國的主攻方向?qū)⒃诓_的海和普里皮特沼澤地之間，針對著斯摩棱斯克和莫斯科。

在同年九月的政治局會議上，斯大林仔細(xì)聽取了這一匯報，卻對它不以為然，認(rèn)為德軍的主要突擊方向是西南方向，否決了這一由沙波什尼科夫做出的報告。斯大林的這一錯誤判斷，對蘇德戰(zhàn)爭初期的發(fā)展產(chǎn)生了極為不利的影響。

四、衛(wèi)國戰(zhàn)爭

1941年7月21—30日他任西方向參謀長（輔佐謝苗·鐵木辛哥），后接替脾氣火暴的格奧爾吉·朱可夫復(fù)任總參謀長，在其直接參與下制訂了蘇軍1941—1942年準(zhǔn)備和實施的一些重大戰(zhàn)役（斯摩棱斯克戰(zhàn)役、1941年底一1942年初蘇軍的冬季反攻和總攻）的作戰(zhàn)方案。

為此登上美國時代周刊封面，他雖然深受斯大林敬重，斯大林總是尊敬地稱呼沙波什尼科夫的名字和父名“鮑里斯·米哈伊洛維奇”，是當(dāng)著斯大林的面唯一被允許抽煙的人，但性格偏于軟弱，遇事不敢力爭，他不同意斯大林的1942年夏季反攻計劃，又無法阻止。