กองพลปืนไรเฟิลที่ 84 ก่อตั้งขึ้นในปี 1923 ที่เมืองทูลาโดยเป็นหนึ่งในกองพลทหารรักษาดินแดนของกองทัพแดงหลายกองพล ซึ่งได้รับมอบหมายให้ประจำการในเขตทหาร มอส โก ทหารผ่านศึก จากสงครามกลางเมืองรัสเซีย จาก กองพลปืนไรเฟิลที่ 36และกรมปืนไรเฟิลเติร์กสถานธงแดงที่ 12 ถูกนำมาใช้เพื่อจัดตั้งกำลังพลประจำการของกองพลร่วมกับเจ้าหน้าที่บังคับบัญชาอาสาสมัคร หลังจากที่กำลังพลมาถึง พวกเขาก็เริ่มเตรียมการสำหรับค่ายฝึกทหารรักษาดินแดนแห่งแรก ซึ่งเกี่ยวข้องกับการระดมพลฝึกหัดของชายท้องถิ่นอายุ 21 ถึง 25 ปี ค่ายฝึกจัดขึ้นระหว่างวันที่ 4 ถึง 19 ธันวาคม ทหารผ่านศึกของกองพลเล่าถึง "ความไม่พอใจและความขุ่นเคืองอย่างไม่มีที่สิ้นสุด" ของทหารรักษาดินแดนที่พบว่าตนเองอยู่ใน "ค่ายทหารที่ไม่มีฉนวนกันความร้อน ไม่มีแสงสว่าง ขาดเฟอร์นิเจอร์และเครื่องนอน" ^{[ 1 ]}ค่ายฝึกประกอบด้วยการเดินขบวนและการโจมตีจำลอง และมีผู้บัญชาการทหารสูงสุดของกองทัพเซอร์เกย์ คาเมเนฟมา เยี่ยมชม ^{[ 2 ]}

กองพลนี้ได้รับมอบหมายให้สังกัดกองพลปืนไรเฟิลที่ 2ของเขตทหารมอสโกในเดือนตุลาคม พ.ศ. 2467 ^{[ 3 ]}

ในเดือนกรกฎาคม พ.ศ. 2483 กองพลนี้ได้รับการปรับโครงสร้างใหม่เป็นกองพลยานยนต์ที่ 84 แห่งกองทัพยานยนต์ที่ 3ซึ่งประจำการอยู่ในเขตทหารพิเศษบอลติกพลตรีปิโอตร์ โฟเมนโกนายทหารม้า ได้เป็นผู้บัญชาการกองพลเมื่อมีการปรับโครงสร้างใหม่ หลังจากเริ่มปฏิบัติการบาร์บารอสซาการรุกรานสหภาพโซเวียตของเยอรมนี กองพลและกองทัพของกองพลนี้ได้เข้าร่วมการรบตามแนวชายแดนในฐานะส่วนหนึ่งของแนวรบตะวันตกเฉียงเหนือในระหว่างยุทธการราเซเนียระหว่างวันที่ 23 ถึง 25 มิถุนายน กองพลและกองทัพของกองพลนี้ประสบความสูญเสียอย่างมาก สูญเสียอุปกรณ์เกือบทั้งหมด ต่อมาส่วนที่เหลือของกองทัพที่ถูกล้อมได้ทำการถอยทัพอย่างมีระเบียบผ่านลิทัวเนียและเบลารุส หลังจากการต่อสู้ที่ดุเดือดและนองเลือดบน แม่น้ำ เนมูนัสกองพลยานยนต์ที่ 84 ประสบความสูญเสียอย่างหนักและได้รับการปรับโครงสร้างใหม่เป็นกองพลปืนไรเฟิลที่ 84 ในกลางเดือนกรกฎาคม^{[ 4 ]}

ในเดือนสิงหาคม กองพลที่ 84 ถูกถอนกำลังเพื่อจัดระเบียบใหม่ในวัลดายตั้งแต่เดือนกันยายน กองพลซึ่งได้รับมอบหมายให้สังกัดกองทัพที่ 11และต่อมาคือกองทัพที่ 34แห่งแนวรบตะวันตกเฉียงเหนือ ได้ป้องกันวัลดาย จากนั้นจึงเข้าร่วมการรุกเดมยานสค์ในปลายเดือนสิงหาคม พ.ศ. 2485 กองพลถูกส่งไปยังแนวรบสตาลินกราดในฐานะส่วนหนึ่งของกองทัพรถถังที่ 4และต่อมาคือกองทัพที่ 66ตั้งแต่เดือนตุลาคม กองพลได้เข้าร่วมการรบป้องกันอย่างต่อเนื่อง ป้องกันไม่ให้กองกำลังฝ่ายอักษะบุกทะลวงเข้าสู่สตาลินกราด ตั้งแต่เดือนพฤศจิกายน ในฐานะส่วนหนึ่งของกองทัพที่ 24แห่งแนวรบดอน กองพลได้เข้าร่วมในการล้อมและทำลายกองทัพเยอรมันในสตาลินกราดในปฏิบัติการโคลต์โซ^{[ 4 ]}

ในเดือนเมษายน พ.ศ. 2486 หลังจากสิ้นสุดสงคราม กองพลถูกย้ายไปยังพื้นที่โวโรเนซเพื่อฟื้นฟู ในเดือนเดียวกันนั้น โฟเมนโกได้รับการเลื่อนตำแหน่งเป็นผู้บัญชาการกองทัพ^{[ 4 ]} โดยมีพันเอก พาเวล บุนยาชินเข้ามาแทนที่ซึ่งได้รับการเลื่อนตำแหน่งเป็นพลตรีเมื่อวันที่ 1 กันยายน บุนยาชินเป็นผู้บัญชาการกองพลตลอดช่วงที่เหลือของสงคราม ในฐานะส่วนหนึ่งของกองทัพพิทักษ์ที่ 53และ 5 แห่งแนวรบสเตปป์ ( กองทัพ ยูเครนที่ 2ตั้งแต่ตุลาคม พ.ศ. 2486) กองพลได้เข้าร่วมการรบในยุทธการเคิร์สค์ยุทธการดนีเปอร์ การรุกคิรอฟกราด การรุกคอร์ ซุน-เชฟเชนคอฟสกีและการรุกจัสซี-คิชิเนฟครั้งที่สองกองพลได้รับชื่อคาร์คอฟเป็นเกียรติเมื่อวันที่ 23 สิงหาคม พ.ศ. 2486 จากการปฏิบัติการในการยึดเมืองนั้น และได้รับเครื่องราชอิสริยาภรณ์ธงแดงในอีกหนึ่งเดือนต่อมา ในช่วงปลายปี พ.ศ. 2487 กองพลซึ่งเป็นส่วนหนึ่งของกองพันปืนไรเฟิลพิทักษ์ที่ 20แห่งกองทัพพิทักษ์ที่ 4ได้ถูกถอนกำลังไปอยู่ในกองกำลังสำรองของกองบัญชาการสูงสุดและในเดือนพฤศจิกายนได้เข้าร่วมกับแนวรบยูเครนที่ 3เพื่อเข้าร่วมในการรุกที่บูดาเปสต์ในช่วงสัปดาห์สุดท้ายของสงคราม กองพลนี้ได้เข้าร่วมใน การรุก ที่เวียนนา^{[ 5 ]}

หลังสงคราม กองพลนี้ถูกยุบในเดือนสิงหาคม พ.ศ. 2488 และกองกำลังของกองพลนี้ถูกนำไปใช้เพื่อเสริม^{กำลัง} กองพลปืนไรเฟิล ที่ 21และ93ของกองทัพที่ 57 ^{[ 6} ]