วิทยาลัยแห่งนี้พัฒนาขึ้นบนพื้นฐานของ "มหาวิทยาลัยครูอันฮุย" วิทยาเขตฝูหยาง โดยมีสถาบันก่อนหน้าคือ "โรงเรียนครูเขตฝูหยาง มณฑลอันฮุย" "โรงเรียนฝึกอบรมครูโรงเรียนมัธยมฝูหยาง" และ "หลักสูตรเร่งรัดครูโรงเรียนมัธยมฝูหยาง"

ในปี 1957 ได้มีการก่อตั้ง "หลักสูตรเร่งรัดครูโรงเรียนมัธยมฝูหยาง" ขึ้น โดยประกอบด้วยหลักสูตรสองปีสำหรับวรรณคดีจีนและคณิตศาสตร์ และหลักสูตรหนึ่งปีสำหรับฟิสิกส์ เคมี และภูมิศาสตร์ ในฤดูใบไม้ร่วงปี 1957 หลักสูตรเร่งรัดนี้ได้เปลี่ยนชื่อเป็น "โรงเรียนฝึกหัดครูโรงเรียนมัธยมฝูหยาง" และวิชาวรรณคดีจีนและคณิตศาสตร์ได้รวมเข้ากับ "โรงเรียนฝึกหัดครูเหอเฟย" ส่วนหลักสูตรหนึ่งปีที่เหลือได้ถูกเปลี่ยนเป็นภาควิชาฟิสิกส์และเคมี และภาควิชาประวัติศาสตร์และภูมิศาสตร์ และมีแผนจะขยายออกไปอีกหนึ่งปี อย่างไรก็ตาม เนื่องจาก "การรณรงค์ต่อต้านฝ่ายขวา" นักเรียนเหล่านั้นจึงถูกส่งไปทำงานในช่วงปิดเทอมฤดูหนาวปี 1958

ในเดือนกันยายน พ.ศ. 2491 โรงเรียนฝึกอบรมครูได้เปลี่ยนชื่อเป็น "โรงเรียนครูประจำภูมิภาคฝูหยาง มณฑลอานฮุย" โดยมีจาง เจียนฮวา (张剑华) รองผู้อำนวยการเขตปกครองฝูหยางในขณะนั้น ดำรงตำแหน่งประธาน และหวัง กานเฉิง (王干臣) ดำรงตำแหน่งรองประธานและหัวหน้าพรรค โรงเรียนประกอบด้วยแผนกวรรณคดีจีน คณิตศาสตร์ ฟิสิกส์ เคมี ชีววิทยา ประวัติศาสตร์ และภูมิศาสตร์ ซึ่งทั้งหมดเป็นหลักสูตรสองปี ต่อมาในปี พ.ศ. 2503 ได้เปิดหลักสูตรเร่งรัดด้านรัฐศาสตร์เพิ่มเติม และรับสมัครนักเรียนชั้นเตรียมอุดมศึกษา 2 ชั้น จากผู้สำเร็จการศึกษาระดับมัธยมต้น ซึ่งทั้งหมดได้ย้ายไปเรียนที่โรงเรียนฝึกหัดครูฝูหยางในปี พ.ศ. 2505

ในฤดูใบไม้ผลิปี 1962 โรงเรียนแห่งนี้ได้เปลี่ยนชื่อเป็น "โรงเรียนฝึกหัดครูโรงเรียนมัธยมฝูหยาง" โดยมีวัตถุประสงค์หลักคือการฝึกอบรมครูโรงเรียนมัธยม การรับสมัครเริ่มขึ้นในฤดูใบไม้ร่วงของปีนั้น และวิชาที่สอนได้แก่ วรรณคดีจีน คณิตศาสตร์ ภาษาต่างประเทศ ชีวเคมี และการเมือง ในฤดูร้อนปี 1963 นักเรียนสำเร็จการศึกษาก่อนกำหนด และส่วนใหญ่ถูกส่งไปสอนในโรงเรียนประถมศึกษา บางส่วนได้ศึกษาต่อในโรงเรียนฝึกหัดครูโรงเรียนมัธยมหลิวอัน และสถาบันการศึกษาประจำจังหวัด การรับสมัครถูกระงับในฤดูใบไม้ร่วงปี 1964 และโรงเรียนได้เปลี่ยนไปเป็นสถานที่จัดหลักสูตรฝึกอบรมสองเดือนสำหรับเจ้าหน้าที่บริหารโรงเรียนมัธยมและครูผู้มีความสามารถ และหลักสูตรสามเดือนสำหรับครูโรงเรียนมัธยมเกษตรกรรม โดยมีถัง จ้าวฮวา เป็นประธานและหัวหน้าพรรค โรงเรียนรับสมัครครูจากโรงเรียนเกษตรกรรม 284 คนในปี 1965 และมีหลักสูตรหนึ่งปีสองหลักสูตร คือ วรรณคดีและคณิตศาสตร์ อย่างไรก็ตาม เนื่องจากเกิดการปฏิวัติวัฒนธรรม การ สำเร็จ การศึกษาจึงถูกเลื่อนออกไปจนถึงปี 1968

ในช่วงการปฏิวัติวัฒนธรรม โรงเรียนทั้งหมดได้รับคำสั่งให้ย้ายไปอยู่ในพื้นที่ชนบท และในอำเภอหลินฉวนได้มีการจัดตั้งโรงเรียนมัธยมศึกษาขึ้นสองแห่งในตำบลตันเผิงและตำบลเกาถาง ตามลำดับ ในเวลานั้นมีครูและบุคลากรทั้งหมด 99 คน นอกจากคนงาน 33 คนแล้ว ที่เหลือทั้งหมดถูกส่งไปยังชนบท โรงเรียนประสบความสูญเสียอย่างมากในด้านอาคารเรียน เครื่องมือการสอน เอกสารและหนังสือ และอุปกรณ์ต่างๆ

ภาคการศึกษาของจีนเริ่มฟื้นตัวบางส่วนในปี 1974 บนพื้นที่เดิมของโรงเรียนฝึกหัดครู ได้มีการก่อตั้ง "มหาวิทยาลัยครูอันฮุย" วิทยาเขตฟู่หยาง ซึ่งบริหารร่วมกันโดยรัฐบาลระดับมณฑลและระดับภูมิภาค ถัง จ้าวฮวา กลับมาดำรงตำแหน่งหัวหน้าอีกครั้ง โดยเรียกตัวเองว่าประธานคณะกรรมการปฏิวัติของมหาวิทยาลัย มหาวิทยาลัยมี 5 คณะ ได้แก่ วรรณคดี คณิตศาสตร์ ภาษาต่างประเทศ ฟิสิกส์และเคมี และวิจิตรศิลป์ ประกอบด้วย 6 สาขาวิชา นอกจากนี้ยังมีสำนักงานการสอนลัทธิมาร์กซ์-เลนิน และสำนักงานการสอนกีฬา ซึ่งรับผิดชอบด้านการเมืองสาธารณะและพลศึกษาของมหาวิทยาลัย

ในช่วงปลายปี 1978 สภาแห่งรัฐ ได้อนุมัติ ให้ขยายวิทยาเขตฝูหยางและเปลี่ยนชื่อเป็น "วิทยาลัยครูฝูหยาง" เมื่อวันที่ 1 กันยายน 1979 คณะกรรมการพรรคของวิทยาลัยได้จัดตั้งขึ้นอย่างเป็นทางการ และเมื่อวันที่ 20 กันยายน ได้มีการจัดพิธีสถาปนาวิทยาลัยครูฝูหยาง ซึ่งวันที่ 20 กันยายนยังได้รับการกำหนดให้เป็นวันสถาปนาวิทยาลัยอีกด้วย