ฟอสเตอร์ลงสมัครรับเลือกตั้งเป็นสมาชิกสภาคองเกรสในปี พ.ศ. 2381 แต่ไม่ประสบความสำเร็จ^{[ 3 ]}ในปี พ.ศ. 2483 เขาได้รับเลือกเป็นสมาชิกสภาคองเกรสจากพรรควิกในสภาคองเกรสชุดที่ 27 (4 มีนาคม พ.ศ. 2484 ถึง 3 มีนาคม พ.ศ. 2486) ^{[ 4 ]}ในระหว่างดำรงตำแหน่ง ฟอสเตอร์ดำรงตำแหน่งประธานคณะกรรมการด้านการใช้จ่ายในกระทรวงการคลัง^{[ 5 ]} เขาไม่ได้ลงสมัครรับเลือกตั้งใหม่ใน ปีพ.ศ. 2485

ในปี พ.ศ. 2387 เขาได้ย้ายไปอยู่ที่ฟาร์มแห่งหนึ่งในแฟร์แฟ็กซ์ รัฐเวอร์จิเนียซึ่งรวมถึงที่ดินที่ปัจจุบันคือไทสันส์คอร์เนอร์ [ ^{6 ] [ 7 ] ใน}ช่วงปี พ.ศ. 2393 เขาได้ดำรงตำแหน่งเป็นกรรมาธิการประจำเทศมณฑลแฟร์แฟ็กซ์^{[ 8 ]}

ในช่วงสงครามกลางเมืองฟอสเตอร์สนับสนุนฝ่ายสหภาพและย้ายไปอยู่ที่วอชิงตัน ดี.ซี. ชั่วคราว ในปี พ.ศ. 2405 เขาได้รับการแต่งตั้งเป็นตัวแทนอินเดียนแดงของสหรัฐฯ สำหรับชาวชิปเปวาแห่งแม่น้ำมิสซิสซิปปีในมินนิโซตา^{[ 9 ]}

หลังสงครามกลางเมือง เขากลับมาที่แฟร์แฟ็กซ์ และได้รับการแต่งตั้งให้เป็นหนึ่งในสามคณะกรรมการภาษีของสหรัฐฯ สำหรับส่วนเหนือของรัฐ หลังจากที่เวอร์จิเนียได้รับการยอมรับกลับเข้าสู่สหภาพ^{[ 10 ]} ในฐานะนี้ เขามีหน้าที่รับผิดชอบในการขาย ที่ดินของโรเบิร์ต อี. ลี ให้แก่รัฐบาลกลางซึ่งปัจจุบันคือ สุสานแห่งชาติอา ร์ลิงตัน^{[ 11 ]}

สุขภาพของฟอสเตอร์เริ่มทรุดโทรมในช่วงทศวรรษ 1870 หลังจากนั้นเขาจึงไปอาศัยอยู่ที่วอชิงตัน ดี.ซี. เขาเสียชีวิตที่นั่นในวันที่ 21 พฤษภาคม 1877 และถูกฝังที่สุสานเกลนวูด^{[ 12 ]}

ในช่วงทศวรรษ 1890 ทายาทของเขาได้ยื่นคำร้องต่อรัฐสภา เพื่อขอค่าชดเชยเกือบ 29,000 ดอลลาร์ (มากกว่า 712,000 ดอลลาร์ในปี 2009) สำหรับทรัพย์สินและเสบียงของฟอสเตอร์ที่ กองทัพสหภาพใช้หรือถูกทำลายโดยฝ่ายสมาพันธรัฐในช่วงต้นทศวรรษ 1900 ศาลเรียกร้องของสหรัฐอเมริกาได้อนุมัติการชำระเงินบางส่วนเพื่อยุติคดี^{[ 13 ]}