เช่นเดียวกับบิดาของเขา ฮอร์สฟอลล์เป็นผู้สนับสนุนที่แน่วแน่ของ ขบวนการ แองโกล-คาทอลิกและการบริจาคของเขาสะท้อนให้เห็นถึงเป้าหมายนี้^{[ 1 ]}

ในปี พ.ศ. 2426 ฮอร์สฟอลล์และมารดาของเขาได้ให้ทุนสร้างโบสถ์เซนต์แอกเนสและเซนต์แพนคราส ท็อกซ์เทธพาร์ค โบสถ์แห่งนี้ได้รับการออกแบบโดยจอห์น ลอฟโบโรห์ เพียร์สันและนิโคลาอุส เพฟสเนอร์ ได้บรรยายไว้ ว่า "เป็นโบสถ์สไตล์วิคตอเรียนที่สวยงามที่สุดในลิเวอร์พูล...เป็นตัวอย่างของความสง่างามในยุคปลายวิคตอเรียนในการออกแบบโบสถ์" ^{[ 4 ]}ในปี พ.ศ. 2518 โบสถ์แห่งนี้ได้รับการขึ้นทะเบียนระดับสูงสุด Grade I เนื่องจากมีความสำคัญทางประวัติศาสตร์

ในปี พ.ศ. 2443 เขาได้ให้ทุนสร้างโบสถ์เซนต์เฟธในเกรตครอสบี^{[ 5 ]}

ในปี พ.ศ. 2449 เขาได้ก่อตั้งโบสถ์เล็กๆ แห่งเซนต์แพนคราส เซฟตันพาร์ค ซึ่งเป็นโบสถ์สาขาของเซนต์แอกเนส โบสถ์นี้ปิดตัวลงในปี พ.ศ. 2480 และถูกใช้เป็นหอประชุมโรงเรียนจนกระทั่งถูกรื้อถอนในปี พ.ศ. 2546 ^{[ 6 ]}

ในปี พ.ศ. 2456 เขาได้ให้ทุนสร้างโบสถ์เซนต์พอล ลิเวอร์พูลซึ่งออกแบบโดยไจล์ส กิลเบิร์ต สก็อตต์ [ ^{5 ] [ 1 ] เป็น}โบสถ์ที่สร้างด้วยอิฐที่ใหญ่ที่สุดในยุโรป และสก็อตต์ใช้เป็นสถานที่ทดลองสำหรับแนวคิดหลายอย่างที่ต่อมานำไปใช้ใน^มหาวิหารลิเวอร์พูล [ ^{6 ]}

ฮอร์สฟอลล์เป็นสมาชิกของคณะกรรมการชุดแรกสำหรับการสร้างมหาวิหารลิเวอร์พูล แม้ว่าเขาจะไม่ได้บริจาคเงินให้กับการก่อสร้างก็ตาม^{[ 7 ]}

ในปี ค.ศ. 1904 เขาได้กลายเป็นผู้บริจาครายใหญ่ที่มีส่วนร่วมในการก่อตั้งSt Chad's Hallที่มหาวิทยาลัยเดอร์แฮมเพื่อฝึกอบรมบาทหลวงแองโกล-คาทอลิกให้รับใช้ในคริสตจักรแห่งอังกฤษ^{[ 1 ]} เขายังคงรักษาสายสัมพันธ์นี้ไว้และบริจาคให้กับหอพักตลอดชีวิตของเขา และได้รับการยกย่องให้เป็น "Fundator Noster" (ผู้ก่อตั้งของเรา) ในนิตยสารของวิทยาลัย (แม้ว่าในช่วงไม่กี่ปีที่ผ่านมา วิทยาลัยจะแบ่งตำแหน่งนั้นกับJulia Warde-Aldamผู้บริจาคให้กับสถาบันก่อนหน้าคือSt Chad's Hostel ก็ตาม ) ^{[ 8 ]}ในปี ค.ศ. 1907 มหาวิทยาลัยได้มอบปริญญาโทศิลปศาสตรมหาบัณฑิตกิตติมศักดิ์ให้แก่ Horsfall เพื่อเป็นการยกย่องการสนับสนุนนี้^{[ 1 ]}

ห้องโถงยังคงหลงเหลืออยู่เป็นวิทยาลัยเซนต์แชด เมืองเดอร์แฮม และภาพเหมือนของฮอร์สฟอลล์แขวนอยู่เหนือโต๊ะอาหารหลักในห้องรับประทานอาหาร^{[ 8 ] [ 9 ]}