เกรแฮมเริ่มต้นอาชีพนักฟุตบอลอาชีพในสกอตแลนด์บ้านเกิดของเขา โดยเข้าร่วมทีมมอร์ตัน สโมสร ในดิวิชั่นหนึ่งของลีกสกอตแลนด์เมื่อวันที่ 1 สิงหาคม พ.ศ. 2507 ^{[ 2 ]}เขาทำประตูได้ 1 ประตูจากการลงเล่นในลีก 6 นัดให้กับสโมสร ก่อนจะออกจากทีมเมื่อสิ้นสุดฤดูกาลพ.ศ. 2508–2509 ^{[ 3 ]}

เกรแฮมย้ายไปร่วมทีม ดันดี ยูไนเต็ด ซึ่งเป็นสโมสรชั้นนำเช่นกันด้วยค่าตัว 15,000 ปอนด์ เมื่อวันที่ 20 สิงหาคม พ.ศ. 2509 ^{[ 4 ] [ 5 ]}เขาไม่ประสบความสำเร็จที่แทนนาร์ไดซ์และลงเล่นเพียง 27 นัดตลอดสามฤดูกาล ทำได้ 10 ประตู^{[ 6 ]}เขาได้รับประสบการณ์เพิ่มเติมจากการยืมตัวไปเล่นให้กับสโมสรดัลลัส ทอร์นาโด ใน สมาคมฟุตบอลยูไนเต็ดในฤดูกาล พ.ศ. 2510 ซึ่งเขาทำได้ 4 ประตูจากการลงเล่น 11 นัด^{[ 7 ]}เกรแฮมออกจากดันดี ยูไนเต็ดเมื่อสิ้นสุดฤดูกาล พ.ศ. 2511–2512 ^{[ 8 ]}

เกรแฮมย้ายไปอังกฤษในช่วงปิดฤดูกาลปี 1969 เพื่อเข้าร่วมสโมสรGuildford CityในSouthern League First Division ^{[ 8 ]}ต่อมาเขาเปิดเผยว่าการย้ายทีมเกิดขึ้นเพราะแฟนสาวของเขาอาศัยอยู่ในเมืองนั้น^{[ 8 ]}เกรแฮมทำประตูได้ 20 ประตูจาก ตำแหน่ง ปีกซ้ายใน ฤดูกาล 1969–70และดึงดูดความสนใจจากสโมสรในฟุตบอลลีก^{[ 9 ]}เขารู้สึกว่าตัวเอง "ถูก Guildford เอาเปรียบอยู่บ้าง" หลังจากที่สโมสรในลีกอย่างWolverhampton Wanderers , Oxford United , Cardiff City , Coventry CityและLeeds Unitedต่างถอนตัวจากข้อตกลงที่จะเซ็นสัญญากับเขา เนื่องจาก Guildford เรียกร้องค่าตัวสูงเกินไป^{[ 8 ]}

เกรแฮมเข้าร่วมทีมเบรนท์ฟอร์ด สโมสร ดิวิชั่น 4ด้วยค่าตัว 2,500 ปอนด์ในเดือนกรกฎาคม พ.ศ. 2513 ^{[ 10 ]}โดยไปเซ็นสัญญากับสโมสรโดยไม่แจ้งให้คณะกรรมการบริหารของกิลด์ฟอร์ด ซิตี้ ทราบ^{[ 8 ]}เขาประสบความสำเร็จภายใต้การบริหารของแฟรงค์ บลันสโตน และย้ายจากตำแหน่งปีกซ้ายไปเป็น กองกลางตัวรุก [ ^{8 ] เขา} เป็นตัวเลือกอัตโนมัติในแดนกลาง เป็น เพลย์เมกเกอร์ของทีม และเป็น ผู้รับหน้าที่ เตะลูกตั้งเตะเป็นประจำโดยทำประตูได้ 2 ประตูโดยตรงจากลูกเตะมุม^{[ 4 ]}แม้จะเคยคิดจะกลับไปกิลด์ฟอร์ด ซิตี้ ในช่วงที่ไมค์ เอเวอร์ริตต์เป็นผู้จัดการทีม^{[ 8 ]}เกรแฮมก็ยังคงอยู่กับเบรนท์ฟอร์ด ซิตี้ และลงเล่น 409 นัด ทำได้ 40 ประตู ในช่วงทศวรรษที่กริฟฟิน พาร์ค^{[ 9 ]}เขาได้เลื่อนชั้นจากดิวิชั่น 4 ใน ฤดูกาล 1971–72และ1977–78 และผลงานของเขาทำให้เขาได้รับรางวัล ผู้เล่นยอดเยี่ยมแห่งปีของสโมสรจาก^การ โหวตของเพื่อนร่วมทีม ในฤดูกาล 1971–72 และ1976–77 [ ^{11 ] เขา}ยังได้รับการแต่งตั้งเป็นกัปตันทีมโดยBill Dodgin [ ^{8 ]}หลังจากที่เขาปฏิเสธบทบาทนี้ภายใต้ผู้จัดการทีมคนก่อนJohn Docherty ^{[ 12 ]}

เกรแฮมออกจากเบรนท์ฟอร์ดในปี 1980 หลังจากไม่ลงรอยกับเฟร็ด คัลลาแกนผู้จัดการ ทีมคนใหม่ ^{[ 8 ]}เกรแฮมได้รับการต้อนรับอย่างอบอุ่นจากผู้ชมที่กริฟฟินพาร์คเมื่อเขาเดินออกมาจากอุโมงค์ในฐานะผู้เล่นของแอดเดิลสโตน แอนด์ เวย์บริดจ์ ทาวน์ในเดือนพฤศจิกายน 1980 ^{[ 12 ]}ก่อนการแข่งขันเอฟเอคัพ^{[ 9 ]}เกรแฮมได้รับการยกย่องสำหรับการรับใช้ทีมเบรนท์ฟอร์ดโดยได้รับเกียรติ ให้จัดการแข่งขันนัด อำลากับวัตฟอร์ดในเดือนพฤษภาคม 1982 ^{[ 9 ]}ซึ่งเขาได้รับเงินประมาณ 3,500 ปอนด์^{[ 13 ]} เกรแฮมได้รับการแต่งตั้งเข้าสู่ หอเกียรติยศของสโมสรในเดือนธันวาคม 2013 ^{[ 14 ]}

เกรแฮมกลับไปเล่นฟุตบอลนอกลีก อีกครั้ง โดยเซ็นสัญญากับสโมสร Addlestone & Weybridge Town ใน Southern League Southern Division ในปี 1980 และได้รับแต่งตั้งเป็นกัปตันทีม^{[ 9 ]}ต่อมาเขายังได้เล่นให้กับFarnborough Town , Hounslow Town , Woking , Burnham & HillingdonและStaines Town อีก ด้วย^{[ 9 ]}