จิมมี่ เทา เริ่มต้นอาชีพกับบาโซโธ ไทเกอร์ส ใน ฤดูกาล วอดาคอม ลีก ปี 1999/00 ในระดับกึ่งอาชีพ สโมสรได้รับการเลื่อนชั้นสู่ดิวิชั่นหนึ่งแห่งชาติและจบอันดับที่ 11 ในฤดูกาลแรก^{[ 1 ]}

ในฤดูกาล 2001/02 เขาได้ย้ายไปที่เมืองมาริตซ์เบิร์ก ซึ่งเขาจะได้เล่นเคียงข้างกับเพื่อนร่วมทีมในอนาคตอย่างมาบูติ เคนเยซาเทาลงเล่น 28 เกมและช่วยให้ทีมจบอันดับ 3 ในตารางคะแนน^{[ 2 ]}

Tau เซ็นสัญญากับ Orlando Pirates ก่อนฤดูกาล 2002/2003 และคว้าแชมป์ลีกกับ Buccaneers ในฤดูกาลนั้น^{[ 3 ]}

เทาเข้าร่วมทีมชีฟส์ในปี 2005 การลงเล่นนัดแรกของเขาให้กับชีฟส์คือในรอบก่อนรองชนะเลิศ SAA Supa 8 เมื่อวันที่ 20 สิงหาคม 2005 ซึ่งแพ้ให้กับบลูมฟอนเทน เซลติก 2-1 ประตูแรกของเขาให้กับชีฟส์เกิดขึ้นในเกมลีกกับซิลเวอร์ สตาร์สเมื่อวันที่ 23 เมษายน 2006 ซึ่งชนะ 2-1 ^{[ 4 ]}เทาได้เป็นกัปตันทีมชีฟส์เป็นเวลาแปดปี ซึ่งตรงกับช่วงที่สโมสรคว้าแชมป์เนดแบงก์ คัพ สองสมัย, แชมป์ MTN8 คัพ สองสมัย, แชมป์เทลคอม น็อคเอาท์ สามสมัย และแชมป์ Absa Premiership ฤดูกาล 2012/2013 เมื่อสิ้นสุดช่วงเวลาของเขา เทาได้ลงเล่นให้กับชีฟส์ไป 210 นัด^{[ 5 ]}

ในเดือนธันวาคม พ.ศ. 2555 เทาได้ดำรงตำแหน่งผู้อำนวยการของ Bataung Memorial Tombstones ซึ่งเป็นบริษัทผลิตป้ายหลุมศพที่ตั้งอยู่ในKatlehong [ ^{10 ] เทา}เป็นหนึ่งในอดีตนักกีฬา 3 คนที่ปรากฏตัวในรายการSurvivor South Africaซึ่งถ่ายทำในเดือนตุลาคม พ.ศ. 2556 บนเกาะนอกชายฝั่งมาเลเซียในทะเลจีนใต้รวมถึงอดีตผู้เล่นกองหลังของลาซิโออย่าง มาร์ค ฟิชและอดีตกัปตันทีมสปริงบ็อกส์อย่าง คอร์เน่ คริจเทาบรรยายเกาะนี้ว่า "เป็นเกาะที่สวยงาม ร้อนจัด และชื้นมาก" ^{[ 11 ]}เทาได้ออกหนังสืออัตชีวประวัติของเขาเมื่อวันที่ 25 ธันวาคม พ.ศ. 2556 ชื่อ "Jimmy Tau - My Life Story" ^{[ 12 ]}