แคร์โรลล์ เป็นปีกเขาเริ่มต้นอาชีพในระบบเยาวชนของเซาแธมป์ตันแต่ไม่สามารถลงเล่นในทีมชุดใหญ่ได้^{[ 2 ]}เขาลงไปเล่นฟุตบอลนอกลีกโดยเซ็นสัญญากับ สโมสร โกสปอร์ต บอรอห์ ใน ดิวิชั่นพรีเมียร์ของเซาเทิร์นลีกในปี 1986 ^{[ 3 ]}

แคร์โรลล์ย้ายไปเล่นฟุตบอลลีกเพื่อกลับบ้านเกิดที่ลอนดอนและเข้าร่วมทีมเบรนท์ฟอร์ด สโมสรใน ดิวิชั่น 3โดยไม่มีสัญญาผูกมัดในเดือนกันยายน พ.ศ. 2529 ^{[ 2 ]}เขาลงเล่น 26 นัดและทำได้ 5 ประตูใน ฤดูกาล พ.ศ. 2529-2530และเซ็นสัญญาถาวร^{[ 4 ]}แคร์โรลล์ไม่ได้รับโอกาสลงเล่นมากนักใน ฤดูกาล พ.ศ. 2530-2531แม้ว่าเขาจะทำได้ 5 ประตูจากการลงเล่น 16 นัดใน ตำแหน่งกอง หน้า^{[ 3 ]}เขาปฏิเสธสัญญารายเดือนและออกจากทีมเมื่อสิ้นสุดฤดูกาล^{[ 2 ]}โดยลงเล่น 42 นัดและทำได้ 10 ประตูในช่วงเวลาไม่ถึงสองปีที่กริฟฟินพาร์ค^{[ 3 ]}

หลังจากถูกปล่อยตัวจากเบรนท์ฟอร์ด แคร์โรลล์ก็กลับไปเล่นฟุตบอลนอกลีก โดยเข้าร่วมทีมฟาเรแฮมทาวน์ สโมสรในเซาเทิร์นลีกพรีเมียร์ดิวิชั่น^{[ 3 ]}ซึ่งเขาลงเล่น 50 นัดและทำได้ 12 ประตู^{[ 5 ]}เขาเลื่อนชั้นขึ้นไปเล่นในคอนเฟอเรนซ์ลีกกับเยโอวิลทาวน์ในปี 1989 และทำได้ 43 ประตูจากการลงเล่น 140 นัดในช่วงสามปีที่ฮุยช์พาร์ค^{[ 6 ]} เขาย้ายไปอยู่กับ โวคิงคู่แข่งในคอน เฟอเรนซ์ลีก ในปี 1992 และไม่สามารถสร้างความประทับใจได้ ก่อนที่จะไปเล่นในอิสท์เมียนลีกและเซาเทิร์นลีกกับ^ครอว์ลีย์ทาวน์ [ 7 ] ซอลส์เบอรีซิตี้ [ ^{8 ]}เบซิ^งสโตกทาวน์วอร์ธิงและแบชลีย์^{[ 9 ]}