Джон Терри родился 7 декабря 1980 года в Баркинге (район Лондона). В любительском клубе «Сенрабе» (клуб участвовал в Воскресном чемпионате) Терри начал футбольную карьеру. В начале карьеры Джон играл сначала на позиции полузащитника, а затем на позиции которую занимает сейчас - центрального защитника. В 14 лет он попал в «Челси». 28 октября 1988 года Терри дебютировал в основной команде в матче с «Астон Виллой».  Затем футболист играл за «Ноттингем Форест» в основном составе в течении одного года на правах аренды. В сентябре 2001 Джон Терри (также как и Фрэнк Лэмпард, Фрэнк Синклер, Эйдур Гудьонсен и Джоди Моррис) были оштрафованы за то, что они в состоянии алкогольного опьянения издевались над туристами из США практически сразу после событий 11 сентября 2011 года.

Регулярно в стартовом составе «синих» Джон начал выходить в сезоне 2000/2001. В этом сезоне футболисты «Челси» выбрали Терри игроком года. Уже в сезоне 2001/2002 он стал основным защитником своего клуба.

Жозе Моуринью назначил Джона капитаном «Челси», после того как из команды ушёл Марсель Десайи. В сезоне 2004/2005 синие выиграли чемпионство, не малая заслуга в этом и Терри. За  этот сезон ему дали ндве награды  Игрок года по версии футболистов Профессиональной футбольной ассоциации и Лучший защитник Лиги чемпионов УЕФА.

14 октября 2006 в матче против «Рединга» были травмированы оба вратаря «Челси» и у воротах на последних минутах стоял Джон Терри, за 2 минуты игры он успел отразить свободный удар. В том матче «аристократы» одержали победу в 1 мяч.

В сезоне 2006/2007 Терри была сделана операция по удалению межпозвоночного диска.

В игре против «Арсенала» Джон Терри получил удар ногой в голову от Абу Диаби, который пытался выбить мяч. Джон выписался из больницы в тот же день.

В конце июля 2007 года он стал футболистом из самой большой зарплатой в Премьер-лиге (131-135 тысяч фунтов в неделю). Но в 2008 году  его опередил Фрэнк Лэмпард, который подписал контракт на 151 тысячу фунтов в неделю.

В декабре 2007 года в матче с «Арсеналом» Джон получает очередную травму – сломаны три кости в ступне. Восстановившись за 3 месяца он снова начал играть.

В 2009 году «Манчестер Сити» предлагал  «аристократам» 30 миллионов за Джона Терри, на что «Челси» ответил отказом. Сейчас у защитника контракт с «синими» до 2014 года.