Джон Мейджор родился 29 марта 1943 года, в Лондонском пригороде Мертон, он был сыном Гвендолин и Томаса Мейджор. Томасу Мейджору было 66 лет, когда родился его сын; он был человеком с очень разнообразной жизнью – он был цирковым акробатом, водевилистом, наемником, и изготовителем украшений для сада.

Когда Джон Мейджор был очень молод, семья жила в достатке, и он посещал Среднюю школу Ратлиш, управляемую государством школу для одаренных детей. Когда ему исполнилось 11, его семья переехала в Брикстон, так называемый «Южный Бронкс Лондона», после того, как бизнес Томаса Мейджора прогорел.

Молодой Мейджор не любил авторитарную атмосферу школы и бросил ее в 16 лет, чтобы найти себе работу. Его первой работой была служба конторского служащего, которую он вскоре оставил, чтобы сделать более прибыльную «карьеру» строительным чернорабочим. Вскоре, однако, он был уволен и провел несколько месяцев, живя на пособие. Эти месяцы оказались формирующим опытом для Мейджора, который стал Консерватором после того, как принял решение, что «социалистический патернализм только увековечивал бедность». В 18 лет Мейджор нашел другую офисную работу и начал свою карьеру. Благодаря своему уму и тяжелой работе он быстро пробирался по карьерной лестнице в Standard Chartered bank, в конечном счете, становясь помощником председателя банка. В середине 1960-ых годов Мейджор уехал в Нигерию, где он выполнял работу специалиста по социальному обеспечению, и именно здесь в нем выработалась стойкая неприязнь к расизму, и он стал ярым анти-расистом.

После своего возвращения Мейджор длительное время работал в банке и начал принимать активные усилия в политике, сначала на местном уровне. Он служил членом Городского совета Ламбета с 1968 года до 1971 года, и был председателем комитета по жилью Совета с 1970 года до 1971 года. В этот период он дважды пытался получить место в парламенте в 1974 году (проиграл), и, в конечном счете, в 1979 году он стал депутатом от Консервативной партии.