J.G. Knol groeide op in een traditioneel gereformeerd gezin in Utrecht. Zijn vader dreef een sigarenwinkel. Het gezin woonde boven de winkel in de Oudwijkerveldstraat. Knol bezocht de Christelijk Nationale school aan de Maliebaan in Utrecht. De crisistijd ging aan het gezin Knol niet ongemerkt voorbij: als zoveel middenstanders leed het in de jaren dertig armoede. De Duitse inval in mei 1940 en de daaropvolgende bezetting herinnert Knol zich als jaren van schaarste, waarin de jongen op tijd thuis moest zijn. De familie Knol ging niet in het verzet, maar raakte betrokken bij de kerkscheuring van 1944, waarin vader en zoon partij kozen voor de Kamper hoogleraar K. Schilder. J.G. Knol werd voor de oorlog lid van de gereformeerde knapenvereniging, die grote invloed op hem uitoefende. De intellectuele vorming die daarvan uitging, werd voor zijn besef voortgezet in de Vrijmaking. De gedachte dat de gereformeerde kerk (vrijgemaakt) de ‘ware kerk’ zou zijn, heeft hem echter nooit aangesproken. Knol studeerde na de oorlog economie aan de Vrije Universiteit, waar hij ook hoogleraar werd.