Bonham nació en Redditch,Worcestershire, Inglaterra. Empezó a tocar la batería a los cinco años; tuvo su primer equipamiento rítmico a la edad de catorce años.
En 1964, Bonham formó su primera banda, Terry Webb and the Spiders. También tocaba para bandas locales, como The Blue Star Trio y The Senators. Fue en esta época cuando Bonham decide dedicarse a la música profesionalmente. Se une a varias bandas de poco éxito, incluyendo la banda deblues Crawling King Snakes, cuyo cantante era Robert Plant.
Durante ese período, Bonham se gana la reputación de ser el baterista más ruidoso de toda Inglaterra. En una ocasión le pidieron que se fuera del Birmingham Studio porque tocaba demasiado fuerte como para ser soportado por el dueño, que incluso le dijo que no había futuro para un baterista como él. Diez años después, el dueño del estudio recibió una nota en la cual se leía «Thanks for the career advice...» («Gracias por el consejo profesional...»), acompañada de un disco de oro de Led Zeppelin.