Er studierte Germanistik und Klassische Philologe, legte ein Staatsexamen ab und am 29. September 1931 an der Universität Gießen seine Dissertation mit dem Thema "Religionssoziologische Probleme im Roman der deutschen Aufklärung" vor.

Es schlossen sich Tätigkeiten an den Universitätsbibliotheken Gießen und Leipzig sowie in der Weltkriegsbücherei in Stuttgart an.

Von 1934 bis 1939 war er an der Landesbibliothek in Darmstadt tätig.

Nach Krieg und Gefangenschaft (1939 bis 1948) war er von 1949 bis 1959 als Bibliothekar an der Westdeutschen Bibliothek in Marburg beschäftigt, seit 1954 als stellvertretender Direktor. 1959 wurde Gebhardt Direktor der Universitätsbibliothek Tübingen, wo er 1972 in den Ruhestand trat.

Nach Wikipedia wurde ihm vor allem wegen seiner Verdienste um das Depot der vorübergehend in Tübingen untergebrachten Handschriften der ehemaligen Preußischen Staatsbibliothek Berlin 1969 das Bundesverdienstkreuz 1. Klasse verliehen.

Nach Angabe der Entnazifizierungskartei war Gebhardt am 1. Mai 1933 der NSDAP beigetreten. Eine weitere Mitgliedschaft bestand bei deren Schlägerbande SA. Als Adresse war dort der Heinz-Heim-Weg 4 angegeben.