Scholl lernte beim Steinmetzbetrieb Wittmann den Beruf des Steinmetzes, besuchte die Landesbaugewerkschule in Darmstadt, in Frankfurt das Städelsche Kunstinstitut und studierte anschließend in Berlin. Danach unternahm er Studienreisen nach München und ins Rheinland. 1912 übernahm er in Darmstadt den väterlichen Steinmetzbetrieb des Hofbildhauers Carl Scholl in der Nieder-Ramstädter Straße 87.
Scholls Tochter Ulla folgte der Familientradition und wurde ebenfalls Bildhauerin.
Hermann Scholl schloss sich 1933 der NSDAP an.