Den Justizakten ist zu entnehmen, dass er eine Dissertation verfasst hat, die jedoch nach Bekanntwerden seiner Homosexualität - zu der er sich offen bekannte - und seiner Verurteilung nicht mehr veröffentlicht wurde. Das Thema seiner Doktorarbeit lautete "Die Lehre vom Wort Gottes bei Gabriel Biel". Sie wurde 1935 mit "gut" bewertet, jedoch wegen seiner Homosexualität handschriftlich mit "ausreichend" abgewertet.
Da Homosexuelle von den Nazis verfolgt wurden, geriet Orlemann in den Fokus der Nazi-Justiz, wurde mehrmals angeklagt und auch verurteilt. Seine Kirche, selbst gegenüber der Homosexualität ablehnend eingestellt, half ihm nicht wirklich. Der Pfarrer seiner Heimatgemeinde Arheilgen, Karl Grein, bemühte sich um ihn, konnte ihn aber nicht vor den Schergen der Nazis retten. Und so endete sein kurzes Leben wie das vieler anderer Schwuler im KZ.
In dem Artikel der Arheilger Post vom 19. Dezember 2002 "Gegen das Vergessen eines im KZ ermordeten Mitbürgers" berichtete der bekannte Arheilger Philipp Benz über das Schicksal Orlemanns und fragte, warum er und sein Schicksal in Vergessenheit geraten sei. Herr Philipp Benz regte an, sich des gewaltsamen Todes zu erinnern und ihm ehrend zu gedenken.
schrieb Benz.
Der Darmstädter Gruppe "Homosexuelle und Kirche" ist es zu verdanken, dass zum Gedenken an ihn am 16. Oktober 2015 in der Messeler Straße 32 in Darmstadt-Arheilgen ein Stolperstein verlegt wurde, für den der Kirchenpräsident der EKHN, Dr. Volker Jung, die Patenschaft übernommen hatte. In seiner Rede erwähnte der stellvertretende Dekan im Dekanat Darmstadt-Land, Pfarrer Andreas Schwöbel, dass es "... hier in Arheilgen auch Zweifel und Unmut gegeben (habe), dass dieser Stolperstein für Heinrich Orlemann verlegt werden soll."
Am 6. Dezember 2015 erschien in der Evangelischen Sonntagszeitung der Artikel "Ich bin Menschenfreund - Ich war immer allein" von Marlene Broeckers. Darauf wandte sich unter dem 9. Dezember 2015 Universitätsprofessor a. D. Helmut Castritius in einer E-Mail im Namen des Arheilger Geschichtsvereins an die Verfasserin des Artikels, indem er unter anderem schrieb:
Der Verfasser dieser Zeilen war Professor für Geschichte an einer deutschen Universität!
Der nun entstandene Briefwechsel mit der Kirchengemeinde und der Leitung der Evangelischen Landeskirche zeigte, dass zwischen dem vorbildlichen Verhalten des Kirchenpräsidenten einerseits und der Haltung mancher Kirchengemeinden andererseits offenbar noch immer Differenzen existieren bis hin zu einer subtilen Vorurteilshaltung gegen über Homosexuellen.
Unter Hinweis auf den bereits erwähnten Artikel in der Arheilger Post wandte sich die Deutsche Friedensgesellschaft - Vereinigte KriegsdienstgegnerInnen (DFG-VK) am 25. Februar 2016 an die Auferstehungsgemeinde in Arheilgen mit der Frage, warum die Evangelische Kirchengemeinde die Anregung von Herrn Benz nicht aufgegriffen habe. Die am 1. März 2016 an die DFG-VK erfolgte Antwort lautete:
Der von der DFG-VK eingeschaltete Kirchenpräsident antwortete prompt im Sinne einer Aufklärung durch die zuständige Dekanin. Auf eine schriftliche Nachfrage nach Ablauf eines Vierteljahres bat die Dekanin die DFG-VK in einem Telefongespräch um noch etwas Geduld. Es entstand eine Pause und nichts passierte. Doch dann kam am 2. November 2016 eine E-Mail der Arheilger Kirchengemeinde folgenden Inhalts:
Die Frage der DFG-VK, warum die Kirchengemeinde den Vorschlag von Philipp Benz nicht aufgegriffen habe, blieb unbeantwortet trotz Einschaltung der Dekanin. Andreas Schwöbel hatte wohl recht, wenn er sagte:
Ein schändliches Zeichen für die Haltung manchen "Bodenpersonals" der Evangelischen Kirche und Anerkennung für die Haltung des Kirchenpräsidenten. Und beschämend für einen Geschichtsverein, in dem auch ehemalige Gymnasiallehrer und Oberbürgermeister Mitglied sind.