Geiß wurde am 31. Mai 1935 in Ellwangen/Jagst geboren. Im Jahr 1954 begann er sein Studium der Rechtswissenschaften an den Universitäten München und Tübingen. Nach seinem zweiten Staatsexamen 1964 trat er in den Justizdienst des Landes Baden-Württemberg ein. Dort war er in verschiedenen Positionen tätig, unter anderem als persönlicher Referent des Justizministers und als Leiter des Personalreferats für den gehobenen und höheren Justizdienst des OLG-Bezirks Stuttgart.
1976 wurde Geiß zum Präsidenten des LG Ulm ernannt, wo er sich einer Kammer für Arzthafthaftungsrecht anschloss. 1989 folgte die Ernennung zum Präsidenten des OLG Stuttgart. Auch hier beschäftigte er sich mit dem Arzthaftungsrecht. Am 1. August 1996 wurde Karlmann Geiß zum Präsidenten des BGH ernannt, wo er sich gemäß langjähriger Tradition dem Kartellsenat anschloss. Kraft Gesetzes war er ebenfalls Vorsitzender des Senats für Anwaltssachen und der Großen Senate für Zivil- und Strafsachen.
Aufgrund seiner Verdienste um das Arzthaftungsrecht wurde ihm 1997 von der medizinischen Fakultät der Universität Ulm die Ehrendoktorwürde Dr. med. h.c. verliehen. Er ist Träger des Großen Verdienstkreuzes mit Stern und Schulterband der Bundesrepublik Deutschland. Ebenfalls wurde er mit der Verdienstmedaille des Landes Baden-Württemberg ausgezeichnet.
Karlmann Geiß habe das Bild und die Rechtsprechung des BGH maßgeblich geprägt, heißt es in einer Pressemittelung des BGH zu seinem Tod. Die Bundesrepublik habe eine bedeutende Persönlichkeit verloren. In Karlmann Geiß hätten sich ein geschliffener Verstand, eine lebhafte und wortgewaltige Ausdrucksweise, ein hohes rechtspolitisches Verständnis und ein wacher Geist mit einem feinen Gespür für jegliche Zwischentöne vereint.