Hans  Carossa wird als Sohn des Medizinstudenten und künftigen Arztes Karl Carossa und dessen Frau, der Lehrerin Maria Voggenreiter, geboren. Mit sieben Jahren siedelt er mit seinen Eltern von Königsdorf im Oberland nach Pilsting über. Ab 1888 besucht er das humanistische Gymnasium in Landshut, die Schuljahre gehen u.a. in sein späteres autobiografisches Buch Verwandlungen einer Jugend (1928) ein, das mit dem Dichterpreis der Stadt München ausgezeichnet wird. In Seestetten, wo die Mutter 1895 ein Anwesen geerbt hat, wird Carossa mit der Schönheit der Donaulandschaft bekannt, die für sein Leben und Werk noch große Bedeutung gewinnt.

Zum Studium der Medizin zieht der junge Carossa 1897 nach München. Literarisch bedeutsame Kontakte bekommt er u.a. zu Richard Dehmel, Karl Wolfskehl, Heinrich Lautensack, Frank Wedekind, dem Kabarett Die Elf Scharfrichter sowie dem George-Kreis. Nach Fortsetzung des Studiums in Würzburg (1900) und Abschluss mit Promotion in Leipzig (1903) führt Hans Carossa gemeinsam mit seinem Vater die Praxis und zieht nach Passau (eigene Praxis dort 1911-13). Von nun an beginnt seine Arbeit als Arzt und Schriftsteller. Auf Vermittlung Dehmels werden Hofmannsthal und der Insel-Verlag auf ihn aufmerksam, weshalb 1910 die erste Ausgabe von Carossas Gesammelten Gedichten erscheinen kann. 1914 bezieht er wieder eine Wohnung in München; bevor er als Bataillonsarzt an die Ost- bzw. Westfront eingesetzt wird, begegnet er Rilke.

In Frankreich schwer verwundet, wird Carossa aus dem Militärdienst entlassen. Er lebt ein volles Jahrzehnt in München und veröffentlicht als Substrat seiner Kriegserfahrungen sein Rumänisches Tagebuch (1924). Zwischen 1925 und 1943 reist er, dem humanistisch-abendländischen Erbe verpflichtet, mehrmals nach Italien, seine Aufzeichnungen aus Italien (1946) sind eine Sammlung entsprechender Reiseeindrücke und Tagebuchblätter. Den größten Teil seines Lebens verbringt Carossa aber in Bayern, dessen Orte und Landschaften er sich produktiv aneignet: die niederbayerische Dorfwelt („Kading“), Passau („Grenzburg“) als Stadtvision, die Donau als „großen fließenden Magneten“, den Bayerischen Wald als Landschaft der Einzelgänger wie der Schriftstellerin Emerenz Meier. 1929 gibt er seine Praxis auf und zieht sich nach Seestetten an der Donau zurück.

Trotz des Erkennens des Bösen in der Welt versucht Carossa diese als heilende Schöpfung zu sehen, die durch die aufopfernde Tätigkeit des Einzelnen wieder geordnet werde: „Raube das Licht aus dem Rachen der Schlange!“ heißt sein Motto. In diesem Bereich sind auch die Arzt-Romane Carossas angesiedelt: Die Schicksale Doktor Bürgers (1913-30), worin Dr. Bürger sich in eine seiner Patientinnen verliebt und an seinem hehren Anspruch zu heilen scheitert; Der Arzt Gion, worin sich Gion in seine Nachbarin verliebt, nachdem diese infolge einer Begegnung eine tiefgreifende persönliche Veränderung erfahren hat (Gottfried-Keller-Preis 1931).

Die Zeit des Nationalsozialismus erlebt Carossa ähnlich wie Erich Kästner in der Inneren Emigration. Gleichwohl versucht man ihn für politische Zwecke zu vereinnahmen, indem er in die Preußische Akademie für Sprache und Dichtung berufen wird, was Carossa allerdings ablehnt. Als man ihn zum Präsidenten der Europäischen Schriftstellervereinigung beruft (1941), entzieht sich Carossa durch Nichterscheinen bei den Jahrestreffen. Mit Emigranten wie Thomas Mann, der sich später lobend über sein Werk äußert, bleibt er in Kontakt; auch Alfred Kubin und Alfred Mombert, den er aus der Lagerhaft zu befreien mithilft, zählen zu seinen Freunden. Das eigene „Mitläufertum“ thematisiert Carossa selbstkritisch im Spätwerk Ungleiche Welten (1951).

1941 publiziert Hans Carossa seine dritte Autobiografie Das Jahr der schönen Täuschungen. Im selben Jahr stirbt seine erste Frau Valerie Endlicher. 1943 heiratet er Hedwig Kerber, die er seit 1927 kennt und mit der eine uneheliche 13-jährige Tochter hat. Vor der Kapitulation 1945 plädiert Carossa in einem Brief an den Oberbürgermeister von Passau, für die Rettung der Stadt einzutreten, wofür er nur knapp dem Tode entgeht. In der Nachkriegszeit erfreut sich sein dichterisches Werk erneuter Beliebtheit. 1955 erscheint seine letzte Autobiografie Der Tag des jungen Arztes, die Versdichtung Der alte Taschenspieler wird posthum veröffentlicht.

Neben den bereits erwähnten Preisen wird Carossa mit dem Goethepreis der Stadt Frankfurt (1938), dem San Remo-Preis (1939), der Ehrendoktorwürde der Universitäten Köln und München (1948), der Ehrenbürgerwürde der Städte Passau und Landshut (1948) sowie dem Großen Bundesverdienstkreuz (1953) ausgezeichnet.

Die Verleihung der Paracelsus-Medaille erlebt er nicht mehr. Er stirbt am 12. September 1956 in Rittsteig bei Passau, wo er seit Ende des Zweiten Weltkrieges lebt. Auf seinem Grab im nahen Heining steht der Spruch aus seinem Gedicht Der Bote: „Gestirne steigen, / Da wird noch klarer / Dein stiller Auftrag, / Noch wunderbarer. // Es raunen Quellen / Unirdisch leise. / Tief will ich schlafen, / Auch Rast ist Reise.“