Der Sohn eines Winzers erhält von seinem Bruder, einem Geistlichen, den elementaren Unterricht. Er entgeht dem Willen seines Vaters Winzer zu werden, indem er auf einem Holzfloß 1477 nach Köln flieht, wo er sich immatrikuliert und zwei Jahre darauf sein Baccalaureat in den Artes liberales ablegt. Ein fünfjähriges unstetes Wanderleben führt ihn 1484 nach Heidelberg; er erwirbt Grundkenntnisse in Griechisch und Hebräisch und wird von seinem Lehrer Rudolf Agricola für den Humanismus gewonnen. Nach Abschluss seines Magisterexamens 1485 wandert Celtis nach Erfurt, Rostock und Leipzig. 1487 wird er von Kaiser Friedrich III. in Nürnberg zum ersten deutschen Poeta laureatus gekrönt.

Anschließend in Italien unterwegs, wo er mit den dortigen humanistischen Kreisen verkehrt, zieht Celtis 1489 an die Jagiellonen-Universität in Krakau, um sich der Mathematik und Astronomie zuzuwenden. Er geht nach Nürnberg, lehrt ab 1491/92 in Ingolstadt als außerordentlicher Professor Rhetorik und Poetik, bevor er 1492/93 die Leitung der Regensburger Domschule übernimmt und 1494 auf eine Professur für Studia humanitatis nach Ingolstadt zurückkehrt. Als Prinzenerzieher der Söhne des Kurfürsten Philipp von der Pfalz wirkt Celtis 1495/96 in Heidelberg, doch schon am 7. März 1497 wird er von Kaiser Maximilian I. als ordentlicher Universitätsprofessor nach Wien berufen.

Die Gründung des auf seine Anregung hin neuerrichteten Collegium poetarum et mathematicorum (1501), das eine dem humanistischen Ganzheitsideal verpflichtete Bildungselite heranbilden soll und dem vom Kaiser das Recht der Poetenkrönung übertragen wird, stellt einen Höhepunkt in Celtis beruflicher Laufbahn dar. In Wien hält er als Erster im deutschen Sprachraum eine Vorlesung über den griechischen Urtext des Homer sowie über Tacitus‘ Germania. Als deutscher „Erzhumanist“, der sich sowohl dichterisch als auch organisatorisch besonders hervortut (u.a. Gründung wissenschaftlicher Sodalitäten nach italienischem Vorbild), ist er für die Humanistengeneration nach 1500 – Locher, Cuspinian, Aesticampian, Tritonius, Watt und Aventin – von größter Bedeutung: durch die „Betonung des nationalen Elements in der Kultur, die Wendung von der Rhetorik zur Poesie und den Versuch, aus dem Gemeinschaftsgedanken des Humanismus organisatorische Konsequenzen zu ziehen.“ (Thomas Cramer)

Celtis' dichterisches Hauptwerk sind die Quattuor libri Amorum secundum quattuor latera Germaniae (dt. „Vier Bücher Liebesgedichte entsprechend den vier Hauptgegenden Deutschlands“, 1502). An Horaz orientiert sind seine Libri Odarum quattuor (1503). Seine Publikationstätigkeit beginnt er als Fachschriftsteller: die Ars versificandi et carminum (1486) z.B. ist eines der ersten systematischen Lehrbücher antiker Vers- und Strophenformen in Deutschland; in seinem Anhang erscheint Celtis' bis heute bekanntestes Gedicht, die „Ode an Apoll“. Seine Ingolstädter Antrittsvorlesung zum Wintersemester 1492 (Panegyris ad duces bavariae) bildet eine der umfassendsten Programmschriften des Humanismus, worin Celtis die Beschäftigung mit der Antike als zentraler Lebenslehre mit der humanistischen Umdeutung des translatio-imperii-Gedankens verbindet und so den Zusammenhang zwischen staatlicher Ordnung und Bildung herstellt.

1495 übergibt er dem Rat der Stadt Nürnberg den Städtelobtext De origine, situ, moribus et institutis Norimbergae (übers. „Von Ursprung, Gelegenheit, Sitten und Anschicklichkeiten der Stat Nüremberg“, 1495). Während eines Regensburger Aufenthalts entdeckt Celtis im Kloster St. Emmeram eine Handschrift mit Dramen der Nonne Hroswitha von Gandersheim, die er 1501 herausgibt. Den im Kloster Ebrach entdeckten Ligurinus des Gunther von Pairis lässt er 1507 durch die Sodalitas Augustana mit Konrad Peutinger an der Spitze herausgeben.

Darüber hinaus wird Celtis durch seine Dichtung und Inszenierung lateinischer Festspiele, die in Linz und Wien vor Maximilian I. aufgeführt werden, bekannt. Mit den beiden panegyrischen Stücken Ludus Dianae (1501) und Rhapsodia (1505) begründet er nicht nur die Tradition des höfischen Festspiels, sondern auch die Vorform der höfischen Oper.

Am 4. Februar 1508 stirbt Conrad Celtis in Wien. Sein Grab liegt im Stephansdom, wo ihm Freunde einen Denkstein errichten.