Alexander II. Erbmarschall von Pappenheim ist der zweitälteste Sohn des Reichserbmarschalls Heinrich Burkhardt I. von Pappenheim und seiner Frau Anna, geb. von Hürnheim. Er wird wie sein älterer Bruder Heinrich katholisch erzogen und im Stift Kempten und an den katholischen Universitäten in Freiburg im Breisgau, Ingolstadt und Leuven/Louvain ausgebildet. Alexander II. von Pappenheim wird an den Hof Kaiser Karls V. nach Brüssel geholt, wo er vier Jahre lang dessen Schwester Maria, Königin von Ungarn und Statthalterin über die Niederlande, als Truchsess dient und mit ihr gegen die protestantischen Niederländer, dann gegen die Türken in Ungarn in den Krieg zieht. Insgesamt dient er vier Kaisern, darunter auch Kaiser Maximilian II.

Die Reformation nimmt einen großen Einfluss auf das Haus Pappenheim. Alexanders älterer Bruder Heinrich XIII. (1528-1590) tritt zum lutherisch-evangelischen Glauben über, bekennt dies aber – wohl aus Rücksichtnahme auf die noch lebende Mutter – zunächst nicht öffentlich. Auch Philipp von Pappenheim nimmt den reformierten Glauben an und führt in Grönenbach die neue Glaubens­lehre ein. Alexander II. bleibt dem katholischen Glauben treu und kämpft in zahlreichen Feldzügen gegen die Anhänger der in seinen Augen falschen Glaubensrichtungen.

Von Alexander II. von Pappenheim sind mehrere handschriftliche Aufzeichnungen erhalten. Die Eindrücke einer Reise nach Italien und einer Pilgerfahrt ins Heilige Land, die von 26. März 1563 bis Ende Januar 1564 dauert, hat er schriftlich festgehalten. Auszüge aus seinem Reisebericht sind im Band Reisen und Reisende in Bayerisch Schwaben, 1969 herausgegeben von Hildebrand Dussler, abgedruckt. 2020 besorgt Heimo Reinitzer erstmals eine umfassende Edition der Autobiographie Alexanders II. von Pappenheim in zwei Bänden: Teil 1 nach der einzig vollständigen Handschrift der Württembergischen Landesbibliothek in Stuttgart (HB V 63); Teil 2 Reisebericht nach Italien und ins Heilige Land (1563-64) nach der Handschrift der Universitätsbibliothek Gießen Nr. 164. Beide Bände, die mit zahlreichen Anmerkungen, Einleitung, Registern und biographischen Informationen versehen sind, werfen nicht nur ein neues Licht auf die Pappenheimer, sondern beleuchten auch das Konfessionelle Zeitalter mit seinen Konflikten. In Band 1 ist zudem Testimonia von Bonifatius de Ragusio und Literae von David Aicheler abgedruckt.

Nach dem Tod seines Bruders Heinrich gelangt Alexander II. von Pappenheim 1590 als ältester Reichserbmarschall zu Pappenheim zum Seniorat und wird Kaiser Rudolfs II. Rat und Kriegsoberster. Sein Erbmarschallamt versieht er auf den Reichstagen von 1594, 1597 und 1602. 1607 resigniert er zu Gunsten seines Vetters Maximilian Graf zu Stühlingen. Aus seiner 1565 geschlossenen Ehe mit Margaretha von Syrgenstein gehen zwei Kinder hervor. Der Sohn Joachim III. von Pappenheim stirbt ohne Hinterlassung von Nachkommen, die Tochter Anna von Pappenheim heiratet in erster Ehe Hans Philipp von Rechberg und in zweiter Ehe Otto Heinrich Graf Fugger von Kirchberg und zu Weißenhorn. Damit geht die Herrschaft Grönenbach von den Pappenheimern auf die Fugger über.

In der Stiftskirche St. Philipp und Jakob in Bad Grönenbach befindet sich das Doppelepitaph für Alexander II. und seinen Vater Heinrich Burkhardt I. auf der linken Seite und für seine Tochter Anna und deren ersten Gemahl Hans Philipp von Rechberg auf der rechten Seite. Seit den Renovierungsarbeiten in den 1960er-Jahren ist das Doppelepitaph – ebenso wie das Epitaph des Sohnes Joachim III. von Pappenheim – an der Westwand der Stiftskirche angebracht.