Walter Höllerer wird am 19. Dezember 1922 in Sulzbach in der Oberpfalz geboren. Nach seiner Kindheit und Jugendzeit nimmt er ab 1941 als Soldat am Zweiten Weltkrieg teil. Nach 1945 studiert er Germanistik, Philosophie, Geschichte und Vergleichende Literaturwissenschaft in Erlangen, Göttingen und Heidelberg. 1949 promoviert er in Erlangen mit der Arbeit Gottfried Kellers Leute von Seldwyla als Spiegel einer geistesgeschichtlichen Wende. Von 1954 bis 1958 ist er Assistent an der Universität in Frankfurt/Main, er habilitiert sich mit dem Thema „Zwischen Klassik und Moderne. Lachen und Weinen in der Dichtung der Übergangszeit“ und lehrt Neuere Deutsche Literatur.

Bereits 1952 debütiert Höllerer als Lyriker mit dem Gedichtband Der andere Gast im Carl Hanser Verlag. Sein Mentor und Lektor ist Georg Britting. Aus diesem ersten Kontakt mit dem Carl Hanser Verlag entwickelt sich der Plan, eine literarische Zeitschrift zu gründen: Im Februar 1954 erscheint das erste Heft der Akzente, die Höllerer bis Ende 1967 zusammen mit Hans Bender herausgibt. Ab 1954 nimmt Höllerer an den Treffen der Gruppe 47 teil, zumeist als Kritiker, aber auch mit eigenen Texten. 1959 liest er aus seinem Roman Die Elephantenuhr, der erst viel später, 1973, erscheinen wird. Weitere Gedichtbände folgen: Gedichte. Wie entsteht ein Gedicht (1964), Außerhalb der Saison. Hopfengärten in drei Gedichten und neunzehn Fotos (1967), Systeme. Neue Gedichte (1969) und Gedichte 1942-1982 (1982). 1978 erscheint im Suhrkamp Verlag zudem das Theaterstück Alle Vögel alle, das 1982 am Schiller-Theater in Berlin uraufgeführt wird.

1959 beruft man Walter Höllerer auf den Lehrstuhl für Neuere deutsche Literaturwissenschaft an der Technischen Universität Berlin, den er bis zu seiner Emeritierung im Jahr 1988 innehat. Als Gastprofessor hält er sich mehrmals für längere Zeit in Amerika auf. 1960 lehrt er an der University of Wisconsin, 1973 und 1988 an der University of Illinois. Für seine Studenten organisiert er im Jahr 1960 die Reihe „Literatur im technischen Zeitalter“: das international besetzte Lesungspodium wartet mit Namen wie Günter Eich, Ingeborg Bachmann, Günter Grass, Alain Robbe-Grillet, John Dos Passos u.a. auf und bietet Anstoß für weitere Aktivitäten. 1961 erscheint die erste Nummer der Zeitschrift Sprache im technischen Zeitalter, die als Ergänzung der Akzente geplant ist und einen Schwerpunkt auf die Funktion von Literatur und Sprache im Medienzeitalter setzt. In dieser Zeit ruft Höllererer auch das Institut für Sprache im technischen Zeitalter an der TU Berlin ins Leben.

1963 gründet Höllerer das Literarische Colloquium Berlin, ein Haus für Autoren, das gerade in den Zeiten des Kalten Krieges und nach dem Mauerbau ein Treffpunkt für Autoren aus Ost und West wird, aber auch eine Talentschmiede, der viele Autorinnen und Autoren ihre Entdeckung und Förderung verdanken. Zudem gehört Walter Höllerer am 13. Januar 1990 in der Nikolaikirche in Berlin (Ost) zu den Gründern der „Deutschen Gesellschaft“, die den Prozess der deutsch-deutschen Einigung kritisch begleiten und befördern sollte.

Als Herausgeber betreut er nicht nur zwei Zeitschriften. 1956 sorgt seine Lyrik-Anthologie Transit. Lyrikbuch der Jahrhundertmitte für Aufsehen. Höllerer ist außerdem Mitherausgeber der Werkausgaben von Friedrich Schiller (1957) und Jean Paul (1959-1967) sowie der Hanser-Reihe „Literatur als Kunst“. Auch an zahlreichen Editionen des Literarischen Colloquiums Berlin wirkt er mit. Er wird unter anderem mit dem Fontane-Preis der Stadt Berlin (1966), dem Johann-Heinrich-Merk-Preis (1975) und dem Horst-Bienek-Preis für Lyrik (1993) sowie dem Nordgaupreis für Dichtung des Oberpfälzer Kulturbundes (1994) ausgezeichnet.

Am 20. Mai 2003 stirbt Walter Höllerer in Berlin. Sein Nachlass erschließt das Literaturarchiv Sulzbach-Rosenberg mit Unterstützung der Deutschen Forschungsgemeinschaft (DFG).