Estudió Derecho en la Universidad de Murcia y se trasladó a Madrid en 1963, donde trabajó como funcionario público.
Martínez Sarrión fue uno de los principales poetas de la segunda mitad del siglo XX, y participó de modo relevante en la renovación de la poesía de los años 60, que emprendió desde una vocación surrealista muy influenciada por la cultura beat y underground. Sus poemas a menudo adoptan la forma de un collage en el que dialogan distintos materiales y tradiciones.
Fue incluido en la célebre antología Nueve novísimos poetas españoles, editada por Josep M. Castellet en 1968.
Fue también un destacado escritor de memorias y diarios, y un importante crítico y ensayista. Desempeñó, asimismo, tareas como traductor del francés, y son suyas algunas de las mejores versiones de Baudelaire, Genet, Musset o Rimbaud. Su traducción de la poesía de Víctor Hugo le hizo merecedor del Premio Stendhal de traducción en 1990.