Andalusischer Herkunft,  lebt in Hausach im Schwarzwald als freier Schriftsteller.

Für seine dichterischen Arbeiten erhielt er u.a. 1989 das Literaturstipendium der Kunststiftung Baden-Württemberg e.V., 1994 das Aufenthaltsstipendium des Berliner Senats im Literarischen Colloquium Berlin. 2001 war er Stadtschreiber in Dresden. 2002 Gastprofessor und writer-in-residence am MIT (Cambridge / USA). 2004 Stadtschreiber in Kairo. 2007 Chamisso-Poetik-Dozentur an der TU Dresden. 1997 ist er mit dem Adelbert-von-Chamisso-Preis ausgezeichnet worden. 2007 erhielt er den Kulturpreis des Landes Baden-Württemberg; 2009 den Thaddäus-Troll-Preis. 2012 den Joachim-Ringelnatz-Preis (Nachwuchs). 2013 erhielt er das Stipendium er Kulturakademie Tarabya in Istanbul. 2015 den Basler Lyrikpreis.

José Oliver ist Kurator des 1998 von ihm ins Leben gerufenen Literaturfestes Hausacher LeseLenz. Er hat gemeinsam mit dem Literaturhaus Stuttgart Schreibwerkstätten für Schulen entwickelt, um die Sprachsensibilität von Kindern und Jugendlichen zu fördern und ihr Verständnis für den Umgang mit Literatur zu erweitern.