Enregistré à La Nouvelle-Orléans avec Daniel Lanois, Oh Mercy relance une carrière en berne. Son ambiance nocturne et des chansons comme Man in the Long Black Coat ou Most of the Time imposent un retour à la gravité.

Après une décennie de tâtonnements en studio, Oh Mercy marque un redressement artistique salué unanimement par la critique, porté par la production atmosphérique de Daniel Lanois, alors auréolé de son travail avec U2 sur The Joshua Tree, enregistrée dans une maison de La Nouvelle-Orléans transformée en studio de fortune.
Dylan raconte dans ses mémoires, Chronicles, avoir traversé au même moment une crise de confiance si profonde qu'il envisageait sérieusement d'arrêter la musique — un contexte qui donne à l'écriture de l'album une gravité et une lucidité particulières. Most of the Time explore le déni amoureux avec une précision psychologique rare ; Man in the Long Black Coat déploie une atmosphère gothique et biblique saisissante ; Everything Is Broken égrène une liste de fractures sociales et intimes dans un rythme incantatoire.
La production de Lanois, faite de réverbérations profondes, de guitares aux textures inhabituelles et d'un mixage délibérément sombre et brumeux, donne à l'album une identité sonore cohérente que Dylan n'avait pas retrouvée depuis les années 1970 — même si les deux hommes connaîtront, selon les récits ultérieurs de Dylan, des tensions créatives importantes durant l'enregistrement.
Considéré rétrospectivement comme l'un des meilleurs disques de sa carrière tardive, Oh Mercy referme dignement une décennie de flottement et ouvre la voie à la collaboration ultérieure avec Lanois sur Time Out of Mind, presque une décennie plus tard.
Les sessions se tiennent au début de 1989 dans une maison de La Nouvelle-Orléans transformée en studio. Lanois y construit des ambiances humides et réverbérées qui servent les textes de Dylan, à nouveau concentrés.
Le disque est salué comme le meilleur de Dylan depuis une décennie, et prépare la renaissance des années 1990.