La cité d'Alba-la-Romaine fut fondée sous l'Empire romain. Elle portait alors le nom de « Alba Helviorum ». Elle fut la capitale des Helviens et fut siège épiscopal dans le courant du IV^e siècle. Le nom d'Alba n'a pourtant pas l'origine latine qu'on pourrait croire (alba signifiant « la blanche » en latin) son origine est plus ancienne.

Le nom des évêques d'Alba nous est connu grâce à un document rédigé en 950 par l'évêque de Viviers Thomas II : la "Charta Vetus": il s'agit de Januarius, Septimius, Maspicianus, Melanus et Auxonius. L'existence d'un évêque Avolus relève des traditions populaires (Yves Esquieu). On attribua par erreur aux Vandales et à leur chef Chrocus la destruction d'Alba Helvorium au V^e siècle.
L'évêque Avolus est mis à mort, son successeur l'évêque Auxionus s'établit au bourg fortifié de Viviers qui donnera au diocèse son nom de Vivarais. Yves Esquieu donne une date de transfert autour de 475, ce transfert aurait donc été plutôt le fait de Promotus, un successeur de l'évêque Auxonius.

Du Moyen Âge jusqu'en 1904, elle porta le nom d'Aps (famille de propriétaires locaux).

La dénomination actuelle a été officialisée par décret du 30 mai 1986 (publié au Journal officiel le 5 juin 1986), et a pris effet le 6 juin 1986. La dénomination précédente était Alba.