Ormisda prima di essere papa era stato sposato e aveva un figlio, Silverio, che sarebbe divenuto a sua volta papa.
Egli favorì la riconciliazione con la Chiesa d'Oriente.
L'imperatore d'Oriente Giustino convocò un concilio a Calcedonia in cui fu ripristinata l'ortodossia con la condanna dell'eresia di Eutiche.
Giustino, che mirava a riconquistare l'Italia, lanciò la persecuzione contro gli ariani per indebolire Teodorico (che era ariano) provocando gravi disordini in Italia.
A sua volta Teodorico se la prese con i cristiani condannando a morte illustri personaggi quali Simmaco e il filosofo Boezio che avevano tentato di difendere alcuni senatori romani. Tutto questo ebbe inizio poco prima della morte di Ormisda.
Ormisda riordinò le discipline ecclesiastiche, stabilì che fosse tenuto un sinodo provinciale almeno una volta all'anno e proibì ai vescovi di ricevere doni personali.
Sotto il suo pontificato S. Benedetto fondò l'ordine dei benedettini.
Ormisda fu sepolto nella basilica di San Pietro.