Romano n.? - m.535
Pontificato 533 - 535
Nome: Mercurio

Le polemiche circa il metodo di elezione del pontefice, provocarono due mesi di sede vacante fra la morte di Bonifacio II e l'elezione di Giovanni II.
Questo pontefice, che di nome si chiamava Mercurio, fu il primo a cambiare nome in quanto sembrava inopportuno portare al soglio di Pietro il nome di una divinità pagana.
Questa usanza fu seguita da tutti i papi successivi, fatta eccezione per Adriano VI.
Dovette occuparsi della corruzione e della simonia che ormai imperversava all'interno della Chiesa, con la compravendita delle cariche ecclesiastiche che influivano anche sull'elezione dei papi.
Tuttavia gli sforzi compiuti per rendere autonoma l'elezione dei papi si infransero contro la volontà di ingenrenza di Atalarico, re dei Goti, che si riservava il diritto di approvare o di avere comunque l'ultima parola sulla nomina del pontefice.
Nel 534 Atalarico moriva e sua madre Amalasunta sposava il cugino Teodato che a lei era chiaramente ostile, tanto che in seguito la farà assassinare .
Intanto anche l'imperatore d'Oriente Giustiniano fece sentire la sua voce su questioni di fede per portare il papato nell'orbita bizantina.
Giovanni fu sepolto in San Pietro.