Le terme che portano il suo nome non sono state costruite da Diocleziano ma da suo fratello Massimiano, suo collega come Augusto nella tetrarchia imperiale.
I lavori, iniziati nel 298, furono terminati nel 305.
Il complesso ricalca lo schema consolidato delle grandi terme imperiali delle quali adotta l'orientamento elio-termico da nord-est a sud-ovest. Intorno all'edificio termale si estendevano giardini che coprivano una superficie complessiva di 140.000 mq. Il fabbisogno idrico era soddisfatto dall'Acqua Marcia tramite una cisterna lunga 91 m., poi chiamata "Botte di Termini", che in parte fu demolita nel 1742 e nel 1860 per far posto alla nuova stazione ferroviaria.
L'edificio termale era lungo 250 m., profondo 180 ed aveva una superficie totale di 2400 mq.
Al suo interno, oltre al calidarium, al frigidarium e al tepidarium, c'erano due palestre, una coperta e una scoperta, una biblioteca greca e una latina oltre a vari servizi.
I pavimenti erano in lastre di marmo e dovunque erano collocate pitture e sculture.
Alla costruzione delle terme lavorarono grandi masse di schiavi anche cristiani; nel 1874, durante i lavori per la costruzione del Ministero delle Finanze, furono rinvenuti materiali della chiesa di San Ciriaco in Thermis eretta sulla casa del martire iuxta Thermas e fatta demolire da Paolo III nel 1453.

     Nel 410 le terme furono devastate dai Visigoti di Alarico, ma la loro fine fu decretata quando Vitige ordinò il taglio degli acquedotti che le alimentavano.
Durante il Medioevo le Terme conobbero quindi il lento degrado di tutti i monumenti romani e divennero cave di laterizio e di pozzolana per la cui estrazione furono scavate grandi buche che ne causarono numerosi crolli.
Nel XV secolo i ruderi delle Terme si alzavano su una vasta zona rurale e ne erano proprietari gli Agostiniani di Santa Maria del popolo. Questi ne diedero l'enfiteusi perpetua al cardinale Jean du Bellay che costruì nell'emiciclo una villa e intorno a questa gli Horti Belleiani. Alla sua morte la villa passò al Cardinale Borromeo e poi fu rilevata dalla Reverenda Camera Apostolica.
Nel 1561 il prete musicista Antonio Lo Duca (poi del Duca) riuscì a convincere papa Pio IV a costruire sul posto una basilica dedicata alla Madonna. Le spese per la costruzione della Basilica, dedicata alla Beatissima Vergine e a tutti gli angeli e i martiri, sarebbero state sostenute dalla R.C.A. e i Certosini avrebbero costruito un annesso convento con chiostro.

     L'inserimento della chiesa e del monastero avviarono la zona ad un riSanamento e la nuova Piazza Termini divenne un attivo mercato di derrate alimentari. L'edificio termale fu trasformato in un magazzino annonario.
Sisto V nel 1585 ampliò la propria villa Peretti Montaldo fino ad includere una parte dei ruderi che furono demoliti ed il materiale impiegato per la pavimentazione delle strade.
Nel 1860 la zona delle terme era ancora una distesa di ville, orti, vigne, quando monsignor Francesco Saverio De Merode, che aveva acquistato a basso prezzo i terreni dell'area compresa tra Termini, Castro Pretorio e Via Nazionale, iniziò la speculazione edilizia e fu dato il via alle grandi costruzioni di via Nazionale, con ministeri, alberghi, palazzi, caserme. Oggi le Terme ospitano il Museo Nazionale Romano.