Sono di origine africana i due santi a cui, secondo la chiesa cattolica, è affidata la protezione di Volterra. Infatti, fonti risalenti all’XI secolo testimoniano che, Giusto e Clemente, facevano parte di un gruppo di cristiani che, nel VI secolo, guidati dal vescovo Regolo, abbandonarono l’Africa perché perseguitati. Approdati sulle coste della Toscana, raggiunsero Volterra dove combatterono contro i seguaci delle dottrine di Ario e coordinarono la difesa della città dagli eretici e dalle scorrerie dei barbari.
Eletto vescovo, Giusto decise di condurre una vita eremitica, così si trasferì in un bosco a Campo Marzio. Ed è qui che si compì uno dei primi eventi miracolosi: la nascita di una sorgente d’acqua.
I documenti non riportano l’anno della morte dei due santi, ma sappiamo che avvenne il 5 giugno, nel giorno di Pentecoste e che, per la loro sepoltura, fu scelto il luogo del loro eremitaggio, dove vennero erette due cappelle.
Sulle tombe dei due santi fu eretta una doppia basilica che poi venne ricostruita nel X secolo, forse a causa di danneggiamenti. Agli inizi del XII secolo i benedettini fondarono un monastero che passò in seguito ai camaldolesi. Denominato San Giusto "in Botro", fu un importante luogo di riferimento religioso, ma anche per il commercio e per le attività produttive.
Nel 1628, invece, fu iniziata la costruzione della chiesa di San Giusto Nuovo, in sostituzione della precedente che franò a causa delle Balze.
All'interno è conservata un'antica mensa di altare in cui sono incisi i nomi di Cuniperto (re longobardo del VII secolo), del gastaldo Alchis (fondatore del primo luogo di culto dedicato a Giusto) e del vescovo Gaudenziano.
L’antica badia, invece, fu abbandonata dai monaci nel 1861 per i danni prodotti dal terremoto del 1846 e per le successive frane.