La prima idea di un grande giardino sulla riva occidentale del torrente si deve a Ottavio Farnese, duca di Parma e Piacenza. Scelta Parma come capitale, a metà del XVI secolo Ottavio unì diverse aree ortive e ne fece il parco di una villa a sua volta ottenuta da un'antica pusterla. Tra Cinque e Seicento in quel giardino crebbero siepi di rosmarino e mirto, e poi querce, platani e abeti alpini, alberi da frutta e ortaggi, oltre a moltissimi agrumi in vaso, ricoverati d'inverno in capanni riscaldati. Peschiere e boschetti rifornivano la corte di pesce fresco e selvaggina.
La costruzione della peschiera fu voluta da Ranuccio II che, nel 1690, volle rappresentarvi una naumachia per festeggiare le nozze del suo primogenito Odoardo con la figlia dell'Elettore Palatino. L'estinzione della casata dei Farnese, nel 1731, portò al totale degrado del giardino. Nel 1745, durante la guerra di Successione austriaca, gli alberi secolari del giardino vennero tagliati e bruciati per alimentare i fuochi delle truppe.
Solo con l'arrivo di don Filippo di Borbone, nel 1749, Parma recuperava il rango di capitale e veniva commissionato un progetto per il rifacimento del parco. A realizzarlo, a partire dal 1753, fu il giovane architetto francese Ennemond Alexandre Petitot.
Il suo progetto classicista ebbe la meglio su quello tardo barocco di un famoso esperto di giardini, Pierre Contant d'Ivry. Sotto i Borbone Parma i giardini ricominciarono ad ospitare le feste legate ai matrimoni ducali.
In questo periodo il Parco si arricchì di abbellimenti architettonici e di sculture di Jean Baptiste Boudard e di Pierre Costant.
Anche Maria Luigia d'Asburgo, già moglie di Napoleone, diventata duchessa di Parma e Piacenza, ordinò alcuni lavori di ripristino del parco e del palazzo. Essa preferì tuttavia risiedere a Sala Baganza e a Colorno, dove trasformò i parchi secondo il gusto inglese.
Passato al Comune dopo l'unità nazionale, il parco fu aperto alla cittadinanza. Per assecondarne la funzione pubblica vennero abbattute le mura con le terrasses e vennero aperti nuovi ingressi tra cui quello verso Ponte Verdi, che collega il Giardino al centro città. La carenza di manutenzione e l'uso improprio di alcune sue zone hanno successivamente accelerato il degrado del parco, facendo decidere per il recente, completo intervento di restauro.