Im ausgehenden 13. und beginnenden 14. Jahrhundert diente Burg Klopp den Mainzer Erzbischöfen gelegentlich als Nebenresidenz. Im so genannten Zollkrieg wurde die Burg bei der Belagerung Bingens durch den König Albrecht von Habsburg durch Brand beschädigt bzw. zerstört.  

Ab dem späten 14. Jahrhundert war die Burg Sitz eines kurmainzischen und von 1438 bis ins frühe 17. Jahrhundert Sitz eines Amtmanns des Domkapitels. In den Schriftquellen finden sich nur wenige Nachrichten, die sich auf bauliche Aktivitäten beziehen: um 1394 erfolgte die Wiederherstellung eines Turmes; 1466 und 1485 erfolgten Arbeiten am stadtseitigen Zwinger. Eine Burgkapelle wird erstmals 1451 erwähnt.
Im Dreißigjährigen Krieg war Burg Klopp zwischen 1631 und 1640 mehrmals Ziel kriegerischer Aktionen. Die wiederhergestellte Anlage wurde 1689 von den Franzosen zerstört, 1697 erneut instand gesetzt und schließlich 1711/12 gesprengt, um eine Nutzung als militärischer Stützpunkt durch Feinde zu vereiteln.
Seit diesen Zeitpunkt war die Anlage Ruine und ihr Baubestand wurde durch Steinraub dezimiert.
Nach der Besetzung des Rheinlands durch Frankreich zum Nationalgut erklärt, erwarb um 1800 Hermann Gottfried Joseph Faber, Notar und Regierungskommissar des Kantons Bingen, die Burgruine.

1840 gelangte Burg Klopp an den in Nieder-Ingelheim ansässigen kurländischen Gutsbesitzer und russischen Diplomaten Johann Freiherr von Mengden und 1853 an den Kölner Kaufmann und Reeder Ludwig Maria Cron. Ab 1853 erfolgte der Wiederaufbau der Anlage als bürgerlicher Sommersitz nach Plänen des Architekten und Bürgermeisters Eberhard Soherr.
Das Herrenhaus datiert in seiner jetzigen Gestalt in die Jahre 1875-79. In den Wiederaufbau miteinbezogen wurden der Bergfried und das Torhaus. 1880 bis 1888 befand sich die Burg im Besitz des Kölner Regierungsassessors Max Allert und gelangte 1899 an den Berliner Bankier Dr. Joseph Rosenthal.
Zwischen 1928 und 1935 erfolgte der Bau der städtischen Weinkosthalle und des "Rheingoldsaales" auf dem Burggelände.
Im Zweiten Weltkrieg wurde Burg Klopp 1944 beschädigt und 1952/53 nach Plänen von Jakob Krichtel aus Bingen wieder aufgebaut.
Der Bergfried beherbergte von 1998 bis 2005 die städtische Altertumssammlung. Heute ist Burg Klopp der Sitz der Stadtverwaltung.