Die in den Quellen als "Vautsberg" bzw. "Vogtsburg" bezeichnete und erst im 19. Jahrhundert mit dem Namen "Rheinstein" belegte Burg entstand, wie Schriftquellen und Ergebnisse der Bauforschung belegen, im ersten Viertel des 14. Jahrhunderts und nicht - wie in der älteren Literatur häufig zu lesen - bereits im 13. Jahrhundert.
Als Initiator des Burgenbaus kommt der Mainzer Erzbischof Peter von Aspelt in Betracht (reg. 1306-1320), der die  Burg um 1316/17 errichten ließ. Dendrochronologische Untersuchungen an Gerüsthölzern belegen eindeutig die Entstehung der Burg in diesen Jahren. Urkundlich wird die Anlage erstmals 1323 erwähnt.
Ursprünglich diente Burg Rheinstein der Sicherung der erzstiftisch-mainzischen Interessen im Raum Trechtingshausen und war offenbar gegen die pfalzgräfliche Burg Reichenstein gerichtet, die jedoch bereits 1344 zusammen mit Sooneck in mainzischen Besitz überging. Mit den mainzischen Burgen Klopp in Bingen, Ehrenfels und der Heimburg diente Rheinstein dem Schutz des Mainzer Territoriums am südlichen Eingang des Rheinengtales.

Die Burg Rheinstein erhebt sich etwa 90 m über dem Rheintal auf einem steilen Felssporn.
Im Wesentlichen besteht die Kernburg aus einer gebogenen, der Angriffsseite zugewandten Schildmauer mit einem Wohnturm. Ein zusätzliches Annäherungshindernis bildet der Halsgraben. Die Schauseite der Burg ist zum Rhein hin orientiert und weist zwei schmale Flankentürme auf. Historische Abbildungen (u. a. von Maskoop 1577) zeigen an der dem Rhein zugewandten sturmfreien Seite der Burg einen mehrgeschossigen Fachwerkbau. Der älteste Teil der Anlage datiert in das Jahr 1317. 1332 wurde der Kernbau erhöht. Etwa zur gleichen Zeit erfolgte eine Erweiterung des Burgareals. Es entstand ein zwingerartig eingefasster Halsgraben zur Hangseite, während die Südseite des Burgareals durch ein Burgtor den Hof begrenzte. Die Schildmauer wurde durch einen Rundturm an ihrer Westseite ergänzt, an den sich das später als "Kanonenplatz" bezeichnete Areal anschloss. An der Südseite der Burg befand sich die von einer Mauer umschlossene Vorburg, die sich bis zum Rhein hin erstreckte. Von ihr blieben nur wenige Mauerreste und ein Tor erhalten (vermutlich um 1332).