Die Grebensteiner Burganlage tritt zuerst 1272 in einer Urkunde auf.  Die Überlieferung hat aus dem zahlreichen um die Burg gelegenen Besitz der Grafen von Dassel den Schluß gezogen, Graf Ludolf V. sei der Erbauer gewesen und habe seiner Schöpfung den Namen "Grafenstein" gegeben. Das Romantische dieser Vorstellung ist aber in Zweifel zu ziehen, indem man einen möglichen Vorläufer des Ortes Grebenstein nachgeht. Im Hilmarshäuser Güterregister (vor 1120) ist dort nach Frankenhausen, Rixen, Kalden und Hathabretessun (=Mönchehof) die "villacatio Grauen" mit einer stattlichen Summe von klösterlichen Gefällen aufgeführt. Am Ort wohnen 4 Litonen, die dem Kloster zinsen.  An anderer Stelle des Registers heißt es: "villicatio S. Marie de Grauen" gäbe "V uncias ovorum, VI gallinas et unam anderem". An dieser Registerstelle folgt als nächstes Rixen, dem sich Rangen bei Zierenberg anschließt. Auch treten in der Hofgeismarer Bürgerschaft Dietrich und Hildebrand Grawe als Inhaber von Schöneberger Lehen auf. Hofgeismar hatte seit Anfang des 13. Jahrhunderts Menschen aus den umliegenden Siedlungen angezogen und so paßt ein Zuzug aus Grauwen ebenso in das Bild der Zeit. Leider läßt uns die Überlieferung des 12./13. Jahrhunderts völlig im Stich, was aber nicht gegen diese These spricht.

Die Urkunde von 1272 handelt von Streitfragen zwischen dem Erzstift Paderborn und dem Landgrafen Heinrich I. von Hessen. Darin heißt es, daß die Schiedsleute sich eine genaue Begrenzung der Burgen Schartenberg und Grebenstein sowie des Gerichts an der Hainbuche vorbehielten. Hier befindet sich die Burg also schon im Einflußbereich des hessischen Landgrafen.

1279 überläßt Elekt Otto von Paderborn dem Erzbischof Werner von Mainz die Hälfte der ehemals Dassel'schen Burg und Grafschaft Schartenberg und verspricht außerdem, jede Sorgfalt darauf zu verwenden, "quod castrum Grevenstein, situm apud Geismariam, in nostram deveniat potestatem". Ungeachtet landgräflicher Erfolge scheint das Schicksal Grebensteins 1282 besiegelt zu sein: die Burg soll geschleift werden. 1282 hat der Landgraf die Burg also zumindest teilweise durch seine Burgmannen im Besitz.

1293 öffnet Graf Otto von Everstein dem Landgrafen Heinrich alle seine Schlösser, auch die zukünftig zu erwerbenden, und wird hessischer Burgmann. Bis zum anstehenden Verkauf der Stadt Grebenstein, mit allen seinen Zubehörungen, versehen die hessischen Burgmannen Tammo von Alnhausen, Willekin Hase und Johann Riedesel Treuhänderdienst. 1297 findet dann der Verkauf statt und Otto von Everstein wird als Burgmann abgelöst.

1341 wurde Landgraf Hermann II. (der Gelehrte) von Hessen auf Burg Grebenstein geboren. Er regierte von 1377 bis 1413. Zur Zeit der Geburt Hermann's II. wurde auch Brunnenkresse auf die Burg geliefert, wie es beurkundet ist. Es waren zwei Kresseleute angestellt, die die frische Kresse vom nahegelegenen Kressenbrunnen jeden Sonntag auf der Burg abzuliefern hatten.

1428 bewohnten die Burg noch 4 Wächter, 1 Pförtner, 1 Kellner, 1 Koch, 1 Küchenjunge, 1 Bäcker, 1 Böttner, 1 Eseltreiber, der Amtmann, der Rentmeister (Werner von Uffeln) und die Knechte. Die Burg war auch noch mit einem landgräflichen Vorwerk versehen, in dem 1 Hofmann, 1 Meierin, 1 Magd, 4 Ackerknechte, 1 Hirte und 1 Schweinehirte lebten. Dieses Vorwerk brannte 1466 ab und wurde in der Stadt neu aufgebaut.

Lebensmittel wurden mit Eseln auf die Burg gebracht. Aus der Rechung des Schultheißen von 1459 erfahren wir: "... 17 Heringe, Stockfisch, 8 Pfund Honig, 2 Lot Pfeffer, 1 Lot Ingwer ...". Wahrscheinlich wurde auch Wasser befördert, da bisher eine Brunnenanlage nicht nachgewiesen werden konnte, diese aber vorhanden gewesen sein sollte. Auch das benötigte Brennholz wurde durch Esel angeliefert, da der Burgberg früher bis auf ein paar Büsche kahl gewesen ist. 1455 ist Salbuch vermerkt, daß Rixen im Wechsel mit Burguffeln die Fuhren auf die Burg zu leisten hatten.

Als der militärische Wert der Burg schwand und das Diemelland hessisch war (1478) wohnten nur noch wenige Leute auf der Burg. In den Jahren 1471, 1505 und 1512 ist aus den Schultheiß-Rechnungen zu ersehen, daß noch ein Schreiber auf der Burg wohnte: "1 1/2 Schilling vor das fenster zu machen und zu lappen uf des schribers stoben uf der Burg". Seit um 1540 wird die Burg wohl nicht mehr bewohnt gewesen sein. Sie diente anschließend als Fruchtspeicher.

Vom ehemaligen Gebäude ist heute nur noch der große Palasbau zu sehen. Der Palas ist 37 m lang und 12 m breit. Er läßt noch heute die vier Stockwerke (1 Kellergeschoß, 3 Obergeschosse) erkennen. Zu sehen sind auch noch die Kamine in den Wänden der verschiedenen Stockwerke sowie auch die Küche im Kellergeschoß. Auch die ehemalige Kemenate (das Frauengemach) ist noch vorhanden. Im ersten Stock hat die Mauer eine Stärke von fast 3 m.

Die Burg kann vom Marktplatz aus zu Fuß innerhalb von 15 Minuten erreicht werden. Dieser Weg lohnt sich für jeden Grebenstein-Besucher auf jeden Fall und wird mit einer Aussicht bis zum Dörnberg und Hofgeismar belohnt.