Die Gedenkstätte entstand aus der traurigen Berühmtheit der Straße und dem Einsatz einiger entschlossener Menschen. Zu den Initiatoren gehörten Peter Möbius, Helmut Trotnow und Pastor Manfred Fischer von der evangelischen Versöhnungsgemeinde. Kurz vor dem 29. Jahrestag des Mauerbaus stellte die Gruppe unter Fischers Leitung hier ein Schild auf. Es richtete sich an die sogenannten Mauerspechte, also an Menschen, die Souvenirs aus dem Beton schlugen, und bat sie, dieses Stück der Mauer nicht anzuschlagen. Zugleich warb es um Unterstützung für den Erhalt einer authentischen und würdevollen Gedenkstätte. Die Geschichte ist eng mit dem Abriss der Grenze verbunden. Die ersten Segmente wurden in der Nacht vom 10. November 1989 zwischen Bernauer Straße und Eberswalder Straße aus der Mauer herausgebrochen. Der offizielle Abriss der Grenzanlagen begann im Juni 1990 an der Ecke Bernauer Straße und Ackerstraße, und genau dort steht heute die Gedenkstätte. Sie wurde am 13. August 1998, 37 Jahre nach dem Mauerbau, an der Ecke Ackerstraße eingeweiht. Zu ihr gehört die Kapelle der Versöhnung, die an der Stelle errichtet wurde, an der die DDR-Behörden 1985 zur Sicherung der Grenze eine Kirche sprengen ließen. Das Besucherzentrum wurde Anfang Dezember 2009 eröffnet.