W miejscu Wielkiej Synagogi dziś stoi pomnik w kształcie zdeformowanej stalowej kopuły. Zachowane zdjęcia zgliszcz synagogi pokazują właśnie podobny w kształcie fragment wypalonej kopuły wieńczącej budynek. Pomnik odsłonięto w 1995 roku, dziś znajduje się na podwórzu między biurowcami i blokami mieszkalnymi. Przez wiele lat po wojnie nie było tu śladu po dawnej, największej w mieście bożnicy.
27 czerwca 1941 roku, w dniu wkroczenia Niemców do miasta, natychmiast rozpoczął się pogrom Żydów. Ludzi wyciągano z domów, rozstrzeliwano na ulicach, około 600-700 Żydów spędzono do Wielkiej Synagogi. Niemcy wrzucali tam granaty i podpalili bożnicę. Ogółem w hitlerowskim pogromie zginęło tego dnia blisko 2000 białostockich Żydów. Z palącego się budynku udało uratować się tylko kilkanaście osób. To zasługa jej dozorcy Polaka - Józefa Bartoszko, który otworzył boczne okienko. Tuż przed wojną w mieście żyło około 40 tys. Żydów. Wojnę przeżyło siedem tysięcy w tym dwa tysiące Żydów wywiezionych przez władze sowieckie w głąb ZSRS. Do Białegostoku zaraz po wojnie wróciło trochę ponad tysiąc dawnych żydowskich mieszkańców tego miasta.