Часовня была построена по инициативе Рыльского мещанского общества в память о чудесном спасении императора Александра III 17 октября 1888 года. В тот день царская семья возвращалась из Крыма в Санкт-Петербург. В результате взрыва состав серьёзно пострадал, но император и его близкие остались живы. Часовня числилась за Успенским кафедральным собором, и ежегодно здесь проходили крестные ходы.
После атаки повреждены стены и свод здания, разрушены декоративные элементы фасада.
«Белая книга» была создана в декабре 2024 года правительством Курской области совместно с ВООПИК и Национальным центром исторической памяти при Президенте РФ. В реестр заносят памятники, пострадавшие от действий ВСУ в приграничных районах. На сегодня в нём числится 81 объект культурного наследия, 8 из которых уничтожены или серьёзно разрушены. Губернатор заверил, что все они будут восстановлены.