İlk kuşatmasında şehid olduğu belitilmektedir.
Türbe Fatih İlçesi'nde bulunmaktadır. Sur içinde bulunması hasebiyle, bu kabrin gerçekten adı geçen sahabeye ait olması hususunda ihtiyatlı ifadeler kullanılmıştır. Burasının sonradan bu kutlu sahabe için yapılmış bir makam olduğu çeşitli kaynaklarda ifade edilmiştir.
Oysa sahabenin İstanbul fethine geldiği dönemlerde sur dışında bazı yerlere yerleşerek uzun müddet kaldıkları, bu sürede Bizans Devleti ile anlaşarak sur içinde uzun gezilere çıktıkları tarih kitaplarında yer almaktadır. Yine kaynaklarda, ashab-ı kiramın sur içinde dolaşırken saldırılara uğradığı, bazılarının şehid edildiği yazılmaktadır. Böyle bir saldırıda veya bir ziyaret esnasında Abdurrahman eş-Şami hazretleri ve başka sahabelerin buralarda vefat etmeleri ve vefat ettikleri yerde defnedilmeleri ihtimal dışı değildir.
Muhtemelen 15. veya 16. yüzyılda tespit edilen kabir üzerine yapılan türbe daha önce mütevazi bir ziyaretgah iken, 1. Abdülhamid (1774-1789) tarafından tamir ettirilerek kendi vakfına tescil ettirilmiştir. Rifaiyye tarikatına mensup bulunan türbedar Şeyh Mehmed Raşid Efendi'nin (v. 1296/1878-79) türbeye meşihat koydurması suretiyle tekke kurulmuştur.
19. yüzyılın sonlarına doğru türbenin batı cephesine bitişik bulunan Şehremini Muhasebecisi Reşad Efendi'nin konağının harem ve selamlık olarak kullanılması suretiyle tekke genişletilmiştir. Abdurrahman eş-Şami, Sancaktar ve Sancaktar Baba adlarıyla anılan tekkede, tekkelerin kapatılmasına kadar (1925) Rifaiyye tarikatı temsil edilmiştir. Bu tarihten sonra bakımsızlıktan harap olmuştur. 1885'te Türkiye Turing otomobil kurumu tarafından onarılmış ve küçük bir müzeye dönüştürülmüştür.
Türbe Fatih İlçesi'nde, Cankurtaran Mahallesi'nde, Sultanahmed Camii tarafından Ayasofya Camii'ne doğru Kabasakal Caddesi'nde yürürken sağda, adı geçen cadde ile Tevfikhane Sokağı'nın birleştiği köşedeki tekkenin içindedir.
Abdurrahman eş-Şami hazretlerinin sandukası türbenin ortasında bulunmaktadır. Türbenin caddeye bakan cephesinde, kitabeli bir giriş ve yanında da niyaz penceresi; sokağa bakan cephesinde ise, diğeri ile aynı biçimde, daha dar bir ikinci pencere vardır. Önceleri Abdurrahmanü'ş-Şami Tekkesi'nin harem ve selamlığı olarak kullanılmıştır.
Bugün ise Vakıflar Genel Müdürlüğü'nden tahsis edildikten sonra tamir edilen binaya girdikten sonra, türbenin batı duvarında da selamlığa açılan ikinci bir kapı bulunmaktadır. Türbenin kıble tarafında bulunan tevhidhanesi tek katlı kagir ve dikdörtgen planlıdır. Tevhidhanenin güney duvarının eksenine sepet kulpu, kemerli basit bir mihrap yerleştirilmiştir. Mekan, ikisi mihrabın yanlarında ikisi de batı duvarında yer alan basık kemerli dört pencere ile aydınlatılmıştır. Gerek türbe gerekse tevhidhane kiremit kaplı bir ahşap çatı ile örtülüdür.
Duvarlar moloz taş ve tuğla ile örülüdür. Türbenin eski İstanbul kabadayıları tarafından sık sık tamir ettirildiği bildirilmektedir. Abdurrahman eş-Şami hazretlerinin sandukasının başında 17 cm yükseklikte, tepesi oniki terkli bir Rifai tacı bulunmaktadır. Ana giriş kapısı ile ziyaret/niyaz/hacet penceresi birleşik kemerlerle taçlandırılmış ve kesme taştan sövelerle çerçevelenmiştir. Türbenin ana giriş kapısı üzerindeki yazı, Hattat Mehmed İzzet Efendi (1841-1903) tarafından 1302/1885 yılında mensur olarak yazılmıştır. 78x58 cm ebadındaki mermer kitabe şöyledir:
"Mihmandar-ı Hazreti- Peygamber
Hazret-i Halid'in Alemdarı
Abdurrahman-ı Şami hazretlerinin meşhed-i alileridir.
Muharrem 1302 İzzet"
