يقع مسجد صغير في جنوب غرب قلعة الجاهلي ويعتبر هذا المسجد معاصراً ذا قلعة داخلية بناها الشيخ زايد الأول في نهاية القرن التاسع عشر و لا يزال طراز البناء التاريخي الخاص بالمبنى كما كان، ولكن أضيفت إليه طبقة جديدة من الطين الجص أثناء مشروع هادف إلى المحافظة على هذا الأثر من قبل هيئة أبوظبي للسياحة والثقافة و يتألف المسجد من غرفة واحدة ذات رواق مفتوح على جانبه الشرقي ويمكن الدخول إليه من فناء مغلق تتم تغطيته في الصيف بهدف توفير ظل إضافي. تجدون في الفناء منصة منخفضة يتم دعوة الناس إلى الصلاة من خلالها، بالإضافة إلى غرفة صغيرة صممت أساساً لأداء طقوس الوضوء.