وبني المسجد في الموضع الذي خطب فيه الرسول في حجة الوداع في أول عهد الخلافة العباسية، في منتصف القرن الثاني الهجري.

ويقع المسجد إلى الغرب من المشعر وقد مر بتوسعات تمت على مرِّ التاريخ ، وبعد اتساعه أصبحت مقدمة المسجد خارج عرفات.

وشهد مسجد نمرة أكبر توسعة له في التاريخ في العهد السعودي، وصار طوله من الشرق إلى الغرب 340 مترًا، وعرضه من الشمال إلى الجنوب 240 متراً ، ومساحته أكثر من 110 آلاف متر مربع .

وتوجد خلف المسجد مساحة مظللة تقدَّر مساحتها بـ 8000 متر مربع ، ويستوعب المسجد نحو 350 ألف مصل ، وله ست مآذن ، وارتفاع كل مئذنة منها 60 متراً ، وله ثلاث قباب ، و10 مداخل رئيسية تحتوي على 64 بابًا ، وفيه غرفة للإذاعة الخارجية مجهزة لنقل الخطبة وصلاتي الظهر والعصر ليوم عرفة مباشرة بواسطة الأقمار الصناعية.