كانت بدايته مع السلطات العسكرية العثمانية حيث شيدت السراي على التلة التي يقع عليها اليوم. اتخذتها مقرا لأجهزتها العسكرية والمدنية. كانت القشلة عبارة عن طابق ارضي واحد، واستكمل بناؤها مع طابق سفلي جزئي لإيواء الخيول. مع مرور الوقت، تم توسيعها وإعطاؤها شكلها النهائي، ومن بعدها تحول المبنى إلى مقر للحكام العثمانيين. ومنذ ذلك الحين، بدأ اسم "القشلة" يتحول إلى "سراي الولاية" ثم أصبح "السراي الكبير".

ثم مع الانتداب الفرنسي، تحول السراي إلى مقر للحاكم الفرنسي أو المفوض السامي. وكان اسمه في هذا الوقت "المفوضية العليا"، كما أضاف الفرنسيون بعض التعديلات على المكان. وكان بشارة الخوري، أول رئيس للبنان بعد الاستقلال، أول الرؤساء الذين اتخذوا من السراي الكبير مقرا له قبل أن ينتقل الى مكان آخر.

أصبح السراي مقرا لحكومة أول رئيس حكومة بعد الاستقلال رياض الصلح ومن ثم الحكومات المتعاقبة. خلال سنوات الحرب اللبنانية، أصيب السراي بأضرار جسيمة نتيجة القذائف التي سقطت عليه والحرائق التي اندلعت فيه ودمرت معظم أجزائه. قام الرئيس الأسبق رفيق الحريري بمبادرة لبدء العمل في إعادة بناء السراي في إطار خطط الحكومة اللبنانية لإعادة اعمار وسط بيروت.

انتهى الحريري من العمل فيه بعد 900 يوم عمل. وحاول القائمون على إعادة بنائه الحفاظ على طابعه الأثري القديم، مع المزج بين الفنون العثمانية والأوروبية واللبنانية والعربية لتكون جدران السراي وزخرفاته عاكسا لتاريخه. ويضم المقر الجديد جناحا خاصا لسكن رئيس الحكومة، وهو الجناح الذي انتقل إليه رئيس الحكومة الأسبق فؤاد السنيورة وأفراد عائلته في وقته كرئيس حكومة، وهو أول رئيس حكومة يقيم فيه.

على الرغم من انتماء السراي للعصر العثماني، إلا أن المواد المستخدمة في كل الأعمال الحجرية والخشبية والمعدنية كانت لبنانية الأصل، باستثناءات قليلة، كرخام الكرارا وبعض الخشب المستورد من كندا. لم يستعمل الخشب القطراني إلا قليلاً لندرته، واستعيض عنه بخشب الجوز.

بالنسبة لحجارة القرميد في سقف السراي الكبير فتم استورادها من فرنسا، وتبلغ مساحته 8650 مترا مربعا وتعلوه فتحات تعرف في العمارة العربية والمحلية بـ"بيوت الحمام" التي تضيف للمشهد العام مزيداً من التنوع والتميز فضلا عن وظائفها الفنية والبيئية، حيث بدا السراي الكبير في نهاية المطاف بقرميده الأحمر وواجهاته الحجرية الرملية وقناطره المتنوعة والمتعددة وشرفاته وأبوابه الخشبية نموذجا متجددا لبيروت القديمة.

• الطابق الأرضي

الطابق الأرضي له دوره الوظيفي بوجود قاعتين كبيرتين، قاعة الاستقبال الرسمية وقاعة المآدب الرسمية، بالإضافة إلى مكتب لرئيس مجلس الوزراء وآخر لزوجته ومكاتب للإعلام والمؤتمرات الصحفية. يتضمن السراي أيضا قاعة مميزة بعقودها المقببة لم تكن ذات وجود واضح وسط عشوائية الغرف وعدم تنظيمها، فقاموا بإزالة الورق والدهان عن جدرانها وأسقفها وأعيد صقل حجارتها الرملية المميزة ليتم استخدامها لاحقا كمتحف أو معرض دائم.

• الطابق الأول

هو مخصص لأجنحة العمل الإداري من مصالح رسمية ومكاتب ملحقة بالإدارات، توجد بينها ممرات الرخام والجرانيت، والجدران المزخرفة بزخرفة بسيطة. أما بالنسبة للأبواب، فجاءت بسيطة أو مشغولة، تنسجم مع الطابع الداخلي للزخرفة مما يعطيها طابع جمالي فريد من نوعه. أما بالنسبة لقاعة جناج الضيوف، فبها أرضية من الرخام والحجر الأبيض، وسقف مشغول عجمي وحفر تتدلى منها مشربيات خشبية مصنوعة بدقة وحرفية، وبجوار القاعة ديوانية ذات طراز عربي مسقوفة جزئيا بخشب الجوز المشغول الذي تم تزيينه برسومات شامية وعجمية.

• الطابق الثاني

يتصف الطابق الثاني بالطابع الرسمي، حيث نجد به قاعة مجلس الوزراء والمكاتب الملحقة والمراسم والأمانة العامة والمدراء العامون بالإضافة إلى الجناح المخصص لسكن رئيس مجلس الوزراء مثل رئيس الحكومة الأسبق فؤاد السنيورة كما ذكرنا سابقا وغيره.