A budavári Szent György téren álló palotát 1803 és 1806 között emeltette Sándor Vince gróf és felesége, Szapáry Anna grófnő, miután 22 ezer akkori forintért megvásárolták Buda városától az értékes telket a rajta álló két kaszárnyaépülettel együtt. Máig tisztázatlan, hogy ki volt az építész: feltehetően a neves bécsi építőmester, Johann Aman valósította meg Pollack Mihály terveit. Ami biztos: az alkotók a korabeli Közép-Európa egyik legszebb klasszicista palotájával ékesítették a Várhegyet a kor technikai nívójának is megfelelve: központi fűtéssel, nyugati divatú télikerttel.
Az egyemeletes, háromhomlokzatos palota élete kezdettől összefonódott a politikával. Ferenc császár öccse, József nádor - aki jó barátságban volt a tulajdonosokkal - itt tett eleget udvari kötelezettségeinek, s az elbeszélések szerint a falak között maga Ferenc császár és szövetségese, I. Sándor orosz cár is megfordult 1815-1816 tájékán. 1831-ben a palota a Pallaviciniek tulajdonába került, akik bérleményként átengedték az államnak: 1851-ben Albrecht főherceg, Magyarország kormányzója és főparancsnoka költözött be ide, majd az 1867-es kiegyezéskor Andrássy Gyula miniszterelnök szemelte ki kormányrezidenciának a királyi vár szomszédságában álló palotát.
A korszak jeles építésze, Ybl Miklós ekkor alakította ki az épület miniszterelnökségi funkcióknak megfelelő belső tereit, berendezését. 1881-ben Tisza Kálmán miniszterelnök javaslatára az addigi bérlemény állami tulajdon lett: az ár 179 422 forint és 50 krajcár volt, plusz két Sugár úti (ma: Andrássy út) telek.
A vétellel megoldódott a miniszterelnökség végleges elhelyezése, de hamarosan megindult a panaszáradat, mely szerint a Sándor-palota egyre szűkösebben tud megfelelni feladatainak. A XIX. század végén, a XX. század elején egyre-másra születtek tervek az épület lebontására, áthelyezésére, illetve átépítésére, de pénzhiány és takarékosság miatt a belső átrendezéseknél (1910-ben, 1929-1931-ben) nem történt több, s a kormányrezidencia a helyén maradt.
Az épület déli, a királyi palota felőli bejáratát protokolláris alkalmakra tartogatták, általában a Szent György tér felől lehetett bejutni a miniszterelnökségre. A földszinten helyezkedtek el az irodák, az emeleten, a Dunára néző fronton volt a miniszterelnöki lakosztály és a hivatali rezidencia, a sarokteremben pedig a minisztertanács ülésezett. Az emeleten, a déli szárnyon voltak a fogadások, rendezvények reprezentatív helyiségei, mint a tükörterem, a Mária Terézia szalon, a gobelinterem.
A Sándor-palota sorsát jó időre megpecsételték a II. világháborús bombázások. A rommá lett épületről sokáig nem hoztak döntést, az 1945 utáni kormányok ebben sem akartak közösséget vállalni elődeikkel. A romos palota 1956-ban került csak tető alá, majd egészen 1983-ig kellett várni a külső renoválás befejezésére. A tényleges hasznosításra viszont továbbra sem születtek tartós tervek; egy kormányrendelet például építészeti múzeumnak jelölte ki az épületet, majd megfogalmazódott, hogy esetleg az Elnöki Tanácsnak adjon otthont.
Az 1980-as évek végén - miközben folyt a régészeti feltárással egybekötött rekonstrukció - felmerült, hogy nagyszabású kormányrendezvények kapjanak itt helyet, egyesek pedig hotelként hasznosították volna. 1990-ben az Antall-kormány vette újból tervbe a Miniszterelnöki Hivatal ideköltöztetését, amire - elismerve a helyreállítás szükségességét - az 1994-ben alakult Horn-kormány nemet mondott.
Az 1998-as kormányváltást követően, miután lekerült a napirendről a miniszterelnökségnek a Néprajzi Múzeum helyére való költözése, a kormány 8,5 milliárd forintot irányzott elő, hogy 2002. március 15-ig begyógyítsák "a még meglévő háborús sérüléseket", s ennek érdekében helyrehozzák a Sándor-palota, a Karmelita Rendház, az egykori Honvédelmi Minisztérium és a Honvéd Főparancsnokság épületét. Az 1999-es kormányrendelet kormányfői hivatal céljaira szorgalmazta a felújítást, s az Orbán-kormány tervbe is vette az ideköltözést. A helyreállítási munkálatok befejeztével 2002. május 3-án történt meg a Sándor-palota műszaki átadása, s a rákövetkező hetekben szállították le a Miniszterelnöki Hivatal által megvásárolt bútorokat, festményeket, berendezési tárgyakat.
A 2002-es választások után hivatalba lépett Medgyessy Péter kormányfő viszont úgy foglalt állást, hogy nem akarja a világörökség részeként nyilvántartott Sándor-palotába helyezni hivatalát. Így, mikor a felújítás befejeződött, egy időre megnyitották az épületet a nagyközönség előtt, majd az Országgyűlés 2002. november 5-én alkotott törvényt arról, hogy a Sándor-palota a köztársasági elnök és hivatala elhelyezésére szolgáljon. A jogszabály indoklásában szerepel, hogy a helyreállított Sándor-palota olyan reprezentatív műemlék épület, amely megfelel azoknak a protokolláris és biztonsági kívánalmaknak, amelyek az államfő elhelyezése során támaszthatóak.
A Sándor-palota államfői rezidenciává történt kijelölése lehetőséget biztosított a köztársasági elnöknek és hivatalának arra, hogy elköltözzön az Országház épületéből, ezzel is kifejezve: a legfőbb közjogi méltóság az Országgyűléstől elkülönült, független alkotmányos tényező. A rezidencia első lakója Mádl Ferenc köztársasági elnök volt, aki 2003 januárjában költözött be, őt 2005 augusztusában Sólyom László követte.