Fu la residenza romana della famiglia fiorentina dei Medici. Il cardinale Giovanni de' Medici, figlio di Lorenzo il Magnifico e futuro papa Leone X, nel 1503 prese in affitto la casa del vescovo Sinulfo, tesoriere di Sisto IV Domenico Fontana nel 1589.

La vicinanza con la sede dell'università romana e i profondi interessi umanistici del cardinale - una biblioteca a disposizione degli studiosi e una straordinaria raccolta di statue antiche nel giardino del palazzo - contribuirono a fare della sua abitazione un luogo di ritrovo per tutta la cultura dell'epoca.
Leone X nel 1523 affidò a Giuliano e Antonio da Sangallo il rifacimento dell'edificio destinato ad ospitare vari esponenti della famiglia fiorentina e successivamente Clemente VII lo assegnò in usufrutto alla giovanissima vedova del duca Alessandro de' Medici, Margherita d'Austria, la famosa "madama"- figlia naturale dell'imperatore Carlo V- dalla quale prese nome anche la villa di Monte Mario.
La facciata fu arricchita nella prima metà del Seicento con le abbondanti decorazioni. Il palazzo nel 1755 divenne sede del governatore pontificio, carcere criminale e carcere di polizia; sotto Pio IX ospitò il Ministero delle Finanze e fu sede delle poste pontificie, dal 1870 sede del Senato del Regno d'Italia alla cui prima seduta il 28 novembre del 1871 assistette Vittorio Emanuele II. Dal 1929, un passaggio sotterraneo, collega questo edificio a Palazzo Giustiniani.