Nacque in Azerbaigian (allora parte dell'Unione Sovietica) ma si trasferì negli Stati Uniti, in dissenso con il regime sovietico. Chiamato affettuosamente Slava (che in russo significa Gloria), venne considerato il più grande violoncellista del suo tempo; si perfezionò alla scuola di Pablo Casals e venne da tutti accettato come suo degno successore.
Dal 1943 al 1948 studiò al Conservatorio di Mosca, dove divenne professore di violoncello nel 1956. Lo strumento che suonava era lo Stradivari Duport del 1711, considerato uno dei migliori strumenti esistenti al mondo.
Rostropovič nacque in una famiglia di musicisti ed all'età di quattro anni iniziò lo studio del pianoforte con la madre che era una pianista. A dieci anni iniziò a studiare il violoncello con il padre che era un violoncellista alla Scuola Centrale di Mosca.
Rostropovič fu promotore dell'arte senza frontiere, della libertà di espressione e dei valori democratici. Queste sue idee erano però in contrasto con il regime sovietico.
La sua amicizia con Aleksandr Solženicyn ed il sostegno dato ai dissidenti lo fecero cadere in disgrazia nei primi anni settanta. Egli fu bandito da tutti i suoi incarichi pubblici e nel 1978 gli fu revocata la cittadinanza dell'Unione Sovietica.
Comunque già nel 1974 aveva lasciato l'Unione Sovietica con la moglie e le figlie stabilendosi a Parigi.
Con il suo connazionale Dmitrij Kabalevskij completò il Concertino per violoncello lasciato incompiuto da Sergej Prokof'ev.
Rostropovič diede la prima esecuzione di entrambi i concerti di Dmitrij Šostakovič. Nel 1977 assunse la direzione della National Symphony Orchestra di Washington e la tenne fino al 1994.
Egli fu anche il direttore e fondatore di molti Festival di Musica (Aldeburgh, Rostropovitch Festival), continuando a collaborare con molti solisti come Svjatoslav Richter, David Ojstrach e Vladimir Horowitz.
Quando nel 1989 fu abbattuto a furor di popolo il muro di Berlino, accorse e vi tenne davanti un concerto improvvisato, che fu ripreso in tutto il mondo e divenne il simbolo della ritrovata libertà[1][2].
Nel 1990, dopo la caduta dell'Unione Sovietica, gli fu restituita la cittadinanza russa ma egli mantenne comunque quella statunitense. Quello stesso anno si aggiudicò il Ditson Conductor's Award.
Nel 2002 a Baku, sua città natale, fu inaugurato il Museo Rostropovič nella casa in cui nacque.
Rostropovič sostenne da sempre la lotta per la libertà, nelle arti ed in politica. Fu ambasciatore dell'UNESCO e sostenne molte attività umanitarie in tutto il mondo.
Assieme alla moglie, Galina Višnevskaja, creò una Fondazione per stimolare progetti ed attività sociali.
Nel 2004 a Bologna, nell'ambito della direzione del balletto “Romeo e Giulietta”, Rostropovič diresse l'orchestra del Teatro Comunale devolvendo l'incasso a favore dell'Associazione Italiana Sclerosi Multipla, Sezione di Bologna.[3] A ricordo del gesto con cui Rostropovič volle beneficiare l'AISM, la Sezione di Bologna ha legato il nome del maestro al proprio.[4]
Brahms, Violin Concerto & Double Concerto - Oistrakh/Rostropovich/Cleveland Orchestra/Szell, 1970 His Master's Voice/EMI – Grammy Award for Best Classical Performance – Instrumental Soloist or Soloists (with or without orchestra) 1971