1927년 3월 27일, 아제르바이쟌 공화국의 수도 바크에서 태어났다. 아버지는 공로 예술가의 칭호를 갖고 있던 첼리스트였고 바크 음악원의 교수였으며 어머니는 피아니스트로서 역시 바크 음악원의 교수였다. 4살 때부터 피아노를 배웠고 이 무렵 가족이 모스크바로 이주해서 7살 때부터는 첼로를 배우기 시작해서 10살 때 생상스의 첼로 협주곡을 연주해서 주목을 끌었다. 14살 때 모스크바 음악원의 작곡과에 입학, 이듬해엔 '소련 작곡가의 저녁' 이라는 프로그램에 참가, 그리고 이 무렵부터 피아니스트, 첼리스트, 작곡가로서의 폭넓은 재능을 발휘하면서 활동하기 시작한다. 또한 이 무렵에 페테르부르크에서 차이코프스키의 [로코코 변주곡]을 오케스트라와 협연했고, 16세 때 모스크바 음악원에 입학했다.
1947년, 음악원 재학 중에 프라하에서 열린 '세계 청년콩쿠르'에서 우승하고, 1948년엔 음악원을 졸업함과 동시에 모교의 교수로 발탁됐다. 1949년, 부다페스트의 '평화우호 콩쿠르', 1950년, 프라하에서 첼로 콩쿠르에 응모하여 역시 우승한다. 1951년, '소비에트 인민 예술가'의 칭호를 받았고 1956년에 최초의 서방 세계 연주에 나섰다. 이때 그가 방문한 나라는 영국, 프랑스, 미국 등인데, 그의 연주는 대 성공을 거뒀다. 이후 구미 30여개 국가에서 연주를 하면서
세계 최정상의 첼리스트라는 찬사를 받았다. 뿐만 아니라 코간(바이얼린), 길렐스(피아노)와 함께 트리오를 자주 형성했고, 피아니스트 리히테르(Richter)와 이중주를 하는 등 실내악에서도 눈부신 활동을 했다.
1968년부터는 지휘자로도 활동을 시작한다. 그리고 이때부터 소련의 반체제작가인 솔제니친과 교우관계를 갖게 되는데, 1970년엔 소련 당국에 대해서 공개 질문장을 내어 당국의 분노를 사게 될 뿐 아니라 해외 출국이 정지되는 탄
압을 받는다. 그러던중 1974년에 2년간의 해외여행 허가를 받고 부인과 함께 미국으로 건너가 워싱톤에 정착하게 된다. 1977년 9월에 워싱턴 내셔날 교향악단의 음악 감독에 취임했고 이에 대해서 소련의 기관지 이스베스챠지는 로스트로포비치 부부가 반애국적인 행위를 했기 때문에 소련의 시민권을 박탈한다는 기사를 1978년 3월에 냈다.
첼리스트로서의 그의 연주는 장대한 스케일과 열정, 지성, 테크닉이 한데 엉킨 감동적인 것일 뿐 아니라 따뜻한 인간미에 넘쳐 있다. 그래서 카잘스는 그를 일러서 "종래의 첼리스트의 이미지를 바꿔놓은 연주자"라고 경탄을 금치 못
했다. 그의 레코드는 수없이 많지만 드보르작의 협주곡(6번이나 녹음했다), 생상스의 협주곡, 슈만의 협주곡, 차이코프스키의 [로코코 변주곡]이 유명하고, 지휘자로서의 레코드는 런던 필과 녹음한 차이코프스키의 교향곡 전집이 뛰어난 것으로 평가되고 있다. 
20세기 최고의 거장 로스트로포비치는 2007년 4월 27일, 세상을 떠났다.
(곽근수의 음악이야기에서 인용)