马友友刚开始所学习的乐器是小提琴，后来是中提琴。4岁开始学钢琴与大提琴, 5岁开始在观众面前演出。7岁与家人迁往美国纽约定居。8岁结识了著名的大提琴家帕伯洛·卡萨尔斯，并且在伦纳德·伯恩斯坦帮助下，在美国的卡耐基音乐厅与姐姐马友乘参加了第一次公开演出。这场演奏会是由伦纳德·伯恩斯所指挥，并且在美国的电视节目上播出。
马友友14岁中学毕业，并且以独奏者的身分，与哈佛雷蒂克里夫乐团（Harvard Radcliffe Orchestra）共同演奏了柴可夫斯基的《洛可可变奏曲》（Variations on a Rococo Theme）。后来马友友进入茱莉亚音乐学院（Juilliard School），在大提琴家雷奥纳多·罗斯（Leonard Rose）门下学习。读了7年之後，虽然成绩名列前茅，但他却在尚未毕业之前便退学，并前往哈佛大学就读。他在这个时候逐渐成名，与许多知名的交响乐团一起演奏。这段期间马友友录制并演奏了巴赫的《大提琴组曲》（Cello Suites）。同时也经常与他在音乐学院时期所结交的好友钢琴家伊曼纽尔·艾克斯（Emanuel Ax），合作演出一些室内乐。
马友友曾与美国前国务卿康多莉扎·莱丝共同演出二重奏（照片拍摄于演出后）。
1976年马友友于美国哈佛大学毕业，并取得人类学学士学位。1991年，哈佛大学授予他荣誉博士学位。
马友友的父亲马孝骏为音乐教育学博士，同时也是作曲家兼指挥家，曾任南京中央大学教授；母亲卢雅文则是国立中央大学艺术系毕业的声乐女歌手。
