上海音乐学院前身是伟大的民主革命家、杰出的教育家、思想家蔡元培先生和音乐教育家萧友梅博士于1927年11月27日共同创办的国立音乐院。首任院长为蔡元培先生。1929年9月更名为国立音乐专科学校。中华人民共和国成立后，于1956年定名为上海音乐学院。自1949年至1984年，著名作曲家、音乐理论家、音乐教育家贺绿汀担任院长（后任名誉院长），为学校的建设及发展做出了卓越的贡献。1984年后，桑桐、江明惇、杨立青、许舒亚教授曾先后任院长。学院现任党委书记、院长为林在勇。
学院面向全国招收本专科生、硕士研究生、博士研究生，并招收外国留学生。学院设有15个系（部），即作曲系、指挥系、音乐学系、民族音乐系、钢琴系、声乐歌剧系、管弦系、音乐教育系、音乐戏剧系、艺术管理系、音乐工程系、现代器乐与打击乐系、公共基础部、研究生部、数字媒体学院（筹）等。涉及6个专业(作曲与作曲技术理论、音乐学、音乐艺术表演、录音艺术、公共事业管理、音乐科技与艺术)、近20个专业方向，既包括了具有雄厚根基的传统专业，也有若干新建的新兴学科与交叉学科。
学院拥有全国最早建立的硕士、博士、博士后流动站的完整教学、科研体系。目前，有博士学位一级学科授权点3个（艺术学理论、音乐与舞蹈学、戏剧与影视学）；硕士学位一级学科授权点3个（艺术学理论、音乐与舞蹈学、戏剧与影视学）；艺术学博士后科研流动站1个。学院目前拥有2个上海市重点学科（优势学科：作曲与音乐设计，特色学科：音乐文化史）、上海市教育高地1个（音乐表演）、以及上海市高校音乐人类学E－研究院。
学院拥有3个集教学、表演、科研为一体的艺术中心，即周小燕国际歌剧中心、国际弦乐艺术中心、国际钢琴艺术中心；拥有1个音乐研究所，下设中日音乐文化研究中心、中国当代音乐研究与发展中心、上海音乐学院校史研究中心、音乐剧研究中心、音乐教育研究中心、音乐与社会研究中心等。并建有六个音乐表演团体：上海青年交响乐团、上海音乐学院新室内乐团、上海音乐学院弦乐四重奏组、上海音乐学院打击乐团、上海音乐学院民族乐团以及上海音乐学院合唱团。学院另拥有一个富有特色的出版社——上海音乐学院出版社、一个高水平的学术期刊——《音乐艺术》、一个独一无二的特色博物馆——东方乐器博物馆、以及一个高水准的演出场所——贺绿汀音乐厅。
建院至今，学院培养的人才遍及全国和世界各地，其中有国际一流的作曲家、演奏家、指挥家、歌唱家、理论家；有文化艺术机关、团体中的领导骨干；有音乐院校、研究机构的业务骨干以及从事普及音乐文化艺术的文艺工作者。同时，学院在教学、科研、创作、学科建设等方面硕果累累，体现了学院雄厚的办学力量。仅以该院师生在国际国内比赛中取得的突出成绩为例，从20世纪50年代起，该院师生就在国内外音乐比赛中屡获佳绩，尤其是20世纪80年代至90年代以来，有600余人次在国际、国内重要音乐比赛中获奖，其中1990年至1993年该院附中学生连续在国际音乐比赛中获得第一名，被文化部授予“三年中连续四次获国际比赛第一名”的奖匾，是全国音乐院校中唯一获此殊荣的院校。2007年至2011年，学院共有106人次获得108项国际音乐比赛奖项、530人次获454项国内音乐比赛奖项。学院被誉为“音乐家的摇篮”。
学院在保持传统优势学科国际先进水平的同时，积极拓展新的学科发展空间，打造学科专业建设新的增长点，促进学院办学水平的提高。如新办的本科专业公共事业管理（下设艺术管理和音乐电子信息技术管理两个方向）以及音乐工程专业，突破音乐教育传统的办学模式，率先在全国同类院校中招收一本生源，实现了包括音乐学、工程学、电子学、管理学等多学科领域的交叉跨越。
学院始终与世界一流的音乐学院和音乐家保持着密切的联系。近年来，我院分别与美国、俄罗斯、荷兰、奥地利、挪威、西班牙、澳大利亚、德国和日本等多个国家和地区的音乐院校建立了广泛的校际合作。如举办国际音乐院（校）校长论坛，邀请世界一流的专家来学院讲学，并聘请许多国际著名的音乐家为学院名誉教授或客座教授等。其中著名小提琴演奏家斯特恩、帕尔曼、里昂·费莱舍、祖克曼；著名指挥家小泽征尔、西蒙·拉特；著名大提琴演奏家罗斯特洛波维奇、马友友等等都被该院聘为名誉教授或客座教授。学院还对在世界音乐舞台上卓有成绩的华人音乐家，启动了来去自由的“签约教授制”（即签约教授可以根据个人情况，灵活选择在该院的授课时间）。如钢琴大师傅聪、陈宏宽，作曲家谭盾、瞿小松、陈其钢、盛宗亮、徐仪、安承弼，歌唱家张建一、田浩江、梁宁、黄英，圆号演奏家韩小明，大提琴演奏家秦立巍，指挥家汤沐海、余隆等，都成为学院签约的兼职或特聘教授。近年来，学院成功举办了“帕尔曼在上海”、“国际歌剧大师班”、“小泽征尔大师班”、“傅聪钢琴大师班”、“国际单簧管音乐节”、“国际钢琴大师班”、“祖克曼大师班”“国际电子音乐周”等系列对外学术文化交流活动。
