1926年春，冼星海考入北京大学音乐传习所，师从作曲家萧友梅和俄籍小提琴教授托诺夫。萧友梅特地安排他抄谱、做图书管理员，以弥补生活费。1927年，萧友梅和蔡元培在上海创办国立音乐院，翌年，冼星海由北平来上海考入国立音乐学院，主修小提琴和钢琴，攻读理论作曲，并在院刊发表《普遍的音乐》一文。
巴黎苦学
在上海国立音乐院的一年，因政府承诺的办学经费迟迟不到位，学生增多，学院本就捉襟见肘的财政更加紧张。1929年6月，学生因宿杂费涨价和校方发生冲突而罢课，并激发了学潮。此时冼星海住在田汉创办的南国社宿舍里,但是他支持同学们的斗争,并被推举为学生会干事之一,组织去南京请愿。他因此失去了学籍。这时，埋在心底多年的念头冒了起来：到巴黎去，学习做一个“国际的”的音乐家。
他在同学帮助下凑了点旅费，又找到了一个在前往法国的远洋轮上当锅炉工的机会，用劳力抵了船票。1930年春天，冼星海抵达马赛港，从这里走向巴黎。他没有钱，靠做餐馆跑堂、浴室杂役甚至帮佣维生，常常吃了上顿没下顿。此时已在欧洲的马思聪伸出了援手，将他推荐给了曾经教过自己的巴黎歌剧院首席小提琴奥别多菲尔先生。“奥别多菲尔先生，每月收学费200法郎。教我的时候，因打听出我是个做工的，就不收学费。接着我又找到路爱日·加隆先生，跟他学和声学、对位学、赋格曲。加隆先生是巴黎音乐院的名教授，学费每月也要200法郎，但他也不收我的学费。我又跟‘国民学派’士苛蓝港·多隆姆学校的作曲教授丹地学作曲，他算是第一个教我作曲的教师。以后，我又跟里昂古特先生学作曲，同时跟卑先生学指挥。这些日子里，我还未入巴黎音乐院，生活穷困极了，常常妨碍学习。”
在困苦生活的时日，对母亲的思念和对祖国的关切，成了他学习的动力和源泉。冬天的巴黎寒风嘶吼，独自住在7层破阁楼的冼星海没有棉被，冻得夜不能寐，一切人生的苦、辣、辛、酸，此刻都汹涌起来，激愤的冼星海情难自已，一口气写下了三重奏《风》。他的老师被这部作品震惊，很快就在巴黎音乐学院排演，并由巴黎电台播出。这是法国音乐界第一次听到中国人作曲的音乐。巴黎音乐学院的保罗·杜卡斯教授，破例收下了这个中国学生，不但不收费，还经常给予衣食帮助。冼星海的学业因此突飞猛进，并获得教授首肯，备考巴黎音乐学院的高级作曲班。考试的那天，学院的门卫将他挡在门外，因为这个中国人的衣服与世界顶级的高级作曲班“不相称”。争执不下时，杜卡斯教授过来，攀着他的肩将他送进了考场。在这一年录取的学生中，冼星海因为成绩优异获得了荣誉奖，按照学院的惯例，主考教授请他自主挑选物质奖励，他脱口而出两个字“饭票”，便哽咽无语了……