1926年春，冼星海考入北京大學音樂傳習所，師從作曲家蕭友梅和俄籍小提琴教授托諾夫。蕭友梅特地安排他抄譜、做圖書管理員，以彌補生活費。1927年，蕭友梅和蔡元培在上海創辦國立音樂院，翌年，冼星海由北平來上海考入國立音樂學院，主修小提琴和鋼琴，攻讀理論作曲，并在院刊發表《普遍的音樂》一文。
巴黎苦學
在上海國立音樂院的一年，因政府承諾的辦學經費遲遲不到位，學生增多，學院本就捉襟見肘的財政更加緊張。1929年6月，學生因宿雜費漲價和校方發生沖突而罷課，并激發了學潮。此時冼星海住在田漢創辦的南國社宿舍里,但是他支持同學們的斗爭,并被推舉為學生會干事之一,組織去南京請愿。他因此失去了學籍。這時，埋在心底多年的念頭冒了起來：到巴黎去，學習做一個“國際的”的音樂家。
他在同學幫助下湊了點旅費，又找到了一個在前往法國的遠洋輪上當鍋爐工的機會，用勞力抵了船票。1930年春天，冼星海抵達馬賽港，從這里走向巴黎。他沒有錢，靠做餐館跑堂、浴室雜役甚至幫傭維生，常常吃了上頓沒下頓。此時已在歐洲的馬思聰伸出了援手，將他推薦給了曾經教過自己的巴黎歌劇院首席小提琴奧別多菲爾先生。“奧別多菲爾先生，每月收學費200法郎。教我的時候，因打聽出我是個做工的，就不收學費。接著我又找到路愛日·加隆先生，跟他學和聲學、對位學、賦格曲。加隆先生是巴黎音樂院的名教授，學費每月也要200法郎，但他也不收我的學費。我又跟‘國民學派’士苛藍港·多隆姆學校的作曲教授丹地學作曲，他算是第一個教我作曲的教師。以后，我又跟里昂古特先生學作曲，同時跟卑先生學指揮。這些日子里，我還未入巴黎音樂院，生活窮困極了，常常妨礙學習。”
在困苦生活的時日，對母親的思念和對祖國的關切，成了他學習的動力和源泉。冬天的巴黎寒風嘶吼，獨自住在7層破閣樓的冼星海沒有棉被，凍得夜不能寐，一切人生的苦、辣、辛、酸，此刻都洶涌起來，激憤的冼星海情難自已，一口氣寫下了三重奏《風》。他的老師被這部作品震驚，很快就在巴黎音樂學院排演，并由巴黎電臺播出。這是法國音樂界第一次聽到中國人作曲的音樂。巴黎音樂學院的保羅·杜卡斯教授，破例收下了這個中國學生，不但不收費，還經常給予衣食幫助。冼星海的學業因此突飛猛進，并獲得教授首肯，備考巴黎音樂學院的高級作曲班。考試的那天，學院的門衛將他擋在門外，因為這個中國人的衣服與世界頂級的高級作曲班“不相稱”。爭執不下時，杜卡斯教授過來，攀著他的肩將他送進了考場。在這一年錄取的學生中，冼星海因為成績優異獲得了榮譽獎，按照學院的慣例，主考教授請他自主挑選物質獎勵，他脫口而出兩個字“飯票”，便哽咽無語了……