В 1895 году Сарьян окончил общеобразовательное армяно-русское городское училище Новой Нахичевани. Уже в школьные годы успехи Сарьяна в рисовании были отмечены похвальной грамотой. После окончания школы Сарьян поступил на работу в почтовую контору. Здесь в свободное время он перерисовывал картинки из журналов и делал наброски с интересных типажей, встречающихся среди посетителей конторы. Старший брат Сарьяна, Ованнес, поддержав увлечение Мартироса, познакомил его со своим приятелем, художником А. Арцатбаняном, студентом Московского училища живописи, ваяния и зодчества. Оценив природное дарование юноши, Арцатбанян подготовил Мартироса к вступительным экзаменам. В 1897 году, в 17 лет, Сарьян становится студентом Московского училища.
Московскую школу живописи отличало прогрессивное отношение к средствам изображения. Изжившим себя устоям академической школы она противопоставляла независимость и свободу творчества, поощряла поиски новых форм и смелые эксперименты молодых художников. Эта атмосфера способствовала формированию творческой индивидуальности молодого Сарьяна. Занятия в открытых при училище мастерских известного русского импрессиониста К.Коровина и замечательного живописца В.Серова развивали профессиональные навыки молодого художника.
В начальный период портреты и пейзажи Сарьяна ещё не обнаруживают индивидуального почерка художника: они исполнены в характерной для канонов традиционно-реалистической живописи серовато-коричневой гамме смешанных тонов, переходящих от света к тени. Однако уже эти работы свидетельствуют о мастерстве начинающего художника.