1 мая 1920 г. была открыта Смоленская картинная галерея. О возможности создания в губернском центре такого музея еще в марте 1919 г. свидетельствовал эмиссар Московской коллегии по делам музеев и охране памятников В.О.Нилендер. Реализации этой идеи, происходившей на фоне заметного оживления в 1918-1920 гг. в Смоленске художественной жизни, способствовали наличие значительного числа художественных ценностей, сконцентрированных в губернском музейном фонде. Они были вывезены Губподотделом из особняков Смоленской губернии: собрание картин Барышниковых (имение Алексино), князей Оболенских (имение Кощино), княгини Тенишевой. К этому собранию присоединились картины и скульптуры, приобретенные подотделом через отдел по делам музеев и ИЗО Наркомпроса.

К созданию галереи приступили в конце января 1920 г. В феврале 1920 г. А.В.Луначарский, нарком просвещения, высказал пожелание, чтобы губподотдел «открыл какой-нибудь музей своими силами». А вскоре по его протекции было получено свыше 70 произведений живописи и скульптуры начала XX века и 26 гравюр. В числе поступивших – произведения С.В.Малютина, К.А.Коровина, Л.О.Пастернака, К.Ф.Юона, В.В.Кандинского, П.П.Кончаловского, П.В.Кузнецова, И.И.Машкова, Н.С.Гончаровой, Н.П.Крымова. В марте 1920 г. для создававшейся галереи из особняка княгини М.К.Тенишевой были изъяты ранее взятые на учет 32 картины и 4 скульптуры, среди которых были произведения Н.Н.Ге, И.Е.Репина, К.А.Коровина, П.П.Трубецкого, К.А.Сомова, Н.К.Рериха. В апреле того же года 38 работ отечественных и зарубежных художников было передано из Смоленского филиала Московского археологического института.

Все перечисленные выше поступления составили основу картинной галереи, которая занимала незначительную часть здания бывшего уездного земства (ныне перекресток улиц Дзержинского и Октябрьской революции: предположительно здание на месте Адресного бюро или здание Страхового агентства). На 4 октября 1921 г. коллекция насчитывала уже  до 700 картин, до 1000 гравюр, имела библиотеку в 1000 томов. Дальнейшее комплектование галереи осуществлялось за счет передачи целого ряда произведений из Румянцевского музея, Петроградского музейного фонда, отдела ИЗО Наркомпроса РСФСР, собрания княгини Тенишевой, находившейся в Смоленске Польской библиотеки, бывшей городской управы. Отдельные произведения приобретались путем закупки у частных лиц, а также «в обмен на предметы, не имеющие музейного значения». В сентябре 1921 г. была опробована предусмотренная губмузеем и впоследствии широко применявшаяся практика изъятия произведений искусства из уездных музеев: тогда из Сычевского музея было вывезено 6 картин, в числе которых оказались работы И. ван Остаде, П. Ротари и А. Рослина. Наряду с произведениями живописи, графики, скульптуры, собрание пополнялось предметами фарфора, художественной обстановки, иконописи.

В связи с отсутствием в Смоленске собственных кадров по приказу губОНО старшим хранителем картинной галереи был назначен москвич Яков Алексеевич Тепин (1883-1952), художник, историк искусства, коллекционер, организатор музейного дела и охраны памятников, который пребывал на этом посту с января 1920 г. до осени 1922 г.

Его помощником был А.Н.Попов, сотрудник губподотдела, хранитель и регистратор губернского музейного фонда, художник, лучшие произведения которого были приобретены картинной галереей.

В штате значились также два младших хранителя М.Г.Зенгер и Н.А.Журавлев, библиотекарь  Т.Г.Зенгер, служитель А.П.Антонинова.

В картинной галерее с 1919 по 1928 гг. работал хранителем, а затем заведующим известный художник, педагог Нил Александрович Яблонский (1888 - после 1943), сыгравший большую роль в научном изучении коллекций, в частности, западной живописи.Его исследования о собрании картин голландской живописи было опубликовано в 1-м выпуске «Трудов Смоленских государственных музеев».

Вместе с Яблонским изучал коллекции галереи Иван Макарович Хозеров (1889-1947), художник, искусствовед, исследователь памятников древнерусского зодчества, музейный деятель, археолог;  многое сделал для изучения зодчества Смоленщины, иконописи из собрания бывшего музея «Русская старина», принимал участие в художественной жизни Смоленска: экспонировался на различных выставках.   

После реэкспозиции, проведенной в 1920 г., галерея состояла из пяти отделений: 1) Школа западной живописи. 2) Русская живопись начала XIX в. и сильные русские мастера конца XIX в. 3) Передвижники и петербуржцы. 4) Новая  московская школа (сезанисты) и новейшие течения. 5) Французские эпигоны импрессионизма и пр. Таким образом, созданная в Смоленске галерея представляла собой не просто художественную экспозицию, а явилась одним из только что появившихся в стране музеев живописной культуры, ранее не имевших аналогов в мировой музейной практике.