Родился 12 (24) октября 1875 года в Москве, в германо-швейцарской семье. В 1892 году в возрасте 17 лет поступает учиться в Московское училище живописи, ваяния и зодчества (МУЖВЗ). Его преподавателями были такие мастера, как К.А. Савицкий, А.Е. Архипов, Н.А. Касаткин, А.М. Корин, С.Д. Милорадович, Л.О. Пастернак. В 1898 году Юон оканчивает Училище и остается там еще на два года у В.А. Серова, ставшего к тому времени профессором натурного класса, а затем и руководителем персональной мастерской. Позднее Юон основал собственную студию, в которой преподавал с 1900 по 1917 год совместно с И.О. Дудиным. Его учениками были, в частности, А.В. Куприн, В.А. Фаворский, В.И. Мухина, братья Веснины, В.А. Ватагин, Н.Д. Колли, А.В. Грищенко, М.Г. Ройтер, Н. Терпсихоров, Ю.А. Бахрушин, Г.Б. Якулов.

С 1896 до конца 1900-х гг. он неоднократно посещал Париж, где немного занимался в частных студиях. В 1906 г. становится членом парижского Осеннего салона и выставляется за границей. В 1900 году он посетил также Австрию, Швейцарию, Германию и Италию, где знакомился со старыми мастерами и современным искусством Запада. В 1900 году женился на простой крестьянке Клавдии Алексеевне Никитиной, уроженке деревни Лигачево Московской губернии, против брака с которой категорически выступал отец художника.

В 1903 году при содействии Абрама Архипова и Игоря Грабаря Юон основал «Союз русских художников», ставший центром притяжения для московских пейзажистов. На его картинах изображены шедевры старинного зодчества и красоту древних русских городов (Москвы, Сергиева Посада, Нижнего Новгорода и других), с широкой перспективой, изображением церквей, женщин в народных костюмах, примет традиционного русского быта.

С 1907 года Юон начинает сотрудничать с театрами, а в 1913-м декоратор создал оформление для оперы «Борис Годунов» композитора Модеста Мусоргского. В роли главного героя выступал Федор Шаляпин, который после спектаклей выкупил особенно понравившиеся эскизы.

После революции Юон остался в России. В качестве отклика на революционные события им было создано полотно «Новая планета» (ГТГ). В 1925 году Юон стал членом Ассоциации художников революционной России (АХРР), а в 1923 году выполнил картину «Парад Красной армии». С 1948 по 1950 годы был директором Научно-исследовательского института теории и истории изобразительных искусств АХ СССР. Помимо работы в живописном жанре, он продолжал заниматься оформлением театральных постановок, а также графикой.

Перед Великой Отечественной войной живописец работал над мозаиками для Дворца Советов, проект которого так и не завершили. Продолжал трудиться над театральными декорациями и рисовать пейзажи родного города, даже с наступлением военного времени.

С 1952 по 1955 годы преподавал в качестве профессора в Московском художественном институте имени В. И. Сурикова, а также в ряде других учебных заведений (Институт имени И.Е. Репина в Ленинграде, Заочный народный университет искусств в Москве). С 1957 года был первым секретарём правления Союза художников СССР. Умер 11 апреля 1958 года в Москве. Похоронен на Новодевичьем кладбище. (Сайт Русского музея)

Из воспоминаний художника

«Весь мой жизненный путь прошел в Москве. <...> Моё пристрастие к историческим памятникам и преданиям воспиталось органически вместе с первыми детскими впечатлениями, воспринятыми мною в Лефортове» — московской окраине, насыщенной историческими преданиями и памятниками петровского времени. Автобиографический очерк // Юон, К.Ф.. Об искусстве. М. 1959. Т. 2. С. 206.

Вместе с ростом интереса к памятникам русской архитектуры, естественным образом углублялся интерес к истории родной страны, к исконному быту и укладу, к традициям и мудрости народной жизни. Там же. С. 207.

Увлечение архитектурой было непосредственной причиной моего решения поступить в Московское училище живописи, ваяния и зодчества, однако впоследствии оказалось, что краски перетянули, и я стал живописцем. Там же. С. 207.

Меня потянуло к далеким и манящим горизонтам, к водным просторам. Мне казалось, что в Нижнем Новгороде я найду то, к чему стремлюсь. В этом чудесном, исключительном по живописности историческом городе ключом била современная жизнь на суше и на воде. Весь его русский, подлинно народный дух и характер захватили меня с головой. Позднее я приезжал туда вновь и вновь зимой, весной и летом. Исчерпать, даже в малой степени, его содержательную красоту было невозможно. Там же. С. 213.

Я очень увлекался рассказами М.Горького, и мое решение поехать в Нижний Новгород, к речным пристаням, на Волгу, было продиктовано поэзией и художественной правдой, воспринятой из его рассказов. Там же. С. 214.

<...> Меня потрясли архитектурная красота и колорит Троице-Сергиевой лавры <...>, когда я туда попал впервые. Там я нашел все, о чем мог мечтать , что грезилось воображению, те красочные сочетания, ту насыщенную цветовую гамму, которая выражала русское народное эстетическое сознание с наибольшей яркостью.

Я чувствовал себя влюбленным в очаровавший меня мир сказочкой красочности. Мои последующие поездки в древнерусские города (Ростов, Углич, Торжок и др.) еще больше обогащали мою радость художника, словно моим взорам явилась нетронутая целина эстетических ценностей, предельно живописно выражающих духовный облик и историю русского народа. Поездки в новые города не мешали моим многократным возвращениям к этой народной жемчужине, неисчерпаемой по своим живописным и декоративным историко-бытовым богатствам. Там же. С. 213.

В 1900 году, одновременно с основанием школы, в моей жизни произошла и другая перемена: я обрел спутницу моей жизни, являющуюся уроженкой живописнейшего подмосковного села Лигачево. Попав в это село впервые зимой, я был так пленен его расположением и красотой окрестностей, что решил там основаться. Выстроенная мной в Лигачеве небольшая мастерская, которая и до сих пор служит мне местом для работ на природе, с годами стала обрастать пристройками. Дом был сознательно построен на окраине села, так как, кроме природы, мне нужны и люди. В результате моего сближения с населением появились картины: «Пляска свах», «Девичник», «Семья», «Подмосковные хороводы», «Подмосковная молодежь», «Молодые - смех и другие. Почти все мои зимние и частично летние пейзажи были написаны в окрестностях села Лигачево. Автобиографический очерк // Юон, К.Ф.. Об искусстве.. С. 213.

В результате знакомства с С.П.Дягилевым мне пришлось дважды поработать над оперой «Борис Годунов», поставленной в Париже: первый раз в 1908 году в качестве исполнителя декораций по эскизам Головина и второй раз в 1913 году в качестве самостоятельного постановщика этой оперы там же, с участием в ней Шаляпина в роли Бориса. Эти театральные работы положили начало моей театральной деятельности, особенной развившейся в советское время. Автобиографический очерк // Юон, К.Ф.. Об искусстве. М. 1959. Т. 2. С. 214.

Самое большое значение в течение всей жизни имела для меня любовь к Родине в самом широком смысле слова. Любовь не только к природе и городам, но и к народу с его историей, бытом, творчеством, с его мудростью питала и до сих пор питает всю мою работу.  Мой творческий путь // Юон, К.Ф.. Об искусстве. М. 1959. Т. 2. С. 216. Мне с самого начала хотелось найти что-то такое, что определило бы мое отношение к Родине....

<...> Именно там, на юге, я понял, что делаю не то, что нужно, а что нужно делать то, что мне знакомо и близко, то, что я люблю. Там мною было принято решение поехать в древние русские города, полюбоваться красотой русской, национальной. Там же.

Третьяковская галерея и мой учитель Серов были двумя главными родниками, где я черпал то спасительное начало, которое позволяло мне провести сквозь всю мою жизнь здоровое отношение к искусству и не дало сбиться с пути реалистического, с пути уважения к русской классике. Там же. С. 217.

Серов требовал быть верным национальной художественной культуре; вот его буквальное выражение: «В России жить, так русским и быть».

<...>Мне открылся целый мир новой нетронутой красоты, не отраженной в произведениях искусства. Мне хотелось писать картины, как пишутся песни о жизни, об истории русского народа, о природе, о древних русских городах, которые возникали обычно среди исключительно красивой природы. С. 217.

<...> Почти каждую картину народной жизни мне хотелось писать, и в конце концов понемногу складывался целый цикл связанных между собой картин русской жизни. Там же. С. 218.

Во время работы вокруг меня сейчас же образовывалась толпа зрителей, которая с восторгом следила за каждым ударом кисти и прямо определяла, что это дом Мишки, а это дом Степки.  Огораживался веревочкой...

Каждая картина решалась в условиях живого движения. Людей, лошадей, сани и пр. <...> я набрасывал прямо с натуры, как в рисунках, так и в этюдах маслом. Это очень увлекало. Мой творческий путь // Юон, К.Ф.. Об искусстве. М. 1959. Т. 2. С. 218.

То обстоятельство, что мне приходилось много писать в городах, на площадях и на улицах, сближало меня с народом. Кремлевские и монастырские стены, которые я писал, без людей мне не мыслились. В живых современных сценах у подножия исторических сооружений я видел органическое продолжение былой жизни русского народа. Изображение этих живых сцен с натуры гораздо ярче передавало дух истории и дух народа, чем если бы я стал какую-нибудь историческую вещь компоновать. Всюду я искал русский неповторимый стиль и характер красок и форм.. Мой творческий путь // Юон, К.Ф.. Об искусстве. М. 1959. Т. 2. С. 218.

<...> Очень много труда я отдал изображению Москвы во всевозможных видах. Есть и у меня и старая Москва <...> Но еще больше работ посвящено новой Москве: парады на Красной площади, вузовцы <...>  и целый ряд других. Москве посвящено примерно 30 работ.

Москва сыграла в моей художественной жизни большую роль. В Москве началась моя живопись, Москва вскормила во мне основные интересы и увлечения. Москва в моем творчестве // Юон, К.Ф.. Об искусстве. М. 1959. Т. 2. С. 236.