Piotr Konchalovsky est né le 21 février 1876 à Sloviansk, petit village, actuellement situé en Ukraine. Sa famille s’installe à Moscou en 1889, son père était éditeur d’art. Sa maison d’édition fut très importante pour la mise en valeur de la scène artistique moscovite dans les années 1890. Son père côtoyait des personnes comme Mikhaïl Vroubel, Vassili Sourikov et Valentin Serov. 

Piotr Konchalovsky se forme à l’École de peinture, de sculpture et d’architecture de Moscou. Ensuite, il se rend à Paris pour étudier à l’Académie Julian entre 1896 et 1898. De retour en Russie, il entre à l’Académie Impériale des Beaux-Arts de Saint-Pétersburg. Il obtient son diplôme en 1907. Il eut Savinsky, Zaleman et Kovalevsky comme maîtres. 

En 1910, il fonde le mouvement Valet de Carreau en compagnie de Vladimir Boberman, un de ses disciples. Ce mouvement pictural moscovite reprend les réflexions de Paul Cézanne et du postimpressionnisme français, mais aussi de mouvements comme le fauvisme et l’expressionnisme allemand du « Blaue Reiter » (Le Cavalier Bleu). Le Valet de Carreau est considéré comme le mouvement phare de l'avant-garde russe.

En 1922 a lieu sa première exposition personnelle à la Galerie Tretiakov, un des plus importants musées de Moscou. Par ailleurs, il se rend très régulièrement à Paris et en France. Après 1925, il dessine principalement des natures mortes et des paysages. Ses œuvres sont largement influencées par Paul Cézanne. 

Piotr Konchalovsky est un artiste prolifique connu pour avoir produit plus de 5 000 œuvres. Le Musée de l’Impressionnisme Russe de Moscou conserve deux de ses toiles. L'artiste meurt à Moscou le 2 février 1956 à l’âge de 79 ans.