Иван Ильич Леонидов родился 9 февраля 1902 года на хуторе Власиха б. Старицкого уезда Тверской губернии, в крестьянской семье. Его детство прошло в деревне Бабино. Окончив четыре класса приходской школы, он с двенадцати лет ходил на заработки в Петроград. Приобщаться к искусству начал с обучения иконописи у местного богомаза.

После революции Иван Леонидов работает секретарем Бабинского волисполкома. В 1920 году он поступает учиться во вновь организованные в Твери «Свободные художественные мастерские». Годом позже его направляют в Москву, на живописный факультет Вхутемаса, где он затем переходит на архитектурный факультет в группу Весниных.