Анатолий Иванович Мальцев родился 27 ноября 1909 г. в семье рабочего стеклодува Мишеронского района Московской области. Уже в школьные годы проявились его математические способности. Окончив в 1927 г. среднюю школу, А. И. Мальцев поступил на математическое отделение Московского университета. В 1930 г. он начал преподавание в высшей школе, которое продолжил после окончания университета в 1931 г. С 1932 по 1960 г.
А. И. Мальцев работал в Ивановском педагогическом институте: сначала ассистентом, затем доцентом и с 1943 г. профессором, заведуя кафедрой высшей алгебры.