В 1864 году в Москве было организовано Московское математическое общество. Оно возникло как научный кружок преподавателей математики (большей частью из Московского университета) и его изначальной целью было знакомство друг друга посредством оригинальных рефератов с новыми работами в различных областях математики и смежных наук — как собственными, так и других учёных; но уже в январе 1866 года, когда была подана просьба об официальном утверждении Общества, в его уставе была записана существенно более амбициозная цель: «Московское математическое Общество учреждается с целью содействовать развитию математических наук в России»[1].

Для публикации докладов, прочитанных на заседаниях, был организован журнал «Математический сборник», его первый номер вышел в 1866 году[1].

С 1932 года по 1935 год журнал выходил как объединённый орган Московского, Ленинградского и Казанского математических обществ, с 1936 — орган АН СССР, с 1948 — АН СССР и Московского математического общества.

Журнал первоначально издавался на средства, собираемые членами Московского математического общества. С 1926 года журнал издаётся при государственной поддержке по одному тому в год. С 1936 года ведётся «Новая серия» и двойная нумерация томов.