Моисей Яковлевич Феркельман родился 25 мая 1908 года в Тифлисе. В 1925 году поступил в Тбилисскую консерваторию по классу фортепиано. В 1929 году Феркельман переехал в Ленинград и продолжил образование во 2-м музыкальном техникуме (класс профессора О.К.Калантаровой),
а затем, с 1930 года - в Ленинградской консерватории по классу теории композиции у профессора М.О.Штейнберга.
В 1935 году дипломной работой "Концерт для виолончели с оркестром" композитор закончил консерваторию. В 1930-37 и с 1945 года - пианист-аккомпаниатор и ансамблист.
В предвоенные годы композитор написал ряд сочинений в различных жанрах: струнный квартет, цикл романсов на стихи А.С.Пушкина, ряд песен для эстрады и др.
В 1938 году Ленинградский театр музыкальной комедии поставил его оперетту "Моя любимая", написанную совместно с Л.А.Ходжа-Эйнатовым,
а в 1940 году Ленинградский областной театр музкомедии осуществил постановку его второй оперетты "Дочь Флориды". В годы Великой Отечественной войны Феркельман написал оперетты "Серенада" и "Любит - не любит".
В 1942 — 1944 годы Феркельман - музыкальный руководитель Ансамбля Закавказского военного округа.
После войны композитор работал преимущественно в массовых жанрах, сочинял песни и инструментальную музыку для эстрады.
Умер 13 августа 1977 года.