アメリカ陸軍は1942年秋に、M2ハーフトラックの車体に81mm迫撃砲M1を搭載したM4 81mm自走迫撃砲の後継として、より兵員室の容積が広いM3ハーフトラックの車体に81mm迫撃砲M1を搭載した自走迫撃砲の開発を、M4自走迫撃砲の開発を手掛けたオハイオ州クリーヴランドのホワイト自動車に要求し、これに伴ってM4自走迫撃砲は1942年10月で生産を終了した。

M3ハーフトラックをベースとする自走迫撃砲には「T19」の試作呼称が与えられて開発が進められたが、M4自走迫撃砲の生産終了時にはまだ量産段階に達していなかったため、それまでの繋ぎとしてM4自走迫撃砲の改良型が製作されることになった。
これがM4A1自走迫撃砲で、1943年5〜10月にかけてホワイト自動車で600両が生産された。

一方、T19自走迫撃砲は1943年7月に開発試験を完了し、「M21 81mm自走迫撃砲」（81mm Mortar Motor Carriage M21）として制式化された。
M4/M4A1自走迫撃砲では、81mm迫撃砲M1が車体後方に向けて搭載されたために運用上制約があり、部隊からは不評であったが、M21自走迫撃砲では81mm迫撃砲M1が前方に向けて搭載されるようになり、使い勝手が大幅に向上していた。

しかし、M4/M4A1自走迫撃砲が合計で1,172両も生産されたため、すでにアメリカ陸軍の自走迫撃砲の需要は満たされてしまっており、M21自走迫撃砲は1944年1〜3月にかけて、わずか110両がホワイト自動車で生産されたに留まっている。
この内、54両は自由フランス軍に支給された。

1948〜49年の第1次中東戦争（イスラエル独立戦争）の終了後、イスラエルはアメリカやヨーロッパ各国で使い古されたM2/M3ハーフトラックを大量に購入したが、この中には81mm迫撃砲M1を搭載する自走迫撃砲も含まれており、イスラエル軍はこれを「M3 Mk.C」の呼称で使用した。
さらに1970年代にイスラエル軍はM3ハーフトラックを改造して、ソルタム社製の120mm迫撃砲を搭載した自走迫撃砲を製作しており、これを「M3 Mk.D」の呼称で使用した。