ドイツ軍が歩兵支援に使用していたIII号突撃砲の成功に、ソ連軍は興味を持っていた。
この車両は砲塔が無いため戦車よりも安価に製造できる上、戦車砲よりも歩兵支援に適した口径の大きな榴弾砲を搭載することができた。
1942年4月にソ連軍砲兵総局は戦車工業人民委員部の協力の下、各装甲車両の設計局にこのような車両の開発要求を提出した。

数種類の武装と基本車台が検討され、選択肢の中には37mm対空砲、76.2mm師団砲、122mm榴弾砲も含まれていた。
G.I.カシタノフ技師の設計グループは、鹵獲したドイツ軍のIII号戦車の車台に22.7口径122mm榴弾砲M-30を搭載した中型突撃砲の試作車を開発した。
「SG-122」と呼ばれるこの車両の審査は1942年7月に実施されたが、結局不採用となった。

歩兵支援用の中型突撃砲に対する要求は続いていたので、1942年10月に国家防衛委員会（GKO）はT-34中戦車の車台を使った中型突撃砲の開発を始めるよう、スヴェルドロフスクのウラル重機械工場（UZTM）に命じた。
同工場では、L.ゴルリツキー技師とE.シルニシチコフ技師をリーダーとする設計グループが開発に着手した。
この突撃砲の工場呼称は「SU-35」で、T-34中戦車1943年型の車体前部に完全密閉式の戦闘室を設け、そこに車載用に改修した1938年型122mm榴弾砲M-30を搭載した。

戦闘室の内部容積を広く取るために戦闘室側面の傾斜角はT-34中戦車より少なくされたが、このため機関室との間に段差が生じてしまったために、三角形のブロックを用いて整形している。
単純な形状の主砲防盾の俯仰角は−3〜＋26度で、旋回角は左右各10度ずつであった。
また、航続距離を延ばすために外装式予備燃料タンクも装備した。

試作車の審査は成功裡に終わり、1942年12月にGKOはUZTMにSU-35を「SU-122」の制式呼称で限定生産するよう命じた。
最初の自走砲連隊は1942年12月に編制され、SU-76対戦車自走砲装備の4個中隊（17両）と、SU-122突撃砲装備の2個中隊（8両）で構成されていた。

1943年1月末、最初の2個自走砲連隊がレニングラード近郊のヴォルコフ方面軍に配備され、同年3月にはもう2個連隊が追加された。
自走砲連隊は軍司令官もしくは方面軍司令官直轄で、拠点の突破戦に使用された。
ソ連軍将兵たちの、自走砲連隊に対する反応は様々であった。

突撃砲というコンセプトは歓迎されたが、SU-76対戦車自走砲とSU-122突撃砲を一緒に運用するには問題があった。
初期のSU-76対戦車自走砲は技術的な問題点を抱えていたため、改良型のSU-76M対戦車自走砲の導入で解決されたが、1943年5月に部隊は軽自走砲連隊と中自走砲連隊に再編制された。
中自走砲連隊は4個中隊で組織され、連隊全体で16両のSU-122突撃砲と1両のT-34指揮戦車を保有していた。

実戦に投入された中でSU-122突撃砲が歩兵部隊の直接支援任務に有効で、特にT-34中戦車譲りの優れた防御力と、122mm榴弾砲の火力の組み合わせが敵陣の粉砕に威力を発揮することが確認された。
その後生産も順調に進み1943年7月のクールスク戦にも投入されたが、ここでは装甲防御力が改善されたドイツ軍戦車に対し122mm榴弾砲が非力であることが露呈された。

その後、本砲用のBP-460A対戦車榴弾（成形炸薬弾）も若干準備されたが、砲口初速335m/秒と低初速であるため命中精度が悪く、根本的な改善とはならなかった。
このため、SU-122突撃砲の車体をベースに対装甲威力に優れる51.6口径85mm対戦車砲D-5Sを搭載したSU-85駆逐戦車が新たにUZTMで開発され、中自走砲の生産は次第にSU-122突撃砲からSU-85駆逐戦車にシフトされていった。

1944年8月以降に生産されたSU-122突撃砲はSU-85駆逐戦車と共通の車体が用いられ、防盾もSU-85駆逐戦車と同じ球状防盾となった。
SU-122突撃砲の生産は1944年半ばまで続けられ、1942年に25両、1943年に630両、1944年に496両の合計1,148両が完成している。