Zh.Ya.コーチン技師を長とする、チェリャビンスク・キーロフ工場の第2特別設計局（SKB-2）によって開発された新型重戦車IS-85（オブイェークト237）は、スヴェルドロフスク（現エカテリンブルク）の第9砲兵工場設計局のF.F.ペトロフ技師が、55.2口径85mm高射砲52K（M1939）を基に設計した51.6口径85mm戦車砲D-5Tを主砲に採用しており、1943年10月より量産が開始された。

しかし、直後に同じ85mm戦車砲を装備するT-34-85中戦車が完成したため、より大柄なIS重戦車の主砲には85mm戦車砲D-5Tでは小さ過ぎると判断され、より強力な砲に換装されることになった。
新しい主砲には、ソ連海軍の100mm艦艇砲B-34をベースに開発された56口径100mm戦車砲S-34と、46.3口径122mm野戦加農砲A-19を戦車砲に改造したものが候補に上がり、S-34を装備する試作車「IS-100」（オブイェークト248）と、A-19を装備する試作車「IS-122」（オブイェークト240）が製作されて試験に供された。

その結果、装甲貫徹力については100mm戦車砲S-34の方が優れていたものの、この砲は開発されたばかりで早期の生産開始が困難であり、一方122mm加農砲A-19の方は、ほとんど改造を加えること無く85mm戦車砲D-5Tの砲架に搭載することができるという利点もあったため、結局122mm加農砲A-19を装備するIS-122重戦車がソ連軍に制式採用されることになった。

その後機密保持の目的から呼称の単純化が決定され、IS-85重戦車は「IS-1」に、IS-122重戦車は「IS-2」へとそれぞれ改称されている。
IS-2重戦車の生産は1943年12月から開始されており、最初の内はIS-1重戦車と並行して生産されている。
1944年1月には主砲を、尾栓の型式を変更して発射速度の向上を図った43口径122mm戦車砲D-25Tに換装した改良型のIS-2重戦車が製作され、1944年2月から戦線に投入された。

この122mm戦車砲D-25Tは、戦後のT-10重戦車に至るまでIS重戦車シリーズの主砲として用いられた強力な戦車砲で、BR-471徹甲弾（弾頭重量25kg）を使用した場合砲口初速780m/秒、装甲貫徹力は射距離500mで172mm、同1,000mでも161mmに達し、射距離1,000mでドイツ軍のティーガーＩ戦車の前面装甲を貫徹することが可能であった。

さらに1944年4月には車体形状などを改良することにより、避弾経始の向上を図った改良型のIS-2重戦車が登場した。
この結果として、ほぼ垂直となっていた戦闘室前面の形状がなだらかなスロープを描くことになった。
また照準機の搭載位置が悪いため、主砲の防盾の幅が左側に延長されて照準機の位置が改められ、ペリスコープも新型に換装されている。

これらの改修を行って生産されたIS-2重戦車は、ロシア語で「改良」を意味する「modifikatsiya」の頭文字”m”が加えられて「IS-2m」と改称されることになったと以前は解説されることが多かったが、これは戦後にポーランドの戦車研究家ヤヌシュ・マグヌスキー氏が自著で便宜的に採用した呼称が世界に広まったものであり、ソ連軍関係者は「IS-2m」という呼称が軍内部で使用されたことは無いと証言している。

一部の車両では、従来のIS-2重戦車の車体に新型の砲塔を搭載して完成したが、これは車体より先に砲塔の方が生産体制が整ったことを意味している。
IS-2重戦車とIS-2m重戦車の正確な生産数は不明だが、1943年にIS-2重戦車が102両、1944年にはIS-2重戦車とIS-2m重戦車合わせて2,250両が完成し、1945年1〜5月にかけてIS-2m重戦車が1,150両生産されている。

IS-2重戦車は1944年4月に、北部ウクライナのガリチア地方テルノポリ地区での戦闘において初めて実戦投入された。
その強力な122mm戦車砲は、それまでソ連軍戦車を大いに苦しめてきたドイツ軍のティーガーＩ戦車やパンター戦車を遠距離から簡単に仕留め、最大厚160mmの装甲のおかげで生残性も高かった。
以来IS-2重戦車は「猛獣殺し」と異名を取る活躍をし、ドイツ軍は本車との直接戦闘を避けるようになった。

1944年8月にドイツ軍は、第2次世界大戦最強の戦車といわれるティーガーＩＩ戦車を東部戦線に送り込んだが、もはや増殖し続けるIS-2重戦車の前には一握りの数に過ぎず、戦況を左右する決定的な力とはなり得なかった。
1944年の後半期には実際の損失率に占める割合からいっても、IS-2重戦車に脅威を与えたのはドイツ国民突撃兵などが用いたパンツァーファウストのような携帯式対戦車兵器や、肉薄攻撃用の磁気吸着地雷などだった。

つまるところ強力な榴弾を発射可能な大口径戦車砲を持つIS-2重戦車は、戦車兵力の枯渇したドイツ軍の防御陣地の息の根を止める戦いの場で最も威力を発揮した。
そしてベルリン市街の瓦礫をさらにすき耕し、最後の抵抗を粉砕して進んだIS-2重戦車こそ、多くのソ連軍将兵やソ連国民にとって「勝利の兵器」と呼ぶにふさわしい力強さを体現した象徴的存在となったのである。

第2次世界大戦終了後、ソ連国内に多数残っていたIS-2重戦車は1960年以降、順次近代化改修が施されて「IS-2M」と呼ばれるようになった。
”M”はもちろんロシア語で「改良」を意味する「modifikatsiya」の頭文字であり、ソ連軍関係者も「IS-2M」の呼称は実際に使用されたと認めている。
IS-2M重戦車の改修のポイントは、

・エンジンをT-55中戦車と共用のV-55 V型12気筒液冷ディーゼル・エンジン（出力580hp）に換装
・操縦手用夜間暗視装置を追加
・車体側面上部に雑具箱を兼ねた補助装甲（成形炸薬弾対策）を設け、砲塔後部の機関銃マウントを廃止
・走行時に土煙を巻き上げないようにサイドスカートを追加

などである。
こうした改修を施されたIS-2M重戦車は、一部が実働部隊（中ソ国境警備にあたる部隊など）に配備された他は、モスボール処理されて予備装備として保存された。
さらに北方領土の警備用として択捉、国後などの島でトーチカにされた車両もある。

●中国
1950年頃、約1個連隊分（20数両）のIS-2重戦車が中国軍に供与された。
天安門広場をパレードする写真が残されているが、その写真を見ると傾斜前面装甲を持ついわゆるIS-2mタイプの車両ばかりではなく、初期型のIS-2重戦車も混じっていたことが分かる。

これらはもちろん実戦に参加しなかったが、1954年にフランス軍がインドシナに介入した際、中国軍の介入を招いてIS重戦車との対決があり得るものと考え、90mm戦車砲を装備するM36対戦車自走砲を急遽アメリカから購入して派遣するような「効果」を生んだ。
重戦車のプレゼンスの効果を示す好例である。

●キューバ
1961年のピッグス湾事件（アメリカが支援した反共キューバ人部隊がキューバのピッグス湾に上陸作戦を敢行し、キューバ人民軍に撃退された）以降、2個連隊分のIS-2重戦車が供与され1980年代まで使用されていた。

●北朝鮮
朝鮮戦争後、1960年代までに2個連隊分のIS-2重戦車とIS-3重戦車が供与され、それぞれの連隊は2個ある機甲師団に1個ずつ配備された。