ソ連軍装甲車両局（ABTU）は、当時ソ連軍が装備していた5砲塔型のT-35多砲塔重戦車の後継として、耐砲弾装甲を持つ「対戦車砲駆逐戦車」と称する新型多砲塔重戦車の開発構想を1937年5月に打ち出し、レニングラード（現サンクトペテルブルク）にある第185S.M.キーロフ工場の試作機械設計部（OKMO）と、第100キーロフ工場の第2特別設計局（SKB-2）の両者にその試作開発を命じた。

これに応じてOKMOが開発したT-100重戦車とSKB-2が開発したSMK重戦車は、いずれも76.2mm戦車砲を装備する主砲塔の前後に、45mm戦車砲を装備する副砲塔を配置した3砲塔型の重戦車として設計された。
1938年10月10〜11日にABTU局長補佐官のコロプコフ技師を長として、T-100重戦車とSMK重戦車の図面と実物大モックアップ（木製模型）の審査がモスクワで行われ、審査の結果それぞれの試作車を2両ずつ製作することが承認された。

またこの頃SKB-2の技師たちは、モスクワのソ連軍機械化自動車化学校（VAMM）で設計学の学位を取得するため、単一砲塔型の重戦車の設計に取り組んでおり、ソ連軍がチェコスロヴァキアのシュコダ製作所から研究用に借り受けたLTvz.35軽戦車を参考に、SMK重戦車を単一砲塔型に改設計した試作重戦車の設計案をまとめた。
最終的に学生たちは、この単一砲塔型重戦車の設計でVAMMから設計学の学位を授与されている。

1938年12月9日にモスクワのクレムリン宮殿で、I.V.スターリン首相を始め防衛閣僚会議のメンバーの参加の下、T-100重戦車とSMK重戦車の設計案の審議が行われた。
この席でスターリンは、いずれの戦車も砲塔が多過ぎて設計が時代遅れだと厳しく批判し、OKMOとSKB-2の代表者たちに対し、早急に新型重戦車の砲塔を減らして再設計することを求めた。

また本来は予定されていなかったが、SKB-2はこの会議でVAMMでの学位取得用に設計したSMK重戦車の単一砲塔化プランをスターリンらに披露しており、この単一砲塔型重戦車を試作することを提案した。
そしてスターリンらの承認を得て、2両製作されることになっていたSMK重戦車の試作車の内1両を、この単一砲塔型として製作することになった。

この会議から戻ったSKB-2のZh.Ya.コーチン主任技師は、それまでSMK重戦車の設計主任であったN.V.ツェイーツ技師に代えて、A.S.イェルモラエフ技師を新たな設計主任に任命し、SMK重戦車の砲塔を2つに減らして再設計するよう指示した。
またコーチンは、N.L.ドゥホフ技師を単一砲塔型重戦車の設計主任に任命し、ドゥホフはYe.P.デドフ、V.A.コズロフスキー、P.S.タラパチンらと共にこの戦車の開発に着手した。

後にコーチンはこの単一砲塔型重戦車を彼の義理の父で、スターリン側近No.2とされていた国防人民委員（大臣）クリメント・ヴォロシーロフ元帥のイニシャルを採って「KV」と名付けている。
第100工場はKV重戦車の試作車を1939年9月1日に完成させたが、単一砲塔であるKV重戦車は多砲塔のSMK重戦車に比べて砲塔の重量負担が少なく、車体長も短くすることができたため戦闘重量はSMK重戦車より8tも軽い47tに収まった。

車体の前／側面と砲塔の前／側面の装甲厚は75mmと、当時の戦車では最大級のものであった。
ただしT-34中戦車のように傾斜装甲板は多用されておらず、従来のソ連軍戦車と同じくあまり避弾経始は考慮されていなかった。
KV重戦車のエンジンは、第75ハリコフ・ディーゼル工場がフランスのイスパノ・スイザ社製の航空機用ガソリン・エンジンを基に開発した、V-2 V型12気筒液冷ディーゼル・エンジン（出力500hp）が採用された。

このエンジンはBT-7M快速戦車に初めて搭載された新しいエンジンで、まだ信頼性に不安があったため、KV重戦車の開発当初はBT-7快速戦車やT-28中戦車、T-35重戦車に採用されていたM-17ガソリン・エンジンの発展型である、M-17F V型12気筒液冷ガソリン・エンジン（出力660hp）を搭載することも検討されていた。
しかし1939年6月初めのABTUの決定により、KV重戦車はV-2ディーゼル・エンジンを搭載することになった。

結果的にこのエンジンはKV重戦車に優れた機動力と航続力をもたらし、後に量産された全てのKV重戦車シリーズがV-2ディーゼル・エンジンを採用することになる。
一方サスペンションは、ソ連軍が研究用に購入したスウェーデンのランツヴェルク社製のL-60軽戦車に用いられていたトーションバー（捩り棒）式サスペンションを基に、第100工場が国産化したトーションバー式サスペンションが採用された。

砲塔はKV重戦車用に設計された溶接製のもので、形状はSMK重戦車の主砲塔に類似し、主砲として第100工場の第4特別設計局（SKB-4）が開発した30.5口径76.2mm戦車砲L-11を砲塔防盾に装備し、その右側に副砲の46口径45mm戦車砲20Kを同軸装備していた。
砲塔後面にはボールマウント式銃架が設けられており、7.62mm機関銃DTが装備されていた。
後の生産型とは異なり、車体左右のフェンダー上部には全長に渡って収納箱が装備されていた。

第100工場ではKV重戦車に先立って、SMK重戦車の試作車を1939年4月30日に完成させており、慣らし運転を行って細かい不具合を修正した後、同年7月25日に試験場となっているクビンカの装甲車・戦車科学技術研究所（NIIBT）に送り出した。
第185工場で製作された2両のT-100重戦車の試作車も同じ日にNIIBTに送り出され、KV重戦車の試作車はやや遅れて1939年9月5日に第100工場を出発した。

そしてNIIBTに引き渡されたT-100重戦車、SMK重戦車、KV重戦車の試作車を用いて、同年9月23日からトライアル（性能比較試験）が開始された。
NIIBTでのトライアルではT-100重戦車やSMK重戦車について、多砲塔戦車でかねてより指摘されていた各砲塔を有効に連携させての戦闘動作が困難であることが指摘された他、T-100重戦車が重量面で、ソ連が保有する最大積載無蓋貨車の重量限界である55tを超えていることが問題とされた。

そして機動面その他でも2砲塔型に比べて、単一砲塔型のKV重戦車が優位との結果が報告されたのである。
ABTUが予想しなかった、単一砲塔型重戦車誕生の予感が濃厚といえた。
しかしここでもう1つの事件が、試作重戦車トライアルの途中で生じた。
ソ連軍が1939年11月30日にフィンランドへの侵攻を開始し、冬戦争が勃発したのである。

冬戦争は、レニングラード北端に接するカレリア地峡についての領土要求に端を発した武力紛争であったが、同地にフィンランド軍が構築した要塞線「マンネルヘイム・ライン」は、試作重戦車の実戦トライアルにぴったりの作戦目標といえた。
そのためNIIBTでのトライアルの結論は、さらにフィンランド国境地帯での実戦参加による試験にまで持ち越されることとなったのである。

なお実戦試験に先立って、KV重戦車は副砲の45mm戦車砲20Kに代えて7.62mm機関銃DTが装備された。
これは、主砲を操作する際に右隣の副砲が邪魔になることが判明したためで、後の生産型でも主砲の同軸武装には7.62mm機関銃DTが踏襲されている。
3種類の試作重戦車は正規の戦車兵以外に各製作工場の労働者を搭乗させて、第20重戦車旅団第91戦車大隊に配属され実戦投入された。

KV重戦車の乗員は、ソ連軍の戦車兵3名と第100工場から選抜された労働者3名で構成されていた。
F.カチーヒン中尉が車長、グズネチォフが砲手、A.スミルノフが通信手を担当し、第100工場からはP.ゴロヴァチュフが操縦手、K.コフシュが予備操縦手、A.エストラートフが装填手兼機関手として搭乗した。
KV重戦車の初の実戦参加は、1939年12月17日のホッティネン地区での攻撃作戦であった。

雪深い森の戦場は、巨大な2砲塔重戦車であるSMKやT-100には不向きで行動が制約されがちだったが、より小柄で軽量なKV重戦車はここでも高い機動力を発揮した。
この日の戦闘でKV重戦車は車体各部に合計9発の37mm徹甲弾が命中したものの、分厚い装甲のおかげで1発も貫徹することは無かった。

しかし主砲の砲身に被弾したため一旦前線を離れ、主砲を交換した後12月19日に前線に復帰した。
12月19日のスンマ森林地区での戦闘でSMK重戦車が撃破されてしまい、実戦トライアルは続行不能となったが、それまでの戦闘経過を通じて2砲塔型のT-100重戦車、SMK重戦車よりも単一砲塔型のKV重戦車が性能的に優れていることがはっきり確認されたため、同日の国家防衛委員会決定第443号によりKV重戦車をソ連軍の装備として制式採用することとなり、T-100重戦車とSMK重戦車は不採用となった。

1939年12月30日には戦車工業人民委員のV.A.マールィシェフが第100工場に対して、KV重戦車の試験において判明した不具合を全て修正した上で、1940年中に50両のKV重戦車を生産することを命じた。
KV重戦車の試作車は、ソ連軍への採用が決定した後も第20重戦車旅団と行動を共にしていたが、1940年1月2日にレニングラードの第100工場に帰還した。

第100工場では直ちにKV重戦車の量産準備に取り掛かったが、これに先立ってソ連第7軍司令官K.メレツコフからフィンランド軍の要塞陣地攻撃用に、152mmまたは203mm榴弾砲を装備する突破重戦車の開発を要請されていたため、KV重戦車の開発を手掛けたSKB-2のドゥホフ技師のチームは、20口径152mm榴弾砲M-10を新設計の大型砲塔に搭載したタイプのKV重戦車の開発に着手した。

この152mm榴弾砲M-10搭載型のKV重戦車には後に「KV-2」という制式呼称が与えられ、従来のKV重戦車は「KV-1」と呼称されるようになった。
KV-1重戦車シリーズは1943年までに各型合計で4,247両が生産され、その強力な火力と防御力によってドイツ軍を大いに苦しめることになる。

KV-1重戦車は1939年12月から量産が開始されたため、最初の生産型は一般的に「1939年型」と呼ばれることが多い。
以降、「1940年型」、「1941年型」、「1942年型」、「KV-1S重戦車」の順に型式が変化していくが、当のソ連軍ではKV-1重戦車の年式による型式分類は行っておらず、「○○年型」という分類はあくまで後世の軍事研究者やミリタリーモデラーが独自の基準で勝手に行ったものに過ぎず、この点は注意が必要である。

前述のように当初KV-1重戦車は50両しか生産発注されていなかったが、1940年7月に9個の機械化軍団を新規編制することが決定されたため急遽増産されることとなった。
KV-1重戦車の生産型では量産効率を上げるために砲塔や機関室上面の形状を変更しており、左右フェンダー上の収納箱も廃止されてしまっている。

また生産途中から戦闘室前面左側のガンポートが廃止され、代わりにボールマウント式銃架を設けて7.62mm機関銃DTが装備されるようになった。
KV-1重戦車の生産は1939年12月からレニングラード・コルピノのイジョラ冶金工場で開始され、続いて同じレニングラードの第100キーロフ工場も生産に加わった。

1940年に91両が生産されたKV-1重戦車1940年型では、主砲が39口径76.2mm戦車砲F-32に強化された。
また併せて装甲の強化も図られることになったが、当時は必要な厚さの装甲板の供給能力が無かったため、基本装甲の上に35mm厚の追加装甲板がボルト止めされた。
このタイプが、KV-1重戦車1940年型「エクラナミ」（Ekranami：追加装甲）である。
やがてより厚い装甲板の製造が可能となり基本装甲が増厚されたため、1940年末に増加装甲板は廃止された。

KV-1重戦車1941年型では、主砲がより強力な41.5口径76.2mm戦車砲ZIS-5に換装された。
また独ソ戦（大祖国戦争）の開始で、KV-1重戦車についても設計の簡素化が行われた。
導入されたのが新型の鋳造砲塔で、これまでの溶接砲塔に比べて生産工数が大きく減少していた。
鋳造砲塔型は、溶接砲塔型と並行して生産された。

1941年中に1,121両のKV-1重戦車が生産されたが、侵攻してくるドイツ軍から逃れるため第100キーロフ工場は同年7月からウラル山脈東部のチェリャビンスクへの移転が開始され、同地にあったチェリャビンスク・トラクター工場と統合されてチェリャビンスク・キーロフ工場が誕生した。
またエンジンや装甲板の製作工場もウラル地方に集められ、「タンコグラード」（Tankograd：戦車の街）の通称で呼ばれる戦車コンビナートが形成された。

1942年には、さらにKV-1重戦車に改良が盛り込まれた。
これは装甲防御力の強化が主眼で全体的なデザインは変わらなかったが、車体・砲塔の装甲が共に増厚され最大装甲厚は130mmに達した。
このタイプが、KV-1重戦車1942年型である。

なお砲塔については、やはり溶接砲塔と鋳造砲塔の両形式が製造された。
装甲増厚の結果1942年型は重量が増加したが駆動系の強化は行われなかったため、機動性能が悪化したのが悩みだった。
1942年型は、主にチェリャビンスク・キーロフ工場を中心に1,753両が生産された。

KV-1重戦車1942年型は重く機動性能の悪い戦車になってしまったが、これを改善するために開発されたのがKV-1S重戦車（”S”はSkorostnoy：高速の頭文字）である。
KV-1S重戦車では主力戦車であるT-34中戦車と共同行動が取れるように、自慢の防御力をある程度犠牲にして機動性能を向上させる改良が図られている。

1942年型では130mmあった最大装甲厚を82mmまで減らして軽量化すると共に、エンジンや変速・操向機を改良型に変更して機動性能の改善が図られた。
また車長用にキューポラを装備し、乗員配置を改善するなどして戦闘力もアップされた。
KV-1S重戦車は1942年8月から生産が開始され、1943年までに1,232両が生産されている。