二战前夕，苏联西北方面军指挥部要求为4辆试验用的KV-1安装上152mm的榴弹炮。KTZ设计局最优秀的设计师被召集起来完成这个项目。两个星期后，一种新的试验车型设计完成了。一开始设计者决定安装152mm的mod1909/1930型榴弹炮，最终更现代的152mm M-10 Model 1938/1940型榴弹炮取代了它。
  新的更大的炮塔也被设计出来以适应这种重型炮，该炮塔被命名为MT-1。
　　1941年初期，这种坦克被命名为KV-2。在这之前，KV-1被称为“装备小炮塔的坦克”，而KV-2被称为“装备大炮塔的坦克”。1940年2月10日，进行了第一次测试。
  当时苏联的设计师们并不具备设计如此重型坦克的经验。他们在榴弹炮的炮身上安装一个小盖子，这个小盖子的作用是防尘以及弹片和子弹。在第一次射击的时候这个盖子被撕裂了，之后就再也没有使用过。
　　1940年，2辆KV-2坦克就被送至前线。不过据说在苏联卫国战争前KV-2并没有参加过战斗。
  这2辆KV-2坦克向已经被攻占的雕堡射击，射击效果很好。1940年后期，KV-2重型坦克正式装备部队。苏军坦克兵喜欢称呼KV-2坦克为“大胆的人”。
　　生产过程中，坦克的炮塔被做过细微的改进并加装了DT机枪。缩短的M-10榴弹炮可以发射52kg的高爆弹。
  海军的1915/28型半-穿甲弹KV-2也可以发射，不过这种炮弹一般只有苏军海军使用，而且库存很少。KV-2的操作手册上还写着如何使用穿甲弹和反混凝土炮弹。KV-2坦克携带36发炮弹以及3087发机枪弹。6名乘员：坦克指挥员，火炮指挥员，第二火炮指挥员(装填手)，炮手，驾驶员，无线电手。
  除了152mm榴弹炮，还有其他一些类型的火炮曾被设计安装在KV-2上。其中一种是长身管的106。7mm Gun ZIS-6型炮。从1941年5月至6月，安装ZIS-6型炮的KV-2进行了工厂测试，之后又被送去进行ANIOP测试，不过失败了。主要问题是火炮的弹药，该炮所使用的炮弹很重不便于一个装填手操作。
  41年3月的时候，另外一种85mm Gun F-39型炮也试图安装在KV-2上并进行了测试，不过似乎之后这方面的记录便很难找了。
　　KV-2和KV-1一样在转动和底盘上有严重的缺陷。此外，大多数的KV-2坦克所携带的炮弹数量都不正常。尽管如此，KV-2坦克的出现还是给德军坦克手造成了可怕的心理恐惧。
  当时除了88mm高射炮，几乎没有任何武器能成功摧毁这种巨兽。下面有一段1941年6月25日德军第6装甲师第11装甲团关于遭遇KV-2坦克的战斗日记：
　　“早晨，第11装甲团第2营沿着进军道路的右侧前进。整整一天，所有的部队都遭到俄军第2装甲师的进攻。
  不幸的是，俄国人的52吨重型坦克似乎对距离1米的射击毫无反应。1。5米处射中它的炮弹不是无效便是被弹回。。。劳斯集群的先头部队已经被阻挡。。。其间，一辆俄军的重型坦克隔断了和劳斯集群之间的联络，为了和劳斯集群联系上。。。到了晚上，指挥官召来了88mm 高射炮对付这辆坦克，和105mm火炮直瞄射击一样88mm炮对它也无效。
  突击队携带炸药试图去炸毁它的行动也失败了，因为它密集的机枪火力使我们不可能靠近这辆坦克。”
　　大多数的KV-2坦克都是因为故障而损失的。例如第41坦克师损失了33辆坦克中的22辆KV-2坦克，只有5辆是被敌人击毁的，其他17辆都是因为故障或者燃料耗尽而被抛弃。
  1941年10月，KV-2坦克的生产被取消，苏联一共制造了334辆KV-2坦克。