斯大林的一生经历了两次婚姻。他的首任妻子是格鲁吉亚人叶卡捷琳娜·斯瓦尼泽，她为斯大林诞下了一子，雅科夫。然而，不幸的是，叶卡捷琳娜在1907年因斑疹伤寒去世，那时斯大林年仅29岁。
1919年3月24日，时年41岁的斯大林迎娶了年仅18岁的娜杰日达·阿利卢耶娃作为他的第二任妻子，两人之间存在着23岁的年龄差距。斯大林与阿利卢耶娃家族早有渊源。阿利卢耶娃的父亲，谢尔盖·雅科夫列维奇·阿利卢耶夫，出身于俄罗斯沃罗涅什省的一个农民家庭，但其祖母却是吉普赛人。娜杰日达是谢尔盖的小女儿，他还有一个长子巴维尔。与父辈不同，老谢尔盖并未继续务农，而是凭借手艺成为钳工，并最终在外高加索铁路工厂工作。正是在这段时期，他于1898年加入了俄国社会民主工党，并深刻影响了斯大林（当时名为约瑟夫·朱加什维利），引导他加入同一政党，并传授了革命斗争的技艺。
斯大林自幼缺乏父爱，其父为鞋匠兼酒鬼，常于酒后施以暴力，给他的童年留下了深刻的阴影。因此，斯大林后来自取别名“柯巴”，这个名字源自19世纪俄国冒险小说中的主人公，意为“弑父者”，足见他对父亲的怨恨之深。相较之下，斯大林的母亲叶卡捷琳娜·朱加什维利则是一位虔诚的格鲁吉亚妇女，她亲昵地称呼儿子为“索索”，并一直希望他能成为神职人员，为此还将他送入第比利斯神学院学习。
他儿子在神学院期间异常叛逆，频繁参与游行与罢工，最终遭到校方开除。随后，斯大林与未来岳父阿利卢耶夫并肩投身革命。1901年4月，因参与第比利斯的“五一游行示威”，斯大林被通缉，阿利卢耶夫助他四处躲藏。期间，阿利卢耶夫的妻子，即斯大林未来的岳母奥加尔·叶夫根尼耶夫娜，也给予了他关怀。奥加尔的母亲为德国人，这使她精通德语与格鲁吉亚语，后自学俄语。年仅14岁时，奥加尔便与谢尔盖私奔，16岁成婚。因其美貌，她身边不乏风流韵事。
被神学院开除后，斯大林全心投入高加索的地下革命活动。1902年，他因组织工人游行首次被捕；次年，在另一次被捕期间，他接触到了布尔什维克，当时俄国社会民主工党正经历分裂，他坚定地站在了列宁领导的布尔什维克一方。1905年，年仅27岁的斯大林出席了在芬兰坦墨福斯召开的第一次全俄布尔什维克大会，并在此与35岁的列宁相识。
自1907年起，斯大林历经多次审判，累计入狱六次。为筹集布尔什维克的资金，他甚至参与过银行抢劫，这一行为导致他被流放至西伯利亚，但斯大林总能设法逃脱困境。
阿利卢耶夫一家于1914年从第比利斯迁居至彼得格勒的平民区。在此期间，斯大林频繁造访，不仅受到他未来岳母奥加尔的照顾，奥加尔还曾照料过列宁与季洛维也夫。阿利卢耶夫家中多次举办布尔什维克的重要会议。1921年，斯大林正式成为布尔什维克的一员。而在1917年7月，布尔什维克首次夺权失败后，列宁曾避难于阿利卢耶夫家中。
1916年至1917年间，斯大林服刑期满获释，随即应征入伍，却因被认为不适合上战场而被征兵委员会拒绝。随后，他再次回到阿利卢耶夫家。值得一提的是，他未来的妻子娜杰日达，作为家中的幼女，诞生于1901年。在她两岁那年，于海边游泳时不幸溺水，幸得斯大林相救。
在彼得格勒的小屋内，古老的爱情故事悄然上演。青春已逝的斯大林，向年少的娜杰日达缓缓道出他英雄的过往。这位阅历丰富的男子向她求婚，渴望即刻步入婚姻殿堂，尽管那时的少女尚未满十六岁。直至她年满十八，两人终成眷属，却也悄然拉开了她短暂而悲剧人生的序幕。
斯大林之女斯维特兰娜，于成年之后时常自省，母亲究竟缘何深爱着父亲。她内心独白道：“我想，她是出于怜悯吧。一个女人，一旦心生同情，便足以诠释所有。此点，万不可忽视。”