曼德拉还在求学的时候，家里就替他选定结婚对象，但曼德拉逃婚。曼德拉一生中曾娶过三位妻子。

第1任妻子：伊芙琳·马斯是端庄娴静的乡村女孩，远离政治。曼德拉是1944年邂逅马斯，两人认识数月后即闪电结婚，同年，曼德拉创立非国大青年联盟（Youth League），反抗少数白人统治黑人的政治斗争很快就占满曼德拉的生活。新婚前数年，马斯是快乐的家庭主妇，曼德拉会替3名子女洗澡，律师工作与政治会议结束后还帮忙煮饭。到了1954年，马斯越来越不满曼德拉常常不在家。曼德拉第1次因为叛国罪被捕后获得假释返家，发现马斯已经离家，留下2名最年幼的孩子。1957年离婚。伊芙琳于2004年病逝。

第2任妻子：曼德拉第2度被控叛国罪时，温妮·马迪基泽拉-曼德拉进入他的生命。1958年6月曼德拉与温妮结婚，温妮很受到南非人民的爱戴，素有“黑人母亲”的称呼。她后来在要求释放曼德拉的运动中发挥了积极作用。在曼德拉1990年出狱后，两人还在他出狱时双手紧握。但在私底下，温妮已经爱上别人。温妮因绑架和参与攻击他人而被定罪，也使曼德拉陷入痛苦。温妮与曼德拉感情方面出现了裂痕，二人于1992年分居，1996年离婚。

第3任妻子：格拉萨·马谢尔是莫桑比克前总统马歇尔的遗孀。马歇尔1986年因为神秘空难去世，曼德拉在狱中写信给马契尔，这是2人首次接触。他们1990年在莫桑比克见面，当时马契尔还没走出伤痛。2年后，曼德拉成为马契尔继子的教父，并于1996年一起出席津巴布韦总统穆加比的婚礼。曼德拉为马契尔神魂颠倒，并让媒体报导两人爱的故事。他告诉记者：“因为她给我的支持与爱，让我在迟暮之年，像花朵一样盛开。”1998年7月18日，曼德拉80岁生日，马契尔打破自己不会再嫁给总统的誓言，与曼德拉结婚。格拉萨因此成为唯一一个与两个国家元首结婚的第一夫人。曼德拉显然以妻子为傲，但有时候难掩寂寞。他2007年向学生演说时开玩笑：“她比我还忙。我们会一起吃中餐、出门，再相会的时候，已经是晚餐时候。真希望当初结婚时，老婆是个没这么忙的人。”2013年12月26日南非新闻网站“新闻24”（news24）引述阿巴坦布王室（Kingdom of Aba Thembu）声明稿表示，曼德拉的过世并不代表生前对马契尔的承诺也一并终止。王室肯定马契尔在曼德拉晚年对他无微不至的照顾与贡献“马契尔仍然是曼德拉家族一员，任何不尊重她的家庭成员都是家族的耻辱。”