曼德拉到维瓦特斯兰大学攻读法律，他是当时唯一一名非洲本土学生。尽管面对种族歧视，他结交了一些信奉自由主义和共产主义的欧洲、犹太和印第安学生，其中包括乔·斯洛沃（Joe Slovo）、哈里·施瓦兹（Harry Schwarz）和鲁斯·弗斯特（Ruth First）。加入非国大后，曼德拉越发受到西苏鲁的影响，经常和包括老朋友奥利弗·坦博在内的一群积极分子聚集在西苏鲁的奥兰多公寓里。1943年，曼德拉遇见了安东·莱姆比德（Anton Lembede）。莱姆比德是一名非洲民族主义者，他强烈反对组成反殖民主义和帝国主义的种族统一战线结盟。虽然曼德拉与非黑人以及共产主义者结成好友，但他同意莱姆比德的观点，认为非洲黑人在争取政治上的自治权时应完全自成一队。经商议，曼德拉等人决定有必要成立一支青年组织，以集中动员非洲人站起来反抗压迫。随后，包括曼德拉在内的一支代表团到索菲亚镇非国大主席阿尔弗雷德·比提尼·旭玛（Alfred Bitini Xuma）的家里提出商议此事；非洲民族大会青年联盟于1944年复活节周的周日在伊洛夫街的班图男士社交中心正式成立，莱姆比德担任联盟主席，曼德拉为执行委员会中的一员。

曼德拉在西苏鲁家遇见了伊芙琳·梅斯。梅斯来自特兰斯凯的恩格科波，是一名非国大的积极分子，当时正在接受护士培训。曼德拉和梅斯于1944年10月5日结婚，先是在梅斯的亲戚家住了一段时间，后来他们在1946年初租了奥兰多的第8115号房。他们的第一个孩子马迪巴·桑贝基勒（桑比）出生于1945年2月；第二个孩子名为马卡齐韦，出生于1947年，但出生后九个月死于脑膜炎。曼德拉享受家庭生活，他欢迎母亲和姐妹莉碧到家中一同生活。1947年初，他在“维特肯、西德斯凯和埃德尔曼”律所的三年见习期结束，他决定成为全日制学生，靠班图福利信托基金维持生计。1947年7月，曼德拉把生病的莱姆比德火速送到医院，后者不治而死；非国大青年联盟主席的位置由态度更温和的彼得·穆达（Peter Mda）接任，彼得同意与共产主义者以及非黑人合作，并任命曼德拉为非国大青年联盟的秘书。曼德拉不同意穆达的方式，1947年12月他支持一项把共产主义者逐出非国大青年联盟的法令，认为他们的意识形态与非洲人的不合，但最终并未成功。1947年，曼德拉被选进德兰士瓦省非国大的执行委员会，属于省委主席兰摩汉努（C.S. Ramohanoe）的管辖之下。兰摩汉努违背德兰士瓦执行委员会所愿，与印第安人以及共产主义者合作，包含曼德拉在内的众人强迫他辞职。 1948年的南非普选中，只有白人可投票选举，结果丹尼尔·弗朗索瓦·马兰（Daniel François Malan）领导的以南非白人为主导的重新联合国民党当权，不久该党与阿非利加党合并组成国民党。国民党公然地进行种族歧视，编写新的种族隔离法律，推广种族隔离。曼德拉在非国大中的影响力越来越大，他和其他骨干分子受到南非印第安人社区的策略的影响，开始提倡采取反种族隔离的直接行动，如：联合抵制和罢工等。旭玛不支持这些措施，通过大会对他投的不信任票后被罢免主席一职。取而代之的是詹姆斯·莫洛卡（James Moroka）主席和一个更激进的内阁，其中包括西苏鲁、穆达、坦博和高德弗里·皮塔杰（Godfrey Pitje）；曼德拉后来讲述道“至此，我们带领着非国大走上了一条更激进和革命的道路”。由于把时间花在了搞政治上，曼德拉在维瓦特斯兰大学的最后一年连续三次考试不及格；最终于1949年12月被拒绝授予学位。