1940年12月，曼德拉回到姆克海凯泽韦尼，得知琼津塔巴为自己和宙斯提斯分别安排了婚事；他们为此感到惊慌失措，因此一起经由昆士敦港逃到了约翰内斯堡，于1941年4月到达。曼德拉在皇冠矿找到了一份守业者的工作，这是他“第一次见识到南非的资本主义”，但工头发现他是离家出走之后便把他辞退。曼德拉在乔治·歌赫镇的一位亲戚家逗留期间，被介绍认识了一位房地产商兼非国大积极分子瓦特·西苏鲁（Walter Sisulu）。他给曼德拉在一家名为“维特肯、西德斯凯和埃德尔曼”（Witkin, Sidelsky and Eidelman）的律师所找了一份见习律师的工作。律所的经营者是一位支持自由主义的犹太人拉扎尔·西德斯凯（Lazar Sidelsky），他对非国大的运动表示赞同。在律所，曼德拉结识了一位非国大和共产党的成员盖伊·拉德贝（Gaur Redebe）和一位犹太裔共产党员内特·布雷格曼（Nat Bregman），布雷格曼成了曼德拉的第一位白人好友。通过参加共产主义演讲和聚会，曼德拉深刻地感受到欧洲人、非洲人、印第安人和有色人种是可以平等共处的。曼德拉越来越关心政治，并于1943年8月参与了一场联合抵制公车的游行，阻止了票价上涨。同时，曼德拉继续接受高等教育，他报读了一家南非大学的函授课程，每晚花时间自主攻读他的学士学位。

曼德拉薪资微薄，在亚历山德拉镇的索玛家族大宅租了一间房子；尽管当地的贫困、犯罪和污染问题严重，亚历山德拉镇（Alexandra）对曼德拉而言一直是“一片宝地”。曼德拉虽然过着穷困的生活并因此感到窘迫，但他曾追求过一名斯威士女子，后来追求他房东的女儿但并不成功。为了省钱并住得离约翰内斯堡市中心近一些，他住进了维瓦特斯兰本地劳工协会（Witwatersrand Native Labour Association）的大院，和各个部落的矿工一起生活；由于大院是“出访酋长们的中途驿站”，曼德拉在这里曾与巴苏陀兰的摄政王后见面。1941年底，琼津塔巴到访，原谅了曼德拉离家出走的事。在返回泰姆布兰德的路上，摄政王逝世于1942年冬天；曼德拉和宙斯提斯晚到了一天，错过了他的葬礼。1943年初通过了学士学位考试后，曼德拉回到了约翰内斯堡走上了律师的从政之路，而没有留在泰姆布兰德担任枢密使。他后来回忆称自己并不是突然顿悟，而是“就这么自然而然去做了，而且只能这么做”。