为了掌握成为泰姆布王室枢密使的必要技能，曼德拉到恩格科波的克拉基伯雷寄宿学校（Clarkebury Boarding Institute）就读中学课程，该学校是泰姆布兰德村为非洲黑人所设的最大的西式中学。迫于与其他学生以平等的地位交往，曼德拉称他一改傲慢的姿态，第一次和一名女生成了最好的朋友；他开始参加体育运动，逐渐爱上园艺并成了他一生的爱好。曼德拉仅用了两年完成了中学学业后，1937年，他转学到希尔德顿综合学校（Healdtown Comprehensive School）。希尔德顿是位于博福特港的一家基督教教会学院，包括宙斯提斯在内的大部分泰姆布王室成员都在此就读。校长强调英语文化和政府的优越性，但曼德拉对非洲本土文化愈发感兴趣，结交了人生中第一位讲塞索托语的非科萨族朋友，并逐渐受到他特别喜爱的一位老师的影响。这位老师是科萨人，但却打破了禁忌与一名索托人结婚。曼德拉花大量的空余时间进行长跑和拳击，于是在入学第二年成了协助老师管理学生纪律的级长。

在养父琼津塔巴的支持下，曼德拉到了黑尔堡大学（University of Fort Hare）攻读文学学士学位。该大学是位于东开普省艾丽丝镇的一所精英黑人院校，约有150名学生。入学第一年，曼德拉修了英语、人类学、政治、地方行政管理以及罗马-荷兰法律等课程，立志成为土著事务部（Native Affairs Department）的口译员或文员。曼德拉住在韦斯利公寓楼，和他的亲戚凯泽·达利旺加·马坦齐马（K.D. Matanzima）以及奥利弗·坦博（Oliver Tambo）成了好朋友。其中，奥利弗在此后数十年一直是曼德拉的挚友和战友。曼德拉不但延续了他对体育运动的兴趣，而且还开始跳交谊舞，参加戏剧社一部关于亚伯拉罕·林肯的戏剧演出，并加入学生基督教协会，为当地社区办圣经班。虽然曼德拉有不少朋友加入非洲人国民大会以及反帝国主义运动，希望南非独立，但曼德拉避免参与其中，并在二战爆发时声援英国在大战中所做的努力。他还协助成立大一新生的内务委员会，对大二学生的主导地位提出异议，并于大一末时参加学生代表委员会（Students' Representative Council）的食品质量抗议行动，为此他被勒令停学处分；最终他没有拿到学位就退学了。