曼德拉领导了从种族隔离的少数民族统治向多元化民主的转变后，他认为实现民族和解是他作为总统的首要任务。曼德拉见过其他非洲国家摆脱殖民统治后由于优秀白人分子的离开而导致经济受损，于是他向南非的白人保证他们将在这个“彩虹之国”受到保护且有发言权。曼德拉尝试组建最多元化的内阁，由德克勒克担任第一副总统。其他国民党官员被分别任命为农业、能源、环境以及能源和矿产资源发展部长，布特莱齐被任命为内政部长。其他内阁职位由非国大的成员担当，其中很多是非国大的老同志，如乔·莫迪赛（Joe Modise）、阿尔弗莱德·恩佐（Alfred Nzo）、乔·斯洛沃、马克·马哈拉杰（Mac Maharaj）和杜拉·奥马尔（Dullah Omar）等，但也不乏如提托·姆博维尼(Tito Mboweni)和杰夫·拉德贝（Jeff Radebe）等年轻成员。曼德拉与德克勒克的关系很僵；曼德拉认为德克勒克故意挑衅，而德克勒克感觉他被总统故意羞辱。1995年1月，曼德拉在大选前谴责他大赦了3,500名警员，后来又批评他在前国防部长马格努斯·马兰（Magnus Malan）被控谋杀罪时为其辩护。

曼德拉亲自会见种族隔离政权的高层人物，包括前首相亨德里克·维沃尔德的遗孀贝特西·维沃尔德和珀西·育塔律师；曼德拉向他们强调个人的宽恕，提出和解，并宣称“勇敢的人不惜为了和平而宽容他人”。南非主办1995年世界杯橄榄球赛时，曼德拉呼吁南非黑人支持一度被嫌恶的国家橄榄球队——南非跳羚队。跳羚队在决赛中赢了新西兰后，曼德拉身穿着背后印有队长弗朗索瓦·皮纳尔（Francois Pienaar）专属的6号的跳羚队队服，向皮纳尔颁奖。很多人认为这是向南非白人和黑人和解迈出了重要的一步；正如德克勒克后来所说：“曼德拉赢得了数亿白人橄榄球迷的心。”曼德拉为和解所作的努力减缓了白人的恐惧，但也招致更多激进的黑人的批评。已与他分居的妻子维尼则指责非国大更热衷于安抚白人，而不是帮助黑人。

曼德拉监督成立了真相与和解委员会，调查种族隔离时期政府和非国大所犯下的罪行，并任命德斯蒙德·图图为主席。为防止受难者为博取同情夸大其词，委员会进行逐个赦免，换取种族隔离时代所犯罪行的证词。从1996年2月起，委员会对强奸、施暴、投弹和暗杀等罪行进行了长达两年的审讯，最终于1998年10月发表了汇总报告。德克勒克和姆贝基都恳求隐瞒报告的部分内容，但只有德克勒克的要求被准许。曼德拉表扬了委员会的工作，认为委员会“帮助我们告别过去，关注当下和未来”。