以南非为先例，曼德拉鼓励其他国家通过外交手段和和解的方式解决冲突。他附和姆贝基“非洲的复兴”的呼吁，并十分关注非洲大陆的重大争端；他采取温和的外交策略撤除了萨尼·阿巴查在尼日利亚的军事政权，后来阿巴查的政权不断侵犯人权时，他又带头呼吁对其进行制裁。1996年，他被任命为南部非洲发展共同体的主席，并为结束扎伊尔的第一次刚果战争发动谈判，但以失败告终。在南非的首次后种族隔离军事行动中，曼德拉于1998年9月派兵到莱索托，保护首相帕卡利塔·莫西西利的政府，当时莱索托因一场备受争议的选举刚引发了反抗起义。

1998年9月，不结盟运动的年度会议在德班举行时，任命曼德拉为秘书长。曼德拉在年会上批判以色列政府拖延结束以巴冲突的谈判是“狭隘、盲目的爱国主义”的表现，并敦促印度和巴基斯坦就结束克什米尔冲突进行谈判，为此曼德拉受到了以色列和印度的批判。受该地区经济繁荣的启示，曼德拉寻求与以马来西亚为主的东亚国家建立更紧密的经济合作关系，但这因1997年亚洲金融危机而告吹。曼德拉因与印度尼西亚总统苏哈托关系密切而备受争议，因为苏哈托的政权大规模地侵犯人权，但其实他私底下强烈要求苏哈托从东帝汶撤军。

同样，曼德拉因与菲德尔·卡斯特罗和穆阿迈尔·卡扎菲的交情而受西方国家的指责。卡斯特罗于1998年到访，受到了广泛支持；曼德拉于利比亚会见卡扎菲，授予他南非人给外籍人士的最高荣誉“好望角勋章”。当西方国家的政府和媒体批评这些访问时，曼德拉严厉斥责这些言论带有种族主义色彩。曼德拉希望解决利比亚与美国和英国之间的长期纠纷，他将两名利比亚人梅格拉希和费希迈交付审判，他们于1991年11月被指控涉嫌蓄意毁坏泛美航空公司103号班机。曼德拉提议在第三方国家进行审判，所有相关方都同意了此提议；1999年4月，案件于荷兰的宰斯特营开审，遵循苏格兰的法律，最终判其中一人的罪名成立。