A l'instar de Samuel Eto'o, Eric Djemba-Djemba et Stéphane M'Bia avant lui, Nicolas Nkoulou fait ses gammes au sein de la Kadji Sport Academies, au Cameroun. Repéré adolescent par l'AS Monaco, il rejoint la principauté en novembre 2007 et signe à sa majorité son premier contrat professionnel l'année suivante. Sur le Rocher, il est vite lancé en Ligue 1 et joue près de 87 rencontres toutes compétitions confondues en l'espace de trois saisons. La relégation de l'ASM à l'issu du championnat 2010-2011 le contraint cependant à changer de club. L'Olympique de Marseille saisit alors l'occasion et lui fait parapher un contrat de quatre ans. A l'OM, Nicolas découvre l'intensité des joutes européennes et participe à l'accession du club phocéen en quarts de finale de la Ligue des Champions 2012. A l'image de Jérémy Morel, il termine son aventure marseillaise en s'engageant libre avec l'Olympique Lyonnais à l'été 2016. En l'absence de Samuel Umtiti, parti à Barcelone, l'OL compte sur son international camerounais pour composer avec Mapou Yanga M'biwa une charnière centrale solide pour la saison 2016-2017. Il jouera finalement très peu cette saison. Il remportera quand même avec le Cameroun la Coupe d'Afrique des Nations en inscrivant un but en finale.