Aujourd'hui, la nanofiltration (NF) est perçue comme un procédé de séparation efficace et propre permettant d’extraire ou de concentrer des solutés ioniques ou neutres. Son développement à l’échelle industrielle n’est cependant pas encore optimal car les différents mécanismes de séparation sont encore mal compris. Cette thèse a porté d’une part sur l’étude des propriétés charge de surface des membranes de NF/OI et d’autre part sur les mécanismes de transport à travers des membranes de NF. Il a tout d’abord été montré, grâce à des mesures électrocinétiques réalisées sous atmosphère contrôlée, que certaines membranes commerciales subissent un post-traitement afin d’améliorer leurs performances de filtration. La détermination du potentiel zêta, grandeur caractéristique de la charge de surface, s’est révélée être une méthode adaptée pour mettre en évidence la présence d’une couche de post-traitement à la surface d’une membrane. La suite de l’étude a été consacrée à la compréhension des mécanismes de transport lors de la NF de mélanges ternaires contenant deux cations différents (Na+ et Ca2+) et un anion commun (Cl-). L’utilisation du modèle de transport SEDE a permis de montrer que les performances des membranes de NF résultent de la combinaison d’effets stériques, électriques et diélectriques. La dernière partie de ce travail a été consacrée à la NF d’un coproduit de l’industrie agro-alimentaire, le produit fermenté de soja (PFS). Il a été montré que la NF est potentiellement adaptée au dessalement du PFS (réduction de la teneur en cations monovalents) sans perte des sucres d’intérêt.