Bien que l’avantage principal des communications optiques est de permettre la transmission des capacités élevées en multiplexant les longueurs d’onde, le traitement des données, par exemple en vue de régénération ou de routage, doit être effectué dans le domaine électrique, nécessitant ainsi des conversions optique-électrique-optique. Cependant, certaines fonctions de traitement pourraient être effectuées plus efficacement directement dans le domaine optique, ce qui est connu par le traitement de signal tout-optique. Comme des nouvelles techniques exploitant la dimension spatiale dans les fibres multimodes ont été proposées afin d'augmenter la capacité de transmission, une meilleure compréhension des effets non linéaires associés aux interactions multimodes est donc souhaitable. Cette thèse visait à explorer le traitement du signal tout-optique dans le multiplexage modal. En particulier, l'objectif était de démontrer comment les effets non linéaires dans les fibres multimodes pouvaient être utilisés pour manipuler les propriétés des signaux, de manière indépendante ou dépendante du mode. Deux types de fibres ont été conçus. La première permet de réaliser certaines fonctions de traitement de signal tout-optique pour tous les modes de la fibre individuellement et simultanément, en utilisant l'effet non linéaire mélange à quatre ondes intramodal. La deuxième fibre a été conçue de manière à réaliser du traitement de signal tout-optique entre différents modes de la fibre, en utilisant le mélange à quatre ondes intermodal.