L’imagerie médicale multimodale est utilisée aux différentes étapes de la prise en charge du cancer. Ces images volumiques contiennent une quantité d'information importante. Ainsi la méthode radiomique vise à exploiter ces informations afin de répondre à une problématique clinique comme la classification du cancer ou la survie globale du patient. Cependant, l’approche radiomique souffre de limitations telles que les variabilités présentent dans les méthodes de segmentation, d’acquisition, et d’extraction des caractéristiques de l’image. L'objectif de cette thèse est donc de proposer des méthodes permettant de contribuer à réduire l’impact de ces limitations existantes. À cette fin, dans un premier temps, ces travaux se sont intéressés à l'impact de l'utilisation de différentes segmentations de la tumeur dans le pronostic de survie sans maladie du patient. Un modèle d'apprentissage profond est aussi développé pour permettre la segmentation et le prognostique de survie du patient simultanément. Dans un second temps, ces travaux de thèse proposent une approche innovante pour transformer les cartes de réponse des filtres en scalaire tout en prenant en compte l'hétérogénéité de la tumeur, dans le but de permettre leur exploitation au sein de modèles d’apprentissage automatique. De plus un modèle radiomique est proposé pour prédire la récidive biochimique des patients atteints du cancer de la prostate. La performance de ce modèle a servi de référence pour l'évaluation d'un modèle de prédiction intégrant des mécanismes radiobiologiques. Dans un troisième temps, l'utilisation de différentes méthodes (supervisées et non supervisées) de sélection des caractéristiques d'images est évaluée. De plus, un modèle radiomique basé sur l'apprentissage à noyaux multiples est proposé pour prédire la récidive biochimique des patients atteints du cancer de la prostate. En perspective, de tels modèles, validés sur des cohortes externes, pourraient être déployés au sein de protocoles cliniques pour permettre un traitement personnalisé du patient.