Cette thèse est dédiée à l'étude des espaces de modules de fibrés sur une courbe algébrique et lisse sur le corps des nombres complexes.  Le texte est composé de deux parties : Dans la première partie, je m'intéresse à la géométrie liée aux classifications de fibrés quasi-paraboliques de rang 2 sur une courbe elliptique 2-pointée, à isomorphisme près. Les notions d'indécomposabilité, simplicité et stabilité de fibrés donnent lieu à des espaces de modules qui classifient ces objets.  La structure projective de ces espaces est décrite explicitement, et on prouve un théorème de type Torelli qui permet de retrouver la courbe elliptique 2-pointée.  Cet espace de modules est aussi mis en relation avec l'espace de modules de fibrés quasi-paraboliques sur une courbe rationnelle 5-pointée, qui apparaît naturellement comme revêtement double de l'espace de modules de fibrés quasi-paraboliques sur la courbe elliptique 2-pointée. Finalement, on démontre explicitement la modularité des automorphismes de cet espace de modules. Dans la deuxième partie, j'étudie l'espace de modules de fibrés semistables de rang 2 et déterminant trivial sur une courbe hyperelliptique. Plus précisément, je m'intéresse à l'application naturelle donnée par le fibré déterminant, générateur du groupe de Picard de cet espace de modules. Cette application  s'identifie à l'application theta, qui est de degré 2 dans notre cas. On définit une fibration de cet espace de modules vers un espace projective dont la fibre générique est birationnelle à l'espace de modules de courbes rationnelles 2g-épointées, et on décrit la restriction de theta aux fibres de cette fibration. On montre que cette restriction est, à une transformation birationnelle près, une projection osculatoire centrée en un point. En utilisant une description due à Kumar, on démontre que la restriction de l'application theta à cette fibration ramifie sur la variété de Kummer d'une certaine courbe hyperelliptique de genre g – 1.