Formé à Montpellier en 1984 sous le nom de Vonn (mais rapidement rebaptisés « les Sheriff ») avec Manu à la batterie et compositeur, Olivier au chant et auteur, Fred à la guitare et Michel à la basse, le combo s'élargit à 5 en 1990 avec l'arrivée d'un second guitariste, Fab (qui officiait un temps au sein de Tulaviok).
Le line up changera entre 1996 et 1998 (départ de Manu compositeur, puis de Fred guitariste).Du milieu des années 1980 à delui des années 1990, Les Sheriff font partie des groupes importants du paysage punk français, aussi appelé « rock alternatif » à cette époque, à l'instar de la Mano Negra, Parabellum, Ludwig von 88 ou encore OTH, autre groupe montpelliérain.
L'apogée du groupe est avec leur album Soleil de plomb avec un son bien plus lourd (A la chaleur des missiles, Je ne suis pas un menteur, Bon à rien). Ils se faisaient remarquer par leurs chansons rapides, aux riffs mélodiques et à l'humour décapant (Arrête de parler pendant que tu dors , Jouer avec le feu ou 3, 2, 1, zéro!).
Avec leurs textes particulièrement simplistes, leurs chansons étaient faciles à retenir et à chanter. Sur scène, ils étaient réputés pour jouer fort et vite, enchaînant souvent trente-cinq morceaux sans véritablement s'arrêter.
Ces performances leur donnaient une réputation de « groupe à pogo » très populaire dans le public punk. Ils annonçaient souvent la couleur en se présentant ainsi sur scène : « On est les Sheriff et on fait du bruit » - introduction de l'album live Les deux doigts dans la prise.
Les Sheriff se séparent en 1998, 2 ans après le départ du compositeur Manu et après leur ultime album Electrochoc.Depuis 2005 Manu, Le compositeur du groupe, continue à composer et joue (guitare et chant) dans le groupe The hop la!.
Olivier, ainsi que Spi et Motch du groupe OTH, ont prêté mains forte a la réalisation du dernier album Sans Danger sorti en 2008. Depuis 2006 Michel joue dans un nouveau groupe de chanson française, Les Concubins de la chanson, réunissant des gloires underground du punk local.