C'est un usage hérité de l'Angleterre du IXème siècle. Le terme sheriff est la contraction du mot shire, qui signifie "comté", et du mot reeve, désignant un agent du seigneur.
Ces "shérifs" féodaux portaient les armoiries du comté dont ils dépendaient sur leur vêtement. Plus tard, lors de la conquête de l'Amérique par les Européens, cette habitude a perduré dans les grandes métropoles.
De nos jours, les policiers de la ville de Boston portent toujours une plaque en forme de bouclier avec des armoiries gravées.
Les petites villes de l'Ouest américain, en revanche, ne disposaient pas des moyens nécessaires pour réaliser de tels badges. Elles ont donc adopté des insignes plus simples, mais facilement reconnaissables, les fameuses étoiles popularisées par les westerns.