Es wird angenommen, dass der Ausdruck im 19. Jahrhundert in den Vereinigten Staaten entstand, als Sheriffs zu Beamten gewählt wurden, die für die Strafverfolgung in ihren jeweiligen Bezirken verantwortlich waren. Wenn ein neuer Sheriff gewählt wurde, holten sie häufig ihre eigenen Stellvertreter ein und nahmen Änderungen an der Art und Weise vor, wie die Strafverfolgung durchgeführt wurde. Dies könnte zu erheblichen Veränderungen in der örtlichen Gemeinschaft führen, da der neue Sheriff möglicherweise einen anderen Ansatz bei der Strafverfolgung verfolgt oder andere Themen priorisiert als der vorherige Sheriff.
Im Laufe der Zeit wurde der Ausdruck „ein neuer Sheriff in der Stadt“ allgemeiner verwendet und bezeichnete jede neue Person in einer Autoritätsposition, die Veränderungen herbeiführt oder einen erheblichen Einfluss auf ihr Gebiet hat. Heutzutage wird es häufig in verschiedenen Kontexten verwendet, beispielsweise in der Politik, Wirtschaft und im Sport.