El mito se inició hace un siglo cuando dos jóvenes estadounidenses, Bill Harley y Arthur Davidson trabajaban en la compañía Barth Manufacturing Co. donde un compañero emigrante alemán les ayudó a perfeccionar un motor monocilíndrico de tres caballos, al que envolvieron con una carrocería de pieza œnica y curvada muy sólida, la pintaron con esmalte negro brillante y la tatuaron con el logotipo de la marca diseñado por Janet Davidson.
Con la ayuda del padre de los Davidson construyeron un taller de 15m2, al fondo del jardín de la familia. En el instante que pintaron en la puerta Harley-Davidson Motor Co. nació una leyenda. Como Bill Harley concibió la primera moto, los Davidson acordaron que el nombre de él figurase primero. En 1903, la Harley-Davidson Motor Co. produjo tres motores monocilíndricos de cuatro tiempos, de 400 cm3, de una potencia de 3 caballos, todos vendidos antes de quedar terminados.
A las primeras Harley-Davidson las denominaron Silent Grey Fellow, por referencia a su color (el gris) y al silencio de su motor, pues eran máquinas diseñadas para ser compañeras de ruta de sus pilotos.
Los tres primeros años trabajaron en ratos libres y hasta 1906 solo habían producido y vendido 50 motos. Pero se les unió William A. Davidson y empezaron a dedicarse profesionalmente a la producción de estas máquinas.