Né à Londres, fabriquant de cigares. Emigre à New york en 1863.

A partir de 1885, il est responsable du syndicat de sa corporation et fonde ensuite en 1886, l'American Federation of Labor. En 1890, l'AFL regroupe déjà 250 000 adhérents et suit une orientation étroitement corporatiste.

Gompers sera aussi associé à l'élaboration des relations internationales qui émergent après 1918 et sera notamment à l'origine de la création de l'Organisation Internationale du Travail.

Il demeurera le symbole du syndicalisme étroitement corporatiste américain.