Джо Уайдер родился в канадском Монреале в 1920 году. Он с детства занимался бодибилдингом, а с 17 лет начал пропаганду этого спорта в прессе. В 1946 году он вместе со своим братом Беном Уайдером основал Международную федерацию бодибилдеров (IFBB).
В 1965 году Уайдер организовал конкурс "Мистер Олимпия", который должен был помочь победителям конкурса "Мистер Вселенная" продолжить свои тренировки.
Впоследствии Уайдер в разное время являлся тренером таких известнейших культуристов, как Арнольд Шварценеггер, Франко Коломбо, Фрэнк Зейн, Ли Хейни и другие.
Последние годы своей жизни Джо Уайдер прожил с супругой в Лос-Анджелесе, передает РИА "Новости".