Шайперс был арестован нацистами в октябре 1940 года за то, что он духовно окормлял польских рабочих, насильно пригнанных в Германию: он служил для них мессы, принимал их исповеди.
Через пять месяцев после ареста молодой священник был отправлен в лагерь Дахау близ Мюнхена. Всего в этом концлагере содержалось 2720 служителей Церкви, 95% которых были католическими священниками. На его лагерную робу был нашит номер 24255.
В его деле, которое он случайно смог увидеть, была записана истинная причина его ареста: "Шайперс - фанатичный сторонник Католической церкви, и это может привести к беспорядкам среди населения".
Германн Шайперс вспоминал, что встречая вновь прибывших, комендант лагеря сказал: "У вас больше нет чести и прав, вам никто не поможет. Здесь вы или будете работать, или умрете".
Священник также рассказывал, что в Дахау он трудился, как раб, питаясь лишь жидкой баландой. "Тех, кто работал недостаточно быстро, пороли, подвешивали за руки и обливали ледяной водой. Многие умирали. Было только два пути спасения - бежать или молиться", - писал он в своих воспоминаниях "Балансируя над пропастью: священник при двух диктатурах".
Шайперса чуть не отправили в газовую камеру, но его спасла сестра Анна, которая убедила нацистское начальство в Берлине, что казнь популярного священника вызовет возмущение католиков.
В апреле 1945 Германну Шайперсу удалось бежать во время "марша смерти", когда заключенных гнали в баварский город Бад-Тёльц.
После войны он служил в Дрезденско-Майсенской епархии, оказавшейся на территории ГДР, и по мере сил сопротивлялся давлению со стороны властей. Когда после падения коммунистического режима он получил доступ к своему личному делу, священник узнал, что спецслужба "Штази" подсылала к нему 15 агентов и что над ним готовился суд по обвинению в "подрывной пропаганде".