Борис Гудзь родился в 1902 году в Уфе в семье ссыльного переселенца, участника революционного движения на Украине. С января 1923 года, после окончания школы военных мотористов, поступил на службу в органы государственной безопасности.
Гудзь работал в отделе пограничной охраны, с 1924 года - на различных оперативных должностях в контрразведывательном отделе, секретно-оперативном управлении, особом отделе ОГПУ СССР. Позднее он окончил заочное отделение философского факультета Института Красной профессуры.
В январе 1932 года Гудзь был назначен начальником отдела разведки и контрразведки ОГПУ по Восточно-Сибирскому краю. В этой должности он осуществил ряд результативных операций "по японской линии" и чекистскую операцию по захвату на территории Манчжурии атамана Топхаева.
В 1934-36 годах Гудзь был резидентом иностранного отдела ОГПУ-НКВД в Японии. По возвращении из командировки в составе группы чекистов-разведчиков был переведен в разведуправление Генштаба РККА, курировал деятельность группы Рихарда Зорге, стал заместителем начальника отдела разведуправления Генштаба.
В апреле 1937 года в связи с арестом сестры Борис Гудзь был исключен из партии и уволен из РККА.
После этого он работал водителем автобуса в первом московском автобусном парке. Позднее Гудзь был восстановлен в партии, трудился в системе столичного автохозяйства, стал руководителем одного из крупных автотранспортных предприятий и пенсионером республиканского значения.
Выйдя на пенсию, Борис Гудзь занимался общественной работой, изучал историю революционного движения. С конца 60-х годов он консультировал авторов книг и фильмов по истории ВЧК-ОГПУ, в том числе и режиссера многосерийного телевизионного художественного фильма "Операция "Трест" Сергея Колосова.
Патриарх советской разведки и контрразведки был награжден многими медалями, ведомственными наградами и грамотами. Он являлся первым лауреатом премии имени Артузова, членом "Общества изучения истории отечественных спецслужб".