Жилинский родился 25 мая 1927 года. В 1951 году закончил Суриковский институт, уже в 1950-е начал там преподавать. Свою первую серьезную работу - большую фреску с 12 обнаженными фигурами - Жилинский создал в 1948 году. Писал много портретов, пейзажей. В последнее время работал над циклом картин на библейские темы.
Первыми работами Жилинского, в которых ярко проявились характерные черты его стиля, стали картины "У моря. Семья" (1964) и "Гимнасты СССР" (1964-1965). Отказавшись от тональной живописи, художник писал локальными цветовыми пятнами, избегая теней и акцентируя линию, силуэт, показывая, по его словам, "не данный момент, а сущность изображаемого, его цвет, существующий независимо от состояния и освещения", пишет Colta.ru.
Жилинского причисляли к художникам "сурового стиля", но сам он считал, что "только жил одновременно с ними". Несмотря на то что Жилинский никогда не писал пропагандистских картин, он пользовался официальным признанием, начиная с 1960-х регулярно выставлялся, в том числе за границей: в 1970-е годы его персональные выставки прошли в Роттердаме, Риме, Милане, Болонье и Генуе.
В 2007 году в Третьяковской галерее состоялась большая ретроспективная выставка Дмитрия Жилинского, приуроченная к его 80-летию, на которой были представлены около 90 живописных и графических работ.
С 1954 года Жилинский был членом Союза художников, в 1970-1980-х годах входил в правление Союзов художников РСФСР и СССР. В 1979 году был избран членом-корреспондентом Академии художеств СССР, в 1995 году - действительным членом Российской академии художеств.