С началом "гайдаровских реформ" в апреле 1992 Сергей Васильев, ставший директором Рабочего центра экономических реформ при Правительстве РФ (РЦЭР), сделал Илларионова года своим первым заместителем (Иларрионов оставался им до апреля 1993 года). Тогда же Илларионов стажировался в Бирмингеме (Великобритания). Вместе с Сергеем Васильевым участвовал в разработке программы правительства, утвержденной летом 1993 года.
В 1993—1994 — руководитель группы анализа и планирования при председателе правительства Викторе Черномырдине.
Вместе с министром финансов Борисом Федоровым Илларионов резко осудил операцию с обменом купюр 26 июля 1993 г. После тяжелого разговора с премьером (по словам самого Илларионова, - "в результате этого разговора") попал более чем на месяц в больницу, а потом "долечивался в санатории, хотя и не очень успешно". После этого Черномырдин никаких заданий руководителю своей группы планирования не давал. За последующие полгода Илларионов встречался с Черномырдиным только "в экстремальное время: в ночь с 21 на 22 сентября, в ночь с 3 на 4 октября и утром 13 декабря" – во время "обвала" рубля. Все три раза встреча происходила по инициативе Илларионова, который во всех трех случаях советовал отправить в отставку председателя Центробанка Виктора Геращенко.
По мнению Илларионова, одна из главных причин поражения демократов на выборах 12 декабря 1993 года - инфляция, в которой Илларионов винит Геращенко и Черномырдина. 7 февраля 1994 года Илларионов подал в отставку, обвинив премьер-министра в "экономическом перевороте". В ответ на это был 9 февраля 1994 года "уволен за нарушение трудовой дисциплины", выразившееся в том, что Илларионов прогулял три дня - без ведома Черномырдина - читал 17-20 января 1994 лекции в Великобритании.
С 1994 года - директор Института экономического анализа. В июне 1998 года стал одним из учредителей ультралиберального общественно-политического объединения "Северная столица". 10 июля 1998 года включен в состав Комиссии правительства РФ по экономическойреформе.
В апреле 2000 года был назначен советником Президента РФ по вопросам экономики, в июне 2000 года и в марте 2004 года., после реорганизации Администрации Президента РФ вновь утверждался на эту должность.
С мая 2000 г. являлся представителем Президента РФ по делам группы ведущих индустриально развитых государств и связям с представителями лидеров стран, входящих в "Группу семи", а также председателем Межведомственной комиссии по участию РФ в "восьмерке". В январе 2005 г. был освобожден от этих обязанностей. В 2002 г. был назначен членом Национального банковского совета от Администрации Президента РФ.
В 1990-х годах Андрей Илларионов заявлял, что "благодаря "пинку Гайдара" Россия ... всего через два с небольшим года реформ радикально изменилась", что "Гайдар спас страну от реальной угрозы голода в столицах и крупнейших индустриальных центрах страны зимой 1991-1992 года". В то же время он признавал справедливость утверждений радикально-либеральных критиков "правительства реформ" о том, что "шоковой терапии" как таковой в России не было, "денежная политика была совсем не жесткой", "правительство пошло на слишком большие компромиссы с промышленным и аграрным лобби", "были совершены крупные кадровые ошибки" - "и именно эти компромиссы и ошибки в конечном счете стали главными причинами и первой и второй отставки первого реформатора России". Также говорил, что после ухода Гайдара правительство "повернулось, по сути дела, к полномасштабной бюрократической реставрации, к откровенному массированному лоббизму".
После 2002 года высказывания Илларионова на посту советника президента нередко привлекали внимание общественности именно тем, что были диаметрально противоположны официальной позиции Кремля. В последнее время - все чаще и чаще.
27 декабря 2005 года подал в отставку с поста советника президента РФ по экономическим вопросам. Он заявил, что больше не может свободно выражать свое мнение, а в России за шесть лет президентства Владимира Путина произошла смена политического режима.