Александр Карлин родился в 1951 году в селе Медведка Тюменцевского района Алтайского края. В 1982 году он был назначен заместителем прокурора города Барнаула, затем - начальником отдела прокуратуры Алтайского края, через четыре года переведен в Генеральную прокуратуру СССР, где работал старшим прокурором управления, помощником генерального прокурора СССР по особым поручениям, заместителем начальника управления.
В 1992 года был назначен начальником отдела управления, затем работал начальником управления по обеспечению участия прокуроров в арбитражном процессе Генеральной прокуратуры РФ.
25 августа 2005 года по представлению президента РФ Карлин наделен полномочиями главы администрации Алтайского края Алтайским краевым Советом народных депутатов.