程异是京兆府长安县人,曾侍奉父亲的病,在当地以行孝有名。考明经科及第,拜官扬州海陵县主簿。又考中开元礼科,任华州郑县县尉。他精通官吏事务,分析判决快速。杜确任同州刺史、河中节度时,他都跟从做幕僚辅佐。
贞元末年,他升任监察御史,又升任虞部员外郎,担任盐铁转运使、扬子院留守。当时王叔文当权,走捷径想得好处的人都依附他,程异被他任用。王叔文下台后,他被牵连贬任岳州刺史,后改任郴州司马。元和初年,盐铁使李巽推荐他擅管钱粮,请求原谅他的过失任用他。于是升任侍御史,重任扬子院留守,多次升官后任检校兵部郎中、淮南等五道两税使。程异自悔以前过错,竭力尽心,江淮钱粮弊政,多有改革。后入朝任太府少卿、太卿,又调任卫尉卿,兼御史中丞、盐铁转运副使。
当时淮西平叛,国家财力不够,程异让江南用调法收赋税,并且劝掌管地方的人将余财进贡,到哪里都不盘剥下属、榨取钱财,费用就充足了,人们认为很方便。他从此专任盐铁转运使,兼任御史大夫。元和十三年(818)九月,调任工部侍郎、同中书门下平章事,同时仍旧任盐铁转运使。有人议论说程异由管钱粮的官提升,一下子位在百官之上,人们很难接受。程异自知难以服人,因此谦逊自守,一个多月,不去上任管事。程异知道西北面边境军队、地方治理得不好,上奏请求派巡边使,皇帝问谁能任此职,程异请求自己去。商议未定,他没患病却去世了,这是元和十四年(819)四月。皇帝赠官为左仆射,赐谥号为恭。程异生性廉洁简朴,在官府宅院里去世,家里没有多余的财物,人们都称赞他。