。憲宗不許。王承宗只是空嚷嚷，李師道卻來真格的。他派人燒掉唐廷用以屯積江淮糧賦的河陰院巨倉，共燒燬積錢三十多萬緡，帛三十多萬匹，穀物三萬餘斛，幾乎把唐廷的後勤儲備端個底掉。這一招真管事，無錢無糧如何打仗，群臣紛紛“進諫”唐憲宗罷兵，只有宰相武元衡以及中丞裴度堅執不許。
關鍵時刻，唐軍大將李光顏（阿跌光顏）在陳州時曲（今河南郾城）大破吳元濟賊軍。本來賊軍主動進攻，大清早就忽然逼近李光顏軍營，壓營列陣，唐軍連想出戰都不得。李光顏勇烈，命人破毀軍營圍柵，只帶數騎，箭一樣出突入賊陣，往來馳騁，如入無人之境。將是軍膽，主師如此英勇，唐軍怯意頓消。賊軍皆知李光顏威名（他的胡人長相也好認），紛紛向他放箭，“矢集其身如蝟”，如此金甲大將，目眥皆裂，烏馬鋼槍，來回決蕩，滿體皆是敵人箭矢，血流如注，仍高喊殺敵，此情此景，讓人可發千古浩嘆！其子害怕父親突陣被害，攔馬哀求李光顏不要再入，大將“挺刃叱之”，將士見此，皆感奮決起，挺刀縱馬，直撲賊軍，“賊乃潰北”。當時諸鎮軍包圍蔡州的有十多屯，惟李光顏首先獲以大勝。當初薦舉李光顏的，正是中丞裴度。
眼看吳元濟窘迫，成德節度使王承宗派使人到長安見宰相武元衡，為吳元濟求情。武元衡當即“叱出之”，一點兒面子也不給。武元衡此人還真不容易，其曾祖武載德是武則天的堂弟，經過唐朝幾代政治變遷，此位武爺能夠活下來，又能做到宰相，真是艱難。武元衡“詳整稱重”，連德宗都稱之為“真宰相器也”。憲宗為太子時，就已聞武元衡剛正之名，日後用他為宰相，“甚禮信之”。
王承宗的信使回來稟報，這位成德節度使只能破口大罵。
李師道蠢蠢欲動。他屬下有人出主意：“天子下定決心要誅除吳元濟，主要是武元衡力贊。如果派人刺殺他，別的大臣就不敢言聲，還會力勸天子收兵。”
元和十年（公元815年）陰曆六月三日早晨，武元衡早朝。剛出裡東門，前面就有人在背影處大喝，讓衛隊滅掉燈籠裡的燭火。前導衛騎訶斥，暗中突發一箭，把導騎射下馬來。由於事出蒼猝，武元衡的衛隊又不頂事，忽然見到白刃閃閃，暗箭亂飛，紛紛四下逃逸。騎在馬上的武宰相正驚愕間，從樹上忽然跳下一人，一大棒就猛擊他的左大腿，骨碎鑽心，武元衡痛得大叫。刺客皆武功高手，不慌不忙，一人抓住武元衡馬韁，牽行十餘步，舉燭看清確實是武元衡，才當胸一刀，把他刺死。然後，賊人又舉刀剁下他的頭顱，包裹起來準備拿回去報功。
當時，夜漏未盡，破曉時分，路上已經有不少上朝的官員和行人，巡邏兵士連呼宰相被殺，“聲達朝堂”，百官恐懼，不知遇害者是誰。直到武元衡沒有腦袋的屍身在馬上被人發現，才知道是武宰相遇害。
與此同時，裴度在通化坊邊遇襲。由於其參謀王義抱住刺客，裴度當天又戴一個厚氈帽，腦袋只是受了重傷，墜於溝中，倖免一死。
驚聞宰相遇害，憲宗“惋慟者久之，為之再不食”。
武元衡工於五言詩，詩意哀惋清麗，隱有人壽不永之感，現錄二首於下：
秋室浩煙霧，風流怨寒蜩。機杼夜聲切，惠蘭芳意消。美人湘水曲，桂楫洞庭遙。常恐時光謝，蹉跎江豔凋（《秋思》）
流水逾千度，歸去隔萬重。玉杯傾酒盡，不換悽慘容。（《送七里赴歙州》）
恐怖刺殺很有效果。“京城大駭，於是詔宰相出入，加金吾騎士張弦露刃以衛之，所過坊間呵索甚嚴”。此舉，其實更增添了恐怖氣氛。不僅如此，朝臣們從此以後，許多人天不亮不敢出門，往往憲宗上朝坐等好久，大臣們還來不齊人。
刺客更猖狂，到處留下白紙黑字的紙片，上寫：“毋急捕我，我先殺汝”。宰相都能被人取走腦袋，辦案的“捕快”自然害怕，“故捕賊者不敢甚急”。而且，當時多以為刺客是王承宗所派，“其偉狀異制、燕趙之音者，多執訊之”，京城裡面，看見大高個兒操河北口音，都會被截住審問，緊張程度如同歐美機場看見阿拉伯哥們就哆嗦一樣。
兵部侍郎許孟容入殿泣諫：“自古未有宰相橫屍路隅而盜不獲者，此朝廷之辱也！”
憲宗點頭，於是，京城大索，懸重賞提拿刺客。最後，有人告成德軍卒張晏等人是殺武元衡主謀，朝廷將錯就錯，逮捕張晏。屈打成招，最終殺掉張晏等十多人，“李師道客竟潛匿亡去”，真兇倒逍遙法外。
裴度重傷臥床，近一個月不能上朝。憲宗派禁衛軍於其府