Khalifah Umar Bin Abdil Aziz mangkat pada tahun 101 H di Himsh. Baru berusia 40 tahun, beliau meninggal kerana diracun oleh musuh politiknya , dimana Khalifah Umar waktu itu keras kepada mereka.
Dalam kitab Al Kawakib Ad Durriyah disebutkan bahawa Khalifah Umar mengetahui orang yang telah meracuninya iaitu seorang hamba sahaya suruhan musuh politiknya.
Pada masa menghadapi sakaratul maut, Khalifah Umar bertanya kepada hamba itu,” Mengapa engkau meracunku?”
Hamba itu menjawab,”Aku diberi seribu dinar, dan aku dimerdekakan.”
Apa tindak balas Khalifah Umar terhadap hamba itu? Beliau merampas wang itu dan disalurkan kepada baitul mal, lalu berkata,”Pergilah di mana-mana tempat yang seorang pun tidak mengetahuimu.” (Al Kawakib Ad Durriyah, 1/385)
