আল মাহমুদ ব্রাহ্মণবাড়িয়া শহরের একটি ব্যবসায়ী পরিবারে ১১ জুলাই ১৯৩৬ খ্রিষ্টাব্দে জন্মগ্রহণ করেন। একুশ বছর বয়স পর্যন্ত এ শহরে এবং কুমিল্লা জেলার দাউদকান্দি থানার অন্তর্গত জগৎপুর গ্রামের সাধনা হাইস্কুলে এবং পরে চট্টগ্রামের সীতাকুণ্ড হাইস্কলে পড়াশােনা করেন। এ সময়েই লেখালেখি শুরু।
তিনি আধুনিক বাংলা কবিতার তিরিশ দশকীয় ভাবধারায় ভাটি বাংলার জনজীবন, গ্রামীণ দৃশ্যপট, নদীনির্ভর জনপদ, চরাঞ্চলের কর্মমুখর জীবনচাঞ্চল্য ও নর-নারীর চিরন্তন প্রেম-বিরহের বিষয়কে অবলম্বন করে আধুনিক বাংলা ভাষার প্রচলিত কাঠামােয় অত্যন্ত স্বাভাবিক স্বতঃস্ফূর্ততায় আঞ্চলিক শব্দের সুন্দর প্রয়ােগে কাব্যরসিকদের মধ্যে নতুন পুলক সৃষ্টি করেন। তিনি ১৯৭১-এর স্বাধীনতা সংগ্রাম ও মুক্তিযুদ্ধে অংশগ্রহণ করেন ।
১৯৭৫-এ বাংলাদেশ শিল্পকলা একাডেমীর গবেষণা ও প্রকাশনা বিভাগের সহ-পরিচালক পদে যােগদান করেন। পরে ওই বিভাগের পরিচালকরূপে ১৯৯৩ সালের এপ্রিলে তিনি অবসর নেন।
কবিতা, ছােটগল্প, উপন্যাস ও প্রবন্ধের বই মিলিয়ে আল মাহমুদের বইয়ের সংখ্যা পঞ্চাশাের্ধ। আল মাহমুদ বাংলা একাডেমী সাহিত্য পুরস্কার ও রাষ্ট্রীয় পুরস্কার একুশে পদকসহ বেশ কিছু সাহিত্য পুরস্কারে ভূষিত হয়েছেন। সৈয়দা নাদিরা বেগম তার সহধর্মিণী। তাঁদের পাঁচ পুত্র ও তিন কন্যা।