آرامگاه باباطاهر بر فراز تپه‌ای در شمال غربی همدان قرار دارد این آرامگاه در یک میدان مستطیل‌شکل زیبا و سرسبز قرار گرفته و دارای گنبدی فیروزه‌ای‌ رنگ به شکل منشور و قاعده‌ای هشت ‌ضلعی است سقف آرامگاه نیز به زیبایی تمام کاشیکاری شده است برج آرامگاه روی یک قاعده‌ی هشت‌ضلعی قرار گرفته که ارتفاع آن از سطح تپه بیست و سی پنج متر و از سطح خیابان بیست و سی متر است ستون‌های هشت‌گانه‌ی برج سنگ مزار کف آرامگاه و پله‌های آن از سنگ گرانیت ساخته شده است بنای اصلی که ابعاد آن 10 در 10 متر است با مجموعه‌ای از منشورها پوشیده شده که دارای مدخل‌ها و منافذ نوری هستند سنگ نمای بنا نیز از همان سنگ است و داخل آن کتیبه‌هایی از کاشی وجود دارد در داخل فضای آرامگاه 24 دوبیتی از این شاعر نامی روی سنگ‌هایی مرمرین حکاکی و نصب شده است دو لوح برنجی نیز در داخل آرامگاه وجود دارد که یکی از آنها شامل اسامی هیئت موسس انجمن آثار ملی در زمان تاسیس آرامگاه و دیگری نام افرادی است که در کنار باباطاهر دفن شده‌اند مساحت زیربنای این آرامگاه و باغ اطراف آن به 8956 مترمربع می‌رسد برخی از بزرگان و ادیبانی که در کنار مزار باباطاهر به خاک سپرده شده‌اند شامل محمدابن عبدالعزیز از ادیبان قرن 3 هجری قمری ابوالفتح اسعد از فقیهان قرن 6 هجری قمری میرزا علی نقی کوثر از دانشمندان قرن 13 هجری قمری و مفتون همدانی از شاعران قرن 14هجری قمری بنای آرامگاه باباطاهر در سال‌های متمادی چندین بار تخریب و بازسازی شده است در قرن ششم هجری یک برج هشت ضلعی آجری روی این بنا ساخته شده بود که به مرور زمان ویران شد در دوره پهلوی اول شهرداری همدان اقدام به ساخت بنای جدیدی برای این شاعر معروف کشورمان کرد اما نیمه‌کاره ماند در جریان همین بازسازی یک لوح کاشی متعلق به قرن هفتم هجری پیدا شد روی این لوح کاشی فیروزه‌ای آیات قرآن به خط کوفی و به صورت برجسته نوشته شده است این لوح اکنون در موزه‌ی ایران باستان نگهداری می‌شود در سال 1329 هجری شمسی این بنای نیمه‌کاره مرمت شد و در سال 1345 هجری شمسی طرح بنای جدید توسط مهندس هوشنگ سیحون و مهندس فروغی ارائه شد سال 1346 هجری شمسی ساخت این آرامگاه آغاز شد و 3 سال بعد به پایان رسید این بنا در تاریخ 21 اردیبهشت 1376هجری شمسی در فهرست آثار تاریخی و ملی ایران به ثبت رسید فضای سبز وسیعی نیز در اطراف این بنا احداث شده است این آرامگاه جدید را می‌توان تلفیقی از معماری عصر جدید و معماری قرن‌های هفتم و هشتم هجری قمری به حساب آورد