آيتالله حاج شيخ عبدالرحيم رباني شيرازي در سال 1301 در شيراز به دنيا آمد. تا 20 سالگي در جوار پدر به تحصيل و كسب و كار مشغول بود، اما در اين سن تصميم گرفت مغازه كوچكي در بازار شيراز تدارك ببيند و زندگي مستقلي را شروع كند. در دهه 20 با آيتالله سيد نورالدين حسيني، مؤسس «حزب برادران» كه با تجاوز استعمارگران خارجي و ايادي داخلي آنها به مباني اسلامي مبارزه ميكردند، آشنا و رسماً وارد ميدان مبارزه شد.
همزمان به تكميل تحصيلات حوزوي خود در مدرسه علميه آقاباباخان هم ادامه داد. او با مشاهده سختگيري رژيم رضاخاني به روحانيون و حوزههاي علميه دريافت كه در واقع اين تنها پايگاهي است كه ميتواند در برابر مظالم رژيم پهلوي تا به آخر ايستادگي كند و لذا تصميم گرفت تحصيلات حوزوي خود را جديتر بگيرد. در سال 1327 به قم رفت، در مدرسه حجتيه اقامت كرد و از درس اساتيد برجسته آن زمان، بهويژه آيتالله بروجردي بهرهها برد. آيتالله رباني شيرازي به عنوان يكي از سه تن شاگردان ممتاز و مورد قبول آيتالله بروجردي از ميان 60 تن شاگردان برجسته ايشان، از طريق تصحيح، تعليق و چاپ «وسايلالشيعه» به احياي آن پرداخت و با همكاري با گروه تدوين «جامعالحديث» نقش مؤثري را در تأسيس مكتب فقهي جديد «فقهالحديث» ايفا كرد. پس از رحلت آيتالله بروجردي و در پي اقدامات رژيم براي تضعيف حوزه علميه قم و جايگاه مرجعيت، مدرسين حوزه را در منزل آقاي حرمپناهي گرد هم آورد و امام را به عنوان مرجعيت واحد پيشنهاد كرد، اما متأسفانه اين پيشنهاد مورد قبول برخي قرار نگرفت. پس از دستگيري و تبعيد امام، آيتالله رباني بر دامنه فعاليتهاي مبارزاتي خود افزود و در سال 49 با طرح حكومت اسلامي از سوي امام تصميم گرفت روحانيون مبارز را سازماندهي و براي ارتقاي آگاهي ديني و مبارزاتي مردم به اقصي نقاط كشور اعزام كند. اين حركت بسيار زود نتيجه داد و هيئتها و انجمنهاي اسلامي مختلفي در سراسر كشور به وجود آمدند، از جمله گروه ابوذر كه پايگاه اصلي آن در نهاوند بود و اعضاي آن مستقيماً با آيتالله رباني شيرازي در تماس بودند. دربهمن ماه 52 مأموران ساواك قم وي را دستگير كردند و در برابر زن و بچههايش زير لگد و مشت گرفتند. سپس تمام خانه را زير و رو كردند، اما مدركي دال بر همكاري او با گروه ابوذر نيافتند، با اين همه وي را تحت انواع شكنجههاي شديد قرار دادند و بالاخره او را كه خود را به بيهوشي زده بود به بيمارستان منتقل كردند. وي پس از بهبودي نسبي به زندان قصر فرستاده شد و سه سال و يك ماه در حبس بود. او بهمحض ورود به زندان تصميم گرفت اقامه نماز جماعت صبح را كه رژيم ممنوع كرده بود، رسميت ببخشد و از اين طريق به مبارزه خود ادامه بدهد. ساواك كه متوجه شده بود مسبب اين حركت كسي جز آيتالله رباني شيرازي نيست، وي را به زندان انفرادي منتقل كرد و به آزار و شكنجه جسمي و روحي وي پرداخت، اما نتوانست مانع از اقامه نماز جماعت توسط زندانيان مسلمان شود. بهزودي خبر رفتار وحشيانه ساواك به خاطر اقامه نماز به بيرون از زندان رسيد و ادعاهاي شاه مبني بر اينكه تنها كمونيستها مخالف رژيم او هستند، برملا شد. پس از پيروزي انقلاب و ايجاد آشوب توسط گروهكهاي مزدور در نقاط مختلف كشور، آيتالله رباني شيرازي به عنوان نخستين نماينده امام در 24 مرداد 58 به كردستان و آذربايجان رفت تا به هر شكل ممكن غائله را ختم كند.
او پس از بازديد از نقاط مرزي غربي كشور در گزارشي كه براي امام و دولت موقت فرستاد، ايجاد پادگانها و پاسگاههاي قوي مرزي متشكل از پرسنل انقلابي، پاكسازي سريع منطقه از عوامل ضد انقلاب و نمايش قدرت نظامي نظام، دستگيري افراد خائن و ضد انقلاب، محاصره اقتصادي مهاباد در صورت ممكن نبودن عمليات نظامي سريع و. . . را پيشنهاد كرد، ولي متأسفانه دولت موقت در مورد مسئله كردستان ضعيف عمل كرد و در نتيجه آذربايجان نيز به اين غائله پيوست و ماجرا ابعاد جديدي به خود گرفت. درايت و قدرت آيتالله رباني شيرازي در حل مشكلات كردستان و آذربايجان سبب شد كه كمي پس از شروع غائله فارس، امام طي حكمي وي را به آن منطقه بفرستند و همگان را به پيروي از دستورات او ملزم سازند.
آيتالله رباني توانست با هوشمندي غائله خوانين قشقايي را مديريت و منطقه را آرام كند. وي به عنوان يكي از نمايندگان مجلس خبرگان تدوين قانون اساسي نقش بسيار تعيينكنندهاي در تبيين و تدوين اصول مهم قانون اساسي، بهويژه اصل ولايت فقيه داشت. سرانجام در اسفندماه سال 60 به هنگام عزيمت از شيراز به تهران، در بين راه دليجان و محلات، ماشين او به علت تركيدن لاستيك از جاده منحرف و واژگون شد و قبل از رسيدن به بيمارستان از دنيا رفت. يادش گرامي باد.