বীরশ্রেষ্ঠ রুহুল আমিনের জন্ম ১৯৩৫ সালের জুন মাসের কোনো এক বর্ষণমুখর রাতে নোয়াখালীর বাঘচাপড়া গ্রামে। পিতা মোহাম্মদ আজহার পাটোয়ারি ছিলেন মোটামুটি স্বচ্ছল গৃহস্থ এবং মাতা জোলেখা খাতুন ছিলেন গৃহিণী।

ছোটবেলায় তার পড়াশোনা শুরু হয় পাড়ার মক্তবে ধর্মীয় শিক্ষার মাধ্যমে, পরে বাঘচাপড়া প্রাইমারি স্কুলে। স্কুল পাশ করে ভর্তি হন আমিষা পাড়া হাইস্কুলে। এসময় তার পিতার আর্থিক স্বচ্ছলতা কমতে থাকে। রুহুল আমিনকে এবার জীবিকা নিয়ে ভাবতে হয়। হাইস্কুল পাশ করে ১৯৫৩ সালে তিনি নৌ বাহিনীতে জুনিয়ার মেকানিক্যাল ইঞ্জিনিয়ার হিসেবে যোগ দেন এবং প্রাথমিক প্রশিক্ষণের জন্য গমন করেন করাচীর অদূরে মানোরা দ্বীপে পি. এন. এস. কারসাজ-এ (নৌ বাহিনীর কারিগরী শিক্ষা প্রতিষ্ঠান)।

১৯৫৮ সালে তিনি সফলভাবে পেশাগত প্রশিক্ষণ সম্পন্ন করেন এবং ১৯৬৫ সালে মেকানিশিয়ান কোর্সের জন্য নির্বাচিত হন। সফলভাবে কোর্স সমাপনান্তে তিনি ইঞ্জিন রুম আর্টিফিশার পদে নিযুক্ত হন। ১৯৬৮ সালে তিনি পি. এন. এস. বখতিয়ার নৌ-ঘাটি, চট্টগ্রামে বদলি হন।

১৯৭১ সালে মুক্তিযুদ্ধ শুরু হলে তিনি পরিবারের মায়া ছেড়ে মুক্তিযুদ্ধে যোগ দেবার সিদ্ধান্ত নেন এবং এপ্রিল মাসে ত্রিপুরা সীমান্ত অতিক্রম করে ২নং সেক্টরে যোগদান করেন। সেপ্টেম্বর মাস পর্যন্ত তিনি বহু সম্মুখ যুদ্ধে অংশ নেন।

সেপ্টেম্বর ১৯৭১ এ বাংলাদেশ নৌ-বাহিনী গঠনের উদ্দেশ্যে সকল সেক্টর থেকে প্রাক্তন নৌসেনাদের আগরতলায় সংগঠিত করে নৌ বাহিনীর প্রাথমিক কাঠামো গঠন করা হয়। পরে তাদের কোলকাতায় আনা হয়। সেখানে সবার সাথে রুহুল আমিনও ছিলেন।