Tan Sri Haji Abdul Rahim dilantik sebagai Ketua Menteri Melaka keenam selepas pilihanraya umum pada 26 April 1982. Beliau seterusnya menjawat ini sehingga 13 Oktober 1994. Tan Sri Haji Abdul Rahim berusaha keras bagi memperbaiki segala kelemahan yang ada sehingga berjaya meletakkan Melaka di atas sebuah dasar yang kukuh untuk terus membangun. Atas kecemerlangan beliau mentadbir negeri, Melaka telah berubah menjadi sebuah negeri yang pesat membangun. Perancangan beliau yang tersusun dan kemas Berjaya menghidupkan Bandar Melaka sehingga dinaiktaraf menjadi 'BandarayaBersejarah' pada 15 April 1995. Melalui dasar pembangunan ekonomi yang berteraskan industri, Tan Sri Haji Abdul Rahim telah merancakkan pembangunan perindustrian dengan membangunkan kawasan Ayer Keroh, Batu Berendam, Bukit Rambai, Tanjong Kling, Alor Gajah, Merlimau, Cheng dan Tangga Batu sebagai zon industry dengan kemudahan infrastruktur yang lengkap. Di atas kecemerlangan beliau dalam pembangunan negeri Melaka, beliau telah mendapat kepercayaan seterusnya memenangi kerusi Ketua Pergerakan Pemuda UMNO Malaysia pada 12 Julai 1993. Beliau menjadikan motto 'Kebijaksanaan Menerajui Pemuda' sebagai prinsip dan teras perjuangannya.