સંજય ગાંધીના આકસ્મિક નિધનના પગલે રાજીવ ગાંધી 1980માં રાજકારણમાં આવ્યા. રાજકારણમા નવાસવા રાજીવ ગાંધીના રાજકીય સલાહકાર તરીકે અહમદ પટેલે શરૂઆતનાં વરસોમાં તેમને રાજકીય કારકિર્દી બનાવવામાં બહુ મદદ કરી હતી.
ઈન્દિરા ગાંધીની 1984માં હત્યા પછી રાજીવ ગાંધી વડાપ્રધાન બન્યા ત્યારે તેમણે અહમદ પટેલને પોતાના રાજકીય સચિવ નિમેલા. સોનિયા રાજકારણમાં આવ્યાં ત્યારે તેમણે પણ અહમદ પટેલને પોતાના રાજકીય સલાહકાર બનાવેલા.
રાજીવ ગાંધીએ 1988માં જવાહરલાલ નહેરુની જન્મ શતાબ્દિ વખતે અહમદ પટેલને જવાહર ભવનના ટ્રસ્ટી નિમિને એક વર્ષમાં જવાહર ભવનના નિર્માણનું કામ સોંપેલું. દસ વર્ષથી અટવાયેલું કામ એક જ વર્ષમાં પૂરું કરીને અહમદ પટેલે સૌને દંગ કરી દીધેલા. રાજીવ ગાંધી તેમનાથી અત્યંત પ્રભાવિત થયેલા અને નહેરૂ-ગાંધી ખાનદાન સાથેનો તેમનો નાતો મજબૂત બન્યો. એ વખતે કોમ્પ્યુટર અને સોલર પેનલ સહિતની ટેકનોલોજીનો ઉપયોગ કરીને અહમદ પટેલે ઝડપથી કામ પાર પાડીને સૌને દંગ કરી દીધા હતા.