Kahden kansanedustajakauden jälkeen Karhunen ei asettunut enää ehdolle eduskuntaan. Hän jatkoi hallintotieteen opintojaan ja valmistui hallintotieteen maisteriksi. Hän työskenteli myös Uudenmaan liiton vs. edunvalvontapäällikkönä ja Hyvinkään-Riihimäen talousalueen aluekeskuksen projektipäällikkönä. Vuoden 2005 alusta hän toimi Karkkilan kaupunginjohtajana, kun hänen edeltäjänsä Kari Korkiakoski oli siirtynyt Joutsenon kaupunginjohtajaksi. Vuosina 2009−2014 Karhunen toimi Järvenpään kaupungin kehitysjohtajana. Vuosina 2015−2018 hän toimi Etelä-Suomen aluehallintoviraston ylijohtajana.[2] Vuonna 2018 hän aloitti Kuntaliiton toimitusjohtajana.[3]
Karhunen toimi Hyvinkään kaupunginvaltuuston jäsenenä vuosina 1989–2001 ja oli myös kaupunginhallituksen jäsen. Hän toimi myös molempien puheenjohtajana, valtuuston johdossa vuodesta 1991 vuoteen 1992 ja hallituksen johdossa vuodesta 1995 vuoteen 2001. Hän toimi myös Hyvinkään Kokoomuksen puheenjohtajana vuosina 1993–1994.