Hareide tog över efter Arnar Vidarsson i april 2023 och spelade för Island i totalt 20 landskamper.
Island hade en tuff Nations League och måste kvalificera sig mot Kosovo i mars nästa år för att behålla sin plats i B-divisionen.
Men då utan Hareide, som har ett långt förflutet som tränare i allsvenska klubbar.
– Jag har bestämt mig. Det räcker för att jag ska sluta nu. Jag har ett dåligt knä och jag måste vara top-notch om jag ska fortsätta med det här, säger han till NRK:s podcast Bakrommet.
Hareide började sin nästan 40-åriga tränarkarriär i Molde 1985. Sedan dess har han varit förbundskapten för Norge, Danmark och Island. I Sverige var han verksam i Helsingborg, Örgryte och Malmö FF.
Han vann SM-guld med både Helsingborg och Malmö.