Die frühesten Schriftzeugnisse sind 1145 „Haedigerisperge“, 1244 „Haedegersperge“ und 1328 „Hedgersperge“. Es liegt ein Personenname zugrunde, etwa Haduger.

Ursprünglich im Ostteil des Herzogtums Bayern liegend, gehörte Hargelsberg seit dem 12. Jahrhundert zum Herzogtum Österreich. Seit 1490 wird das Gebiet dem Fürstentum Österreich ob der Enns zugerechnet. Während der Napoleonischen Kriege war Hargelsberg mehrfach besetzt. 

Seit 1918 gehört Hargelsberg zum Bundesland Oberösterreich. Nach dem Anschluss Österreichs an das Deutsche Reich am 13. März 1938 gehörte der Ort zum Gau Oberdonau. Nach 1945 erfolgte die Wiederherstellung Oberösterreichs. 

Geschichtliche Funde aus Hargelsberg werden im Museum Enns ausgestellt.