Martin Ødegaard og Arsenal var best mot slutten av kampen mot United og fikk til slutt betalt da Eddie Nketiah ble matchvinner med sin 3-2-scoring.
Det stoppet Uniteds ti kamper lange rekke uten tap.
– Kanskje vi skjønner om noen timer at vi er i en god posisjon og god utvikling, men nå er jeg irritert, sa United-sjefen etter nederlaget.
– Jeg sa også til spillerne: Hvis dere vil vinne trofeer og titler, må vi endre mentaliteten vår, sa nederlenderen.
United viste styrke da Lisandro Martínez utlignet til 2-2 etter en times spill, men fikk det tungt mot slutten av oppgjøret.
– Vi må forbedre mentaliteten. Spillerne må skjønne at kampen er over når dommeren blåser i fløyta tre ganger, sa ten Hag.
United står med 39 poeng etter 20 kamper. Det holder til 4.-plass, og det er seks poeng opp til Manchester City på 2.-plass. Serieleder Arsenal har 50 poeng med én kamp mindre spilt.
Nå venter Nottingham Forest i ligacupen onsdag før Reading kommer på besøk i FA-cupen lørdag.