De chr. muziekvereniging Harpe Davids werd als fanfareorkest opgericht in 1921. Men begon met een groepje van zo'n 20 man muziek te maken. Na vijf jaar kon men al met muziekwedstrijden (de zogenaamde concoursen) mee doen. In die beginjaren ging het met de vereniging steeds beter en kwamen meer mensen in het orkest spelen. Eind jaren 30 werden aan dit orkest klarinetten en dwarsfluiten toegevoegd en ging men als harmonieorkest verder.

In de Tweede Wereldoorlog weigerde Harpe Davids lid te worden van de door de Duitsers ingestelde Kultuurkamer. De instrumenten moesten daarom ingeleverd worden en dat is ook gebeurd met het vaandel en veel bladmuziek. Een aantal instrumenten kon worden verstopt.

Na de oorlog zijn de overgebleven leden met frisse moed opnieuw begonnen. Dat was niet zo gemakkelijk, omdat veel instrumenten niet meer teruggevonden konden worden en ook omdat men niet veel geld had om nieuwe instrumenten te kopen. Gelukkig konden er wat instrumenten van andere bevriende muziekverenigingen geleend worden.

In de jaren 50 werd de vereniging met een tamboerkorps en in de jaren 70 werd ook met majorettegroepen uitgebreid. Begin jaren 80 werd het aan tamboerkorps o.a. trompetten toegevoegd.. Dat was het begin van de drumfanfare van Harpe Davids. Deze afdeling deed jaarlijks mee aan mars- en showwedstrijden o.a. in de Margriethal in Schiedam.

Tot begin jaren 90 vonden traditioneel de jaarlijkse donateursconcerten plaats het Passage Theater in Schiedam. In dat theater organiseerde Harpe Davids tijdens het 65-jarig bestaan in 1986 een groot concert met medewerking van bariton Willy Caron en het politie mannenkoor Hermandad Rotterdam..

De vereniging heeft t.g.v. het 75 jarig bestaan in 1996 1 officiële CD uitgegeven met opnamen van het harmonieorkest, het jeugdorkest en de drumfanfare.

Grote concerten door de gehele vereniging vonden in die periode plaats in de Margriethal in Schiedam o.a. met medewerking van Het Rotterdams Operakoor. Ook werd door het harmonieorkest meegedaan aan het muziekfestival 'Klinkt Goed!' in de Grote Zaal van de Doelen en trad het orkest in dezelfde zaal op tijdens het jaarconcert van politie muziekvereniging Hermandad Rotterdam.

In de jaren na 2000 verzorgde de vereniging jaarlijks grote concerten in het (nieuwe) Theater aan de Schie in Schiedam met o.a. in 2001 medewerking van de pianist Jan Vayne in 2006 met bariton Ernst Daniël Smid. In 2011 vierde de vereniging het 90-jarig bestaan ook nog in het Theater aan de Schie.

Vanaf 1985 tot 2009 heeft de vereniging aan het Nijhoffplein in Schiedam-Noord over een eigen verenigingsgebouw beschikt. Heden wordt op de maandagavonden gerepeteerd in de aula van Daltonbasisschool De Klinker aan de Bernardus IJzerdraatsingel in Schiedam-Noord.

Vanwege geringe belangstelling en de terugloop van het aantal leden werd in 2009 besloten om de drumfanfare in de huidige vorm op te heffen. Hiervoor werd besloten als slagwerkgroep (R)hit'm verder te gaan. Helaas is de slagwerkgroep ook al een aantal jaren niet meer actief.

De majorettes van de vereniging treden niet meer op straat op. Wel zijn zij al decennia lang als twirlvereniging The Yellow Rainbow erg actief en succesvol; met veel succes hebben de leden met mooie resultaten meegedaan aan een aantal Europese twirlwedstrijden in o.a. Engeland, Italië en Kroatië. De twirlsters trainen op zaterdagochtend o.a. in de gymzaal aan het Warmoezenierpad in Schiedam-Noord.

Concerten door het harmonieorkest vinden vanaf 2011 voornamelijk plaats voornamelijk in de Dorpskerk in Schiedam-Kethel (nieuwjaarsconcerten) en kerkgebouw De Ark in Schiedam-Noord (voor- en najaarsconcerten). Zo werd in dit laatste gebouw in 2013 een succesvol kinderconcert georganiseerd met medewerking van alle afdelingen en werd in het najaar opgetreden met het Oeral Kozakkenkoor.

Door o.a. de opheffing van de chr. harmonievereniging Sursum Corda-Vlaardingen is het aantal leden van het harmonieorkest in 2016 weer gegroeid naar zo'n 45 spelende leden. Met de deelname aan muziekfestivals o.a. in IJsselmonde en Bodegraven en uitdagende concerten wordt het het muzikale peil hoog te houden.

Sinds 2019 is de Schiedamse dirigent Leo Simons de muzikale leider van het harmonieorkest.