Die Gründung erfolgte 1815 als Academischer Musikverein (1817 Steyermärkischer Musikverein) durch die Initiative einer Vereinigung Grazer Akademiker. Im Vordergrund stand das eigene Musizieren. Durch „Ehrenmitglieder“ wurde der Kreis der musikalisch aktiven Grazer Akademiker durch auswärtige Musikschaffende (z. B. L. v. Beethoven 1821, Fr. Schubert 1823, H. Sontag 1824, L. Blahetka) und Nicht-Akademiker des Grazer Kulturlebens, später passive Mitglieder (Zuhörer) erweitert. Der bürgerliche Bildungsgedanke drückt sich in der pädagogischen Zielrichtung des Vereins aus, die von Anfang an formuliert (Förderung des „Kunstsinns“) und in der Vereinsschule realisiert wurde: 1816 Eröffnung der Singschule, 1819 Musikvereinsschule für Gesang, Blasinstrumente und Kontrabass, im selben Jahr konnte Erzhzg. Johann als Protektor gewonnen werden. Weitere Instrumentalklassen kamen zustande, die von verschiedenen Lehrern geleitet wurden und mit unterschiedlicher Lebensdauer bestanden: z. B. ab 1820 Violine und Violoncello, 1825 Gitarre, 1829 Generalbass, Orgelspiel und Choral, 1888 Klavier, es folgten Kompositions- und Dirigentenklassen. Vorrangiges Ziel der Schule war, die Ausbildung der ausübenden Mitglieder zu fördern und für den Nachwuchs zu sorgen. Zahlreiche berühmte Künstler und Künstlerinnen gingen aus der Schule des Musikvereins hervor: F. Busoni, E. N. v. Reznicek, W. Kienzl, F. Weingartner, E. Schuch, K. Böhm, M. Renard, A. Materna, M. Geistinger, G. v. Zieritz u. a. Führende Persönlichkeiten des Grazer Musiklebens waren als aktive Musiker und auch in verschiedenen Funktionen im Verein eingebunden: H. v. Herzogenberg, E. Hysel, A. Hüttenbrenner, A. Leonhardt, W. Mayer-Rémy, C. M. v. Savenau, F. Thieriot, W. Kienzl, E. W. Degner, R. v. Mojsisovics sind hier zu nennen.

Die Schule des Steiermärkischen Musikvereins spielte eine bedeutende Rolle im Bereich der öffentlichen Musikausbildung in Graz und ist eng mit der Geschichte der heutigen Kunstuniv. Graz verknüpft: Schule des Musikvereins (1816), Konservatorium des Musikvereins (1920), Landesmusikschule und Staatliche HSch. für Musikerziehung (1939), Landeskonservatorium (1945), Akademie für Musik und darstellende Kunst (1963), Hochschule für Musik und darstellende Kunst (1970), Universität für Musik und darstellende Kunst Graz (1.10.1998).

Der M. hat seit jeher das Grazer Konzertleben geprägt. In den ersten Jahren seines Bestehens fanden „öffentliche Productionen“ ausschließlich zu wohltätigen Zwecken statt. Die ausübenden Vereinsmitglieder wurden dabei gegebenenfalls vom Opernpersonal unterstützt. „... der Drang des Weiterschreitens in der Kunst, wie auch der Wunsch, mit den größeren Meisterwerken der Tonkunst bekannt zu werden“ (Der Aufmerksame, 1817) waren motivierende Faktoren für den Konzertbetrieb. Es fanden im Abstand von ein bis zwei Monaten „Gesellschaftskonzerte“ statt sowie zahlreiche Veranstaltungen zu Wohltätigkeitszwecken und kirchenmusikalische Aufführungen zu diversen Festtagen. Waren die Mitgliederkonzerte der Anfangszeit geprägt vom Auftreten der einheimischen Künstler, so erfolgte ab 1870/71 ein verstärktes Einbeziehen von auswärtigen Musikern. Der Schwerpunkt des Konzertrepertoires sollte auf den Orchesterwerken liegen. Mit der Eröffnung des Stefaniensaals im Jahre 1885 stand dem Verein ein ständiger Konzertsaal zur Verfügung. Nach dem Zweiten Weltkrieg wurde der M. neu konstituiert. Seit den 1960er Jahren setzt der M. verstärkt Akzente auf eine internationale Besetzung der Konzerte, wobei sich in der Programmgestaltung das Beibehalten eines im Großen und Ganzen konservativen Repertoires bewährt hat, das sich damit heute (2004) als Alternative zu den jüngeren Konzert- und Kulturinitiativen (steirischer herbst und styriarte) darstellt. In den letzten Jahrzehnten bietet der M. Abonnements mit verschiedenen Ausrichtungen (Orchester, Liederabend, Kammermusik etc.) an, wobei sich besonders die Liederabende als Spezialität entwickelten.