Tampereen Taideyhdistys ry perustettiin vuonna 1898 tamperelaisten taideharrastajien toimesta. Engströmin kahvilassa yhdistyksen perustamisesta kiinnostuneille henkilöille pidettiin 26.1.1898 keskustelutilaisuus. Tuossa tilaisuudessa päätettiin nimittää komitea, jonka tehtäväksi jäisi jäsenhankinta, sääntöehdotuksen laatiminen ja perustavan kokouksen koolle kutsuminen. Tampereen Taideyhdistyksen perustavalaatuinen kokous järjestettiin Seurahuoneella 28.3.1898. Kokouksessa tarkastettiin komitean laatima sääntöehdotus ja valittiin yhdistyksen johtokunta. Johtokunnan puheenjohtajaksi valittiin Emil Grönvik, varapuheenjohtajaksi Hjalmar Grönblom, rahastonhoitajaksi August Krook ja sihteeriksi Magnus Lavonius, muiksi jäseniksi Gabriel Engberg, Anna Idman sekä Viivi Palander. Suomen senaatti hyväksyi yhdistyksen sääntöehdotuksen vuoden 1898 kesäkuussa. Ensimmäinen yhdistyksen näyttely avattiin raatihuoneella 25.2.1899. Tampereelle perustettiin yhdistyksen toimesta myös taidemuseo, jonka avajaisia vietettiin 31.10.1931. Ajatus taidemuseon perustamisesta oli ollut vireillä jo 1900-luvun alusta, mutta varsinaisesti hanketta ryhdyttiin ajamaan eteenpäin vuonna 1927. Taidemuseon paikaksi oli valikoitunut Kruununmakasiini, joka koki muutoksien kautta tien viljamakasiinista taidemuseoksi. Kruununmakasiini eli nykyinen Tampereen Taidemuseo on arkkitehti Carl Ludvig Engelin (1778-1840) Intendentinkonttorin käsialaa. Rakennuspiirustuksista löytyy sekä Engelin että arkkitehti Anton Wilhelm Arppen (1789-1862) nimikirjoitukset. 1900-luvun alussa viljamakasiini kuului puolustusministeriölle, joka luovutti sen käyttöoikeudet Tampereen Taideyhdistykselle 1927 pääministeri Väinö Tannerin ilmoituksesta. Tämän jälkeen alkoivat rakennuksen muutostyöt arkkitehdin koulutuksen saaneen Taideyhdistyksen silloisen rahastonhoitajan Hilja Gestrinin johdolla. Gabriel Engberg (1872-1952) oli ensimmäisiä alan koulutuksen saaneita tamperelaistaiteilijoita. Hän kuului Taideyhdistyksen johtokuntaan ja toimi pyynnöstä Näsilinnassa museonhoitajana, joka myös järjesti vuosinäyttelyt vuodesta 1907 lähtien. Hän toimi Tampereen Taidemuseon johtajana vuosina 1931-1948. Taidemaalari Reino Viirilän (1901-1999) aika taidemuseossa alkoi Gabriel Engbergin siirryttyä syrjään 76-vuotiaana vuonna 1948 ja kesti aina vuoteen 1968 saakka. Viirilä oli aktiivisesti mukana monissa taidealan tehtävissä ja oli muun muassa Tampereen Taiteilijaseuran jäsen. Taidemuseon näyttelytoiminta vilkastui Reino Viirilän museonhoitajakaudella, sillä omien kokoelmien rinnalle nousivat yksityiskokoelmien näyttelyt, teemanäyttelyt sekä yksittäisten taiteilijoiden näyttelyt. Näyttelytoiminnan vilkastuminen kasvatti myös taidemuseon kävijämäärää. Tampereen Taidemuseoon perustettiin varsinainen museonjohtajan virka, johon valittiin filosofian maisteri Anneli Ilmonen. Ilmonen aloitti museonjohtajana vuoden 1968 alusta. Anneli Ilmosen aikakaudelle 1968-2004 ajoittui museotyön lisäksi merkittäviä prosesseja, kuten taidemuseorakennuksen peruskorjaus ja laajennus 1980-luvun alussa sekä taidemuseon siirtyminen Tampereen kaupungin omistukseen vuonna 1985.