Alytus apygardos meno muziejus pavadintas po FA Kovalenko - viena iš seniausių meno muziejų Šiaurės Kaukaze. Objektų saugomais muziejaus skaičius yra apie 12 milijonų vienetų, ir yra darbai Rusijos ir užsienio autorių.

Surinkimo fondo muziejaus kolekcijos pagrindu buvo pradėtas FA Kovalenko, jis perduotas miesto 1904. Kolekcijoje FA Kovalenko buvo 730 tapybos ir grafikos darbai 1400. Jame taip pat yra retas knygas ir daiktus Taikomosios dailės. Vėliau, IE Repinas ir kiti menininkai galerijoje pristatė savo kūrinius.

Savo pirmaisiais metais muziejus buvo įsikūręs miesto valdžia patalpose. Ateityje miesto taryba sutiko mokėti nuomą antrame aukšte atskirame pastate. 1919, meno galerija persikėlė į vieną Kuban-Juodosios jūros regiono muziejų pavadintas po AV Lunacharsky. Per 90 metų muziejus buvo pavadintas po FA Kovalenko.

Po beveik šimto metų po to, kai muziejaus atidarymas buvo atliktas kapitalinę rekonstrukciją pastato, kuris buvo baigtas 2006 m. Darbo metu buvo atkurta gipso lipdiniais, atnaujinti spalvą sienos, renovuotas parketas ir keraminės dalys interjerą. Tada buvo naujos parodos atidarymas - "The Seasons".