Первая картинная галерея появилась в городе еще в самом начале 1918 году, но просуществовала она совсем недолго, ведь на пороге была Гражданская война. Вторую попытку предприняли в 1938 году.

Коллекция открытой тогда в лютеранской церкви художественной галереи была сравнительно небольшой, но поистине уникальной и включала работы Врубеля, Репина, Сурикова, Шишкина и других прославленных живописцев, предметы декоративного искусства из Европы и Китая. В годы Великой Отечественной музей был разрушен, а судьба хранившихся в нем произведений искусства до сих пор остается неизвестной.

В 1963 году Волгоград вновь обрел свой художественный музей. Из фондов крупнейших российских галерей в него передали свыше двух тысяч экспонатов, в том числе работы Айвазовского, Бенуа, Коровина, Крамского.

Сегодня коллекция Музея изобразительных искусств насчитывает свыше 8 тысяч произведений живописи, графики и скульптуры и продолжает пополняться. Особую гордость местные жители испытывают при знакомстве с произведениями их земляка Ильи Машкова, имя которого музею было присвоено в 2010 году.