Kegiatan pengumpulan atau pengadaan koleksi seni rupa milik negara yang saat ini tersimpan di Galeri Nasional Indonesia sudah dimulai sejak dulu, antara lain oleh Kantor Dinas Bagian Kesenian RI yang berkedudukan di Yogyakarta, Sekretariat Direktorat Jendral Kebudayaan dan oleh Museum Pusat (kini, Museum Nasional) Jakarta. Pengadaan koleksi umumnya diperoleh melalui proses pembelian (ganti rugi) dan hibah. Koleksi yang dinilai penting dan bersejarah yang berhasil dihimpun adalah seperti karya-karya pelukis Raden Saleh, S. Soedjojono, Affandi, Basuki Abdullah, Kartono Yudhokusumo, Hendra Gunawan, Nashar, Achmad Sadali, Popo Iskandar dan lain-lain.

Selain itu terdapat juga beberapa hasil karya seniman-seniman kelas dunia yang dapat dikategorikan sebagai perintis seni rupa modern seperti Vassily Kandinsky, Hans Hartung, Zou Wu Ki, Victor Vassarelly dan Sonia Delaunay. Koleksi seni rupa berkelas dunia itu merupakan sumbangan seniman dunia yang dihibahkan melalui pemerintah Perancis pada awal tahun 1959, sebagai ungkapan rasa simpati atas kemerdekaan Republik Indonesia.

Galeri Nasional Indonesia saat ini juga memiliki koleksi seni rupa karya seniman dari negara- negara  Gerakan Non-Blok seperti dari Sudan, Zambia, India, Vietnam, dan Kuwait.

Pada tahun 2004 Galeri Nasional Indonesia telah mendapatkan sumbangan koleksi dari seniman Lithografi Perancis Erric Limad serta seniman Indonesia yang lainnya. Hingga saat ini koleksi Galeri Nasional Indonesia berjumlah sekitar 1750 koleksi yang terdiri dari berbagai media, teknik, tema dan gaya. Keseluruhan koleksi semula berasal dari Direktorat Kesenian, Sekretariat Direktorat Jenderal Kebudayaan dan Museum Nasional Indonesia serta hasil pengadaan koleksi (akuisisi) yang telah dilaksanakan oleh Galeri Nasional Indonesia.