Die Graphische Sammlung umfasst Werke vom 15. bis zum 21. Jahrhundert, wobei alle wichtigen europäischen Kunstlandschaften vertreten sind. Ihre besondere Bedeutung erhält die Graphische Sammlung durch den Bestand der Kunstakademie, der sich seit 1932 am Haus befindet und der in seinem Kern auf die Sammeltätigkeit des Düsseldorfer Künstlers und ersten Akademiedirektors Lambert Krahe (1712–1790) zurückgeht.

Dank der Erwerbungen Krahes in Rom gilt die Sammlung neben Windsor Castle, dem Louvre, der Albertina und dem Prado in Madrid als eine der fünf bedeutendsten Sammlungen von Barockzeichnungen. Einzig hier findet man geschlossene Werkgruppen solch herausragender Künstler wie Sacchi, Maratta, Bernini, Passeri, Cortona, Mola oder Molinari in dieser Lückenlosigkeit.

Nach Krahes Rückkehr nach Düsseldorf im Jahre 1756, erweiterte er seinen Bestand noch um Beispiele der italienischen Renaissance (Raffael, Perugino, Pollaiuolo), der niederländischen (Goltzius, Rubens, Jordaens) und der französischen Schule (Poussin, Dughet, Frontier).

Daneben erwarb er druckgraphische Werke, genannt seien Dürers Holzschnitt- und Kupferstichfolgen, Kupferstiche von Schongauer, Cranach und Lucas van Leyden und Radierungen von Rembrandt und der Schule von Fontainebleau.

Seitdem Krahe seine Sammlung im Jahre 1778 an die Bergischen Stände übereignet hatte, bildete sie den Grundstock der Sammlung der Kunstakademie und erhielt kontinuierlich Zuwachs durch Arbeiten der an der Akademie arbeitenden Künstler, wie Schadow, Cornelius, Mintrop.

Hier setzten nach der Gründung der Städtischen Kunstsammlungen im Jahre 1913 die Ankäufe an, wodurch die deutsche Romantik und die Düsseldorfer Malerschule mit über 6000 Zeichnungen in der Sammlung vertreten sind.

Aber auch ein umfangreicher Bestand an Druckgraphik des Expressionismus von Kirchner bis Felixmüller und des Jungen Rheinland wird in der Graphischen Sammlung bewahrt. Im Bereich der Moderne weist die Graphische Sammlung bedeutende Beispiele der informellen und konkreten Kunst auf.

Schenkungen und Dauerleihgaben bereichern und komplettieren die Sammlungsschwerpunkte, wie beispielsweise die Schenkung von über 500 japanischen Farbholzschnitten.

Dauerleihgaben mit Arbeiten der 80er und 90er Jahre führen das Sammelspektrum bis in die Gegenwart.

Eine Sammlung mit Künstlerphotographie mit dem Schwerpunkt Düsseldorfer Künstler ist gegenwärtig im Aufbau. Insgesamt werden zur Zeit etwa 70.000 Blatt Zeichnungen und Druckgraphik bewahrt.

Die Bestände der Graphischen Sammlung werden kontinuierlich wissenschaftlich bearbeitet. Über die noch erhältlichen Bestandskataloge informiert die Bibliothek.
Zuletzt erschienen: Dello stile naturale. Die Zeichnungen des Giovanni Lanfranco, (Deutscher Kunstverlag Berlin 2006).
In una maniera propria. Die Zeichnungen des Giovanni Baglione, (Deutscher Kunstverlag Berlin 2008).