De oudste voorganger van het Rijksmuseum stamt uit de periode van de Bataafse Republiek. Op 19 november 1798 keurde het Uitvoerend Bewind een voorstel van de agent van Financiën, I.J.A. Gogel, goed om te komen tot de stichting van een nationaal museum. De opzet achter deze openbare instelling was de belichting van het glorieuze verleden van het vaderland. Het museum, dat de naam Nationale Konst-Gallery ontving, werd gehuisvest in het paleis Huis ten Bosch te 's Gravenhage. De kern van de verzameling werd gevormd door kunstvoorwerpen, afkomstig uit de voormalige stadhouderlijke collectie. Op 31 mei 1800 opende het zijn deuren voor publiek.
De Nationale Konst-Gallerij was geen lang leven beschoren. Reeds acht jaren later werd het gesloten. Deze stap werd genomen onder invloed van de inmiddels veranderde politieke situatie hier te lande. In 1806 verhief de Franse keizer Napoleon zijn broer Lodewijk Napoleon tot koning over Holland. De kunstminnende Lodewijk Napoleon wilde van de stad Amsterdam, die hij tot residentie had uitgekozen, een cultureel centrum maken. Daartoe stichtte hij ondermeer bij Koninklijk decreet van 21 april 1808 het Koninklijk Museum. Feitelijk was er evenwel geen sprake van de oprichting van een nieuw museum maar meer van een voortzetting van de Haagse Nationale Konst-Gallerij in een nieuwe gedaante. De verzameling kunstvoorwerpen werd van 's Gravenhage naar Amsterdam getransporteerd. Als voorlopige behuizing kreeg het Koninklijk

Museum het Paleis op de Dam toegewezen. Op 15 september 1808 werd het museum voor publiek opengesteld.
De schommelingen aan het politieke front in de jaren 1810-1815 gingen niet ongemerkt aan het jonge museum voorbij. Zo heeft het museum in deze periode verschillende naamsveranderingen ondergaan. Na de inlijving van Holland bij het Franse rijk in 1810 kreeg het museum de naam Groot Hollandsch Museum. In 1814, na de aftocht van de Fransen en de troonsbestijging van koning Willem I, heette het 's Lands Museum van Schilderijen, Oudheden, Kunstwerken en Penningen. Een jaar later werd deze naam weer omgezet in 's Rijks Museum. Deze benaming bleef gehandhaafd tot 1876.
Het tijdelijk onderkomen in het Paleis op de Dam is in 1814 verruild voor het Trippenhuis. Dit pand aan de Kloveniersburgwal, gebouwd omstreeks 1660 door Justus Vingboons voor de gebroeders Trip, moest het museum echter delen met het Instituut van Wetenschappen, Letterkunde en Schoone Kunsten, de latere Koninklijke Academie van Wetenschappen. Tot de ingebruikneming van het nieuwe Rijksmuseumgebouw in 1884-1885 heeft het Trippenhuis aan de kunstverzamelingen onderdak geboden.
De verzameling droeg aanvankelijk een gevarieerd karakter. Dit komt al duidelijk naar voren in de naam 's Lands Museum van Schilderijen, Oudheden, Kunstwerken en Penningen. Tussen 1815-1825 werden de penningen, oudheden en beeldhouwwerken afgestoten naar andere rijksmusea. Daarentegen is in 1816 de verzameling prenten van de Koninklijke Bibliotheek te 's Gravenhage onder-gebracht in 's Rijks Museum. Het museum bevatte vanaf het tweede kwart van de 19e eeuw een afdeling schilderijen en een prentkabinet.

De verwerving en het beheer van de kunstvoorwerpen was in niet geringe mate onderhevig aan de politieke en economische krachten in die dagen. Het korte bewind van Lodewijk Napoleon was voorspoedig geweest. Geld voor aankopen is toen in ruime mate beschikbaar gesteld. Met de inlijving bij Frankrijk braken er echter magere jaren aan. De regering van Willem I bracht aanvankelijk weer een opleving. In 1830 keerde het tij evenwel andermaal. Door het uitbreken van de Belgische opstand ging het museum een sombere tijd tegemoet. Het budget voor de aankoop en het beheer van kunst en de salariëring van het personeel werd drastisch ingekrompen. De beëindiging van de vijandelijkheden in 1839 bracht hierin geen verlichting. Na het troonsafstand van koning Willem I in 1840, voelde zijn zoon en opvolger, Willem II, zich niet geroepen de kunstvriendelijke politiek van zijn vader voort te zetten. De verantwoordelijkheid voor de zorg van de kunst in Rijksbezit viel na de grondwetswijziging in 1848 volledig toe aan de regering. Zij was evenwel de mening toegedaan, dat dit geen overheidszaak was. De regering beperkte daarom haar beleid tot de instandhouding van 's Rijks Museum en de andere rijksmusea met minimale middelen. Pas in de jaren zestig en zeventig van de 19e eeuw trad in deze houding een kentering op.

Op het bestuurlijk-organisatorische vlak hebben zich in de loop der jaren een aantal veranderingen voorgedaan. Van 1808 tot in 1844 was de leiding over 's Rijks Museum in handen van een directeur. Op 25 augustus 1808 was Cornelis Apostool, die zelf over enige kunstzinnige kwaliteiten beschikte, in deze funktie aangesteld. Tot aan zijn dood in februari 1844 heeft hij het directoraat vervuld. Apostool werd aanvankelijk bijgestaan door drie opzichters. De eerste opzichter was belast met het beheer over het prentkabinet, de tweede opzichter hielp de directeur met de verzorging van de verzameling schilderijen. De taak van de derde opzichter, tenslotte, was van administratieve aard. In 1825 werd deze funktie uit bezuinigingsoverwegingen opgeheven en de werkzaamheden overgedragen aan de tweede opzichter.
Na het overlijden van Apostool volgde de kunstschilder J.W. Pieneman hem op als directeur. Zijn directoraat verliep niet zo gelukkig. Reeds na acht maanden, in oktober 1844, werden zijn bevoegdheden beperkt en kreeg hij een Commissie van Toezicht naast zich. Begin 1847 werd Pieneman op eigen verzoek eervol ontslag verleend. Tegelijkertijd is toen een bestuurlijke reorga-nisatie doorgevoerd. De funktie van directeur verdween geheel van het toneel en de Commissie van Toezicht werd omgezet in een Raad van Bestuur, die voortaan de algemene directie voerde.
De Raad van Bestuur is actief gebleven tot in 1876. In dat jaar werd 's Rijks Museum gescheiden in twee aparte instellingen. Het Rijksmuseum van Schilderijen kwam onder leiding van de graveur en voormalig lid van de Raad van Bestuur, J.W. Kaiser.

Tot directeur van het Rijksprentenkabinet werd de graveur J.Ph. van der Kellen aangesteld. Als gevolg van de reorganisatie was de Raad van Bestuur overbodig geworden en zij is dan ook eind 1876 opgeheven. De meeste leden van de voormalige Raad namen zitting in een in januari 1877 ingestelde Commissie van Toezicht. Zij had geen bestuurlijke bevoegdheden maar oefende een controlerende en adviserende taak uit.
Het Rijksmuseum van Schilderijen en het Rijksprentenkabinet bleven, in afwachting van het gereedkomen van het nieuwe Rijksmuseumgebouw, voorlopig gehuisvest in het Trippenhuis. In 1884 werd de verzameling van het prentenkabinet overgebracht naar de westelijke vleugel van het huidige Rijksmuseumgebouw. Medio 1885 volgde de verhuizing van de schilderijen.
In de personele samenstelling bracht de splitsing enige veranderingen teweeg. Zo werd de funktie van eerste opzichter omgezet in die van onderdirecteur van het Rijksprentenkabinet. Het ambt van tweede opzichter, dat sinds 1874 onvervuld was, werd definitief afgeschaft.