In artikel 76 van de Grondwet is vastgelegd dat „de Algemene Rekenkamer is belast met het onderzoek van de ontvangsten en uitgaven van het Rijk”. De inrichting, samenstelling en bevoegdheid van de Rekenkamer wordt bij wet geregeld (artikel 78, eerste lid). Deze wet was de Instructiewet van 1841 en sinds 1927 de opvolger daarvan, de Comptabiliteitswet. In deze wetten was en is ook uitgewerkt welk onderzoek de Rekenkamer kan verrichten.

In de Instructiewet van 1841 en de Comptabiliteitswet van 1927 lag de nadruk voornamelijk op het rechtmatigheidsonderzoek waarbij wordt nagegaan of het geld volgens de begrotingswet en andere wettelijke voorschriften is uitgegeven. In de loop der tijd ontstond er meer aandacht voor het doelmatigheidsonderzoek waarbij de goede besteding van het geld centraal staat, in de zin van zo zuinig mogelijk, zo efficiënt mogelijk en zo effectief mogelijk. Met name als gevolg van de explosieve groei van de overheidsfinanciën na de Tweede Wereldoorlog nam de behoefte aan doelmatigheidscontrole toe. De Tweede Kamer heeft in de jaren vijftig nog wel gediscussieerd over de vraag of de Algemene Rekenkamer wel de juiste instelling was om een uitgebreidere doelmatigheidscontrole aan op te dragen. Van verschillende kanten in de Tweede Kamer werd de instelling van een „doelmatigheidskamer” al dan niet gelieerd aan het ambtelijk apparaat van de Tweede Kamer zelf voorgesteld. Uiteindelijk constateerde de minister van Financiën in 1970 dat aan een apart doelmatigheidsorgaan geen behoefte was en dat het tot de taak van de Algemene Rekenkamer behoorde om ook doelmatigheidscontroles uit te voeren. In de gewijzigde Comptabiliteitswet van 1976 was dan ook opgenomen dat de Rekenkamer de taak had aandacht te wijden aan de doelmatigheid van het beheer van het rijk en van organisatie en functioneren van de rijksdienst.

Evenals het soort van onderzoek (recht- en doelmatigheidsonderzoek) is in de loop der tijd het controleterrein uitgebreid. Buiten de controlebevoegdheid bij de centrale overheid en daaronder ressorterende diensten en staatsbedrijven heeft de Rekenkamer inmiddels ook de mogelijkheid om controles uit te voeren bij een groot aantal rechtspersonen buiten de rijksoverheid. Artikel 59 van de Comptabiliteitswet is speciaal aan deze extra bevoegdheid gewijd. Uitzonderingen als lagere overheden (provincies, gemeenten, waterschappen) daargelaten, kan de Rekenkamer nu ook controleren bij rechtspersonen die een belangrijke financiële binding met het Rijk hebben en/of een wettelijke taak uitvoeren. Van de eerste groep zijn private bedrijven die een subsidie hebben gekregen een voorbeeld. De Rekenkamer kan bij deze bedrijven controleren of het project waarvoor subsidie is gekregen doelmatig of rechtmatig is uitgevoerd. Van de tweede groep zijn de organen op het terrein van de sociale zekerheid een voorbeeld.