Sinds 1976 is expliciet in de Comptabiliteitswet opgenomen dat de Rekenkamer tot taak heeft doelmatigheidsonderzoek te verrichten. In Artikel 57 van deze wet staat geformuleerd dat de Algemene Rekenkamer aandacht wijdt aan de doelmatigheid van het beheer, de organisatie en het gevoerde beleid van het Rijk. Het feit dat de wet spreekt over „aandacht wijden aan” geeft aan dat prioriteiten binnen het doelmatigheidsonderzoek niet verplichtend zijn omschreven. De Rekenkamer heeft van de wetgever wel de opdracht gekregen om doelmatigheidsonderzoek te doen, maar in welke mate en welke oordelen daarbij prioriteit hebben, staat niet aangegeven. In vergelijking tot het rechtmatigheidsonderzoek kan de Rekenkamer het doelmatigheidsonderzoek in relatieve vrijheid verrichten.

In de Comptabiliteitswet wordt het begrip „doelmatigheid” ruim opgevat, namelijk als effectiviteit, efficiëntie en zuinigheid.

Effectiviteitsonderzoek houdt in dat bekeken wordt of de ingezette beleidsinstrumenten feitelijk hebben geleid tot de realisatie van de beoogde doelstellingen. Tot 1995 heeft de Rekenkamer zich bij het effectiviteitsonderzoek voornamelijk beperkt tot het zogenoemde „waarborgenonderzoek” en het doelbereikingsonderzoek.

Waarborgenonderzoek houdt in dat bekeken is of in de regeling of procedure elementen zijn opgenomen die waarborgen dat de beoogde effecten kunnen optreden.

Het doelbereikingsonderzoek houdt in dat gekeken is of, ongeacht de bijdrage van beleidsinstrumenten, het beoogde doel bereikt is. In welke mate de beleidsinstrumenten een bijdrage hebben geleverd aan de doelrealisatie is daarbij niet aan de orde.

In 1995 heeft de Rekenkamer een pilotonderzoek gestart naar de mogelijkheden om effectiviteitsonderzoek uit te voeren.

Bij efficiëntie-onderzoek staat de vraag centraal of met de ingezette middelen maximale prestaties zijn gerealiseerd. Ook voor dit type onderzoek geldt dat de Rekenkamer voornamelijk kijkt of voldoende waarborgen voor efficiëntie zijn ingebouwd.

Onderzoek dat alleen betrekking heeft op de vraag of zo zuinig mogelijk met het geld is omgesprongen, wordt bij de Rekenkamer niet veel uitgevoerd. Vaak is dat ingebed in ruimere probleemstellingen.

In de wet is aangegeven dat de Rekenkamer onderzoek doet naar organisatie, beheer of beleid. Bij de onderdelen organisatie en beheer gaat het om onderzoek dat gericht is op de interne organisatie van het Rijk en betrokken organen. Onderzoek naar beleid richt zich daarentegen op hetgeen het Rijk in de maatschappij wil bereiken en waarvoor zij doelen heeft geformuleerd en middelen ter beschikking heeft gesteld. Tot de wijziging van de Comptabiliteitswet in 1989 was het zo dat de Rekenkamer het onderzoek kon starten op het moment dat de eerste beleidsuitgaven waren gedaan. De redactie van artikel 57 in de wet van 1989 en de Memorie van Toelichting daarover maken echter duidelijk dat onderzoek verricht kan worden op het moment dat de Regering of de minister een beleidsbeslissing heeft genomen en nog niet tot het doen van uitgaven is overgegaan. Dit onderzoek naar vastgesteld, maar nog niet uitgevoerd beleid richt zich op de toets of de veronderstellingen in het beleid (de beleidstheorie) ergens op gestoeld zijn en/of de beleidsdoelstellingen voldoende concreet zijn gemaakt om aan het einde van de beleidsperiode te kunnen evalueren of hetgeen beoogd werd ook inderdaad is gerealiseerd.

Bij het doelmatigheidsonderzoek maakt de Rekenkamer net als bij het rechtmatigheidsonderzoek zoveel mogelijk gebruik van de resultaten van het door de ministeries zelf uitgevoerde onderzoek. De waarde van deze onderzoeken voor de Rekenkamer wordt bepaald door de omvang, het bereik en de kwaliteit ervan.

In 1991 heeft de Rekenkamer een rijksbreed onderzoek uitgevoerd naar de evaluatie-activiteiten en benutting van evaluatie-onderzoek bij de rijksoverheid. Naar aanleiding van dit onderzoek bracht de Regering een standpunt uit waarin werd aangegeven dat beleidsevaluatie meer en structureler aandacht verdiende. Hiervoor werd een versterking van de positie van de centrale directies Financieel-Economische Zaken op het terrein van de beleidsevaluatie in het vooruitzicht gesteld, die inmiddels is geregeld. Deze directies moeten zorgdragen voor de stimulering en coördinatie van evaluatieonderzoek, en ze moeten aangeven in hoeverre de uitkomsten van deze onderzoeken worden betrokken bij de begrotingsvoorbereiding. Daarnaast moeten departementen duidelijker aangeven welke evaluatie-onderzoeken zijn en worden uitgevoerd.

Ook de Tweede Kamer heeft het belang van evaluatie-onderzoek bij de behandeling van de vijfde wijziging van de Comptabiliteitswet onderstreept en op wettelijke verankering van dat belang aangedrongen. Hierdoor zijn vanaf 1 januari 1992 ministers verplicht om ervoor zorg te dragen dat periodiek onderzoek plaatsvindt naar de doelmatigheid van het beheer, van de organisatie en van het beleid dat aan de begroting van de betrokken ministers ten grondslag ligt. De minister is daarbij wettelijk verplicht de Rekenkamer in te lichten over het onderzoek dat hij heeft laten verrichten.