Modellen worden ook gebruikt om de verwachte gevolgen van bepaalde ontwikkelingen of de resultaten van eventuele beleidsmaatregelen in te schatten. Want de gevolgen van beleid kun je niet vooraf meten en berusten dus altijd op inschattingen. Hier gaat het om extrapolatie in de tijd. En dat gebeurt dan vaak ook nog weer op landelijke schaal. Modellen zijn namelijk de enige mogelijkheid om resultaten van (experimenteel) onderzoek naar regio’s op te schalen.
Alle modellen zijn fout maar sommige zijn nuttigTenslotte worden modellen vaak gebruikt om de relatieve bijdrage van sectoren aan een probleem vast te stellen. Wat is bijvoorbeeld de bijdrage van de energiesector aan de uitstoot van broeikasgassen, of de bijdrage van verkeer en industrie aan gezondheidsproblemen door luchtverontreiniging of de bijdrage van de landbouw aan de stikstofbelasting van natuurterreinen in Nederland? Zo wordt het stikstofmodel van het RIVM gebruikt voor het vaststellen van de bijdrage van onder andere landbouw, verkeer, industrie en buitenland aan de stikstofbelasting. Want je kunt die concentraties wel meten, maar deze metingen vertellen je niet welke sector er verantwoordelijk voor is. ‘Meten is weten’ gaat hierbij niet op.
Hoe komt een model tot stand?
Een model komt tot stand op basis van een groot aantal criteria. Allereerst moet er sprake zijn van een welomschreven vraagstelling en doel. Ontwerp je bijvoorbeeld een model om de landelijk gemiddelde stikstofdepositie op natuurterreinen te bepalen en de bijdragen van sectoren aan die depositie te berekenen? Of doe je dat om er lokale vergunningverlening op te baseren? Dat laatste vereist veel meer detailinformatie.
Daarnaast moet er sprake zijn van een heldere afbakening van het systeem dat in ogenschouw wordt genomen. Denk bijvoorbeeld aan de modellering van milieuproblemen door voedselproductie. Neem je dan alleen de verliezen van stoffen op het land mee, of in de hele voedselketen?
Verder moet er een goede afweging worden gemaakt in de mate van detail die je in het model stopt, in relatie tot de bestaande kennis en de beschikbaarheid van gegevens. Hoe meer kennis je hebt, hoe meer detailbeschrijvingen je kunt maken maar des te groter wordt ook de behoefte aan gegevens, en die moeten er wel zijn. Dat vereist een goede afweging tussen modelbeschrijving en databeschikbaarheid.
Verder moet vooraf worden nagegaan of er meetgegevens zijn in het verleden (trends of tijdreeksen) dan wel in het heden, die te gebruiken zijn om de modeluitkomsten te valideren.
Tenslotte dienen methoden te worden geëvalueerd waarmee de onzekerheid van de modeluitkomsten wordt aangeven. Modellen krijgen pas een zekere status als de modelresultaten redelijk tot goed overeenkomen met metingen, op het niveau waarvoor ze worden toegepast.
Hoe betrouwbaar zijn de getallen die ze opleveren?
Modellen zijn een (soms sterke) vereenvoudiging van de werkelijkheid en de uitkomsten bevatten onzekerheden, en dat niet alleen als gevolg van een gebrek aan kennis. Want zelfs al zouden de gebruikte formules in de modellen de werkelijkheid helemaal correct beschrijven, dan nog zijn er onzekerheden in modelinvoer en modelparameters die het gedrag van het systeem beschrijven. Die hangen bijvoorbeeld af van het klimaat, het landgebruik en de bodem, en al die gegevens variëren in de ruimte en in de tijd. Daarom dient het effect van de onzekerheid in invoergegevens op de onzekerheid in modeluitkomsten aan te worden gegeven. Verder is het verstandig om de modelonzekerheid aan te geven door meerdere modellen te ontwikkelen en de uitkomsten daarvan onderling te vergelijken. Zo worden er bij de verwachtingen rond een mogelijk toekomstig klimaat circa tien modellen gebruikt om de bandbreedte in de verwachte temperatuurstijging aan te geven.
De betrouwbaarheid van modeluitkomsten hangt dus mede af van de vraagstelling. Onderzoekers moeten zich niet laten verleiden om op grond van politieke druk een model te gebruiken voor doeleinden waar het feitelijk niet goed voor geschikt isModelresultaten kennen altijd een bepaalde onzekerheid, maar die gaat wel twee kanten uit: de werkelijkheid kan bijvoorbeeld lokaal gunstiger maar ook ongunstiger zijn en die verschillen middelen dan deels weg, als je in een gemiddelde voor een groter gebied geïnteresseerd bent.
Denk voorbeeld aan de weersverwachting. Die verwachting is gebaseerd op modelberekeningen. De berekeningen van de gemiddelde regenval over Nederland voor de volgende dag zijn veelal zeer betrouwbaar. Maar naarmate je meer detail wilt hebben in ruimte en tijd, wordt het onbetrouwbaarder. Dit kan ook worden geïllustreerd met de betrouwbaarheid van stikstofemissie- en depositiemodellen. Zo concludeerde de Commissie Hordijk dat de kwaliteit van die modellen goed is om landelijk gemiddeld de stikstofdepositie op natuurterreinen te bepalen en de bijdragen van sectoren aan die depositie te berekenen. Hoewel er lokaal wel relatief grote afwijkingen voorkomen, is er gemiddeld goede overeenstemming tussen modelberekeningen en daadwerkelijke metingen op honderden plekken. Tegelijk concludeerde Hordijk dat die modellen niet geschikt zijn voor lokale vergunningverlening. Want op lokale schaal is het model lang niet zo betrouwbaar vanwege de beperkte gegevensbeschikbaarheid en de grotere onzekerheid in modelbeschrijvingen. De betrouwbaarheid van modeluitkomsten hangt dus mede af van de vraagstelling.
Wanneer is een model robuust en kun je het gebruiken?
Een model is als een stuk gereedschap. Het is bruikbaar als het beantwoordt aan het beoogde doel. Zo is een klopboor nuttig voor het boren in een betonnen wand maar niet voor het boren van een kies. De boor deugt wel maar het gebruik deugt niet.
Dit voorbeeld illustreert de beroemde uitspraak: “Alle modellen zijn fout maar sommige zijn nuttig”. Uiteraard zijn de uitkomsten van een model altijd onzeker en een benadering van de werkelijkheid. Maar het maakt uit welke vragen worden gesteld en op welk type modelresultaten beleid wordt gemaakt. Hoe gedetailleerder de vraag, hoe grote de kans dat je niet op het modelresultaat blind moet varen. Van onderzoekers vereist dit duidelijkheid in het aangeven wat de betekenis is van modelresultaten, waarbij ze zich niet laten verleiden om op grond van politieke druk een model te gebruiken voor doeleinden waar het feitelijk niet goed voor geschikt is.
Op 5 mei krijg je nieuwe kado-artikelen.
Als betalend lid lees je zoveel artikelen als je wilt, én je steunt Foodlog
Jan Peter,
We hoeven met de modellen in ons hoofd ook niet te begrijpen hoe zwaartekracht werkt, toch weten we redelijk in te schatten of we wel of niet over een sloot kunnen springen. Waarmee ik maar wil zeggen dat je niet noodzakelijkerwijs kennis over oorzaak en gevolg nodig hebt om goed te voorspellen. Traditionele kennis over de relatie tussen gedrag van dieren, insecten of planten en naderend noodweer is nog zo'n voorbeeld. Dat veranderend gedrag veroorzaakt het noodweer niet, maar voorspelt het goed genoeg om op af te gaan. Ook modellen en ideeën waarvan geen enkel begrip over oorzaak en gevolg is kunnen prima worden gevalideerd en kunnen prima voorspellingen maken.
En dat is nog niet een het ergste, Dennis. De modellen zijn gebaseerd op ervaringen uit het verleden, waarvan we oorzaak en gevolg ook maar nauwelijks begrijpen (al denken we van wel).
Arend,
Een belangrijk punt dat Wim m.i. noemt is dat het onmogelijk is om vooruit te meten, voorspellen is enkel en alleen mogelijk m.b.v. modellen. Het maakt niet zoveel uit of dat wiskundige modellen zijn, of ideeën in het hoofd van een persoon (of groep), het blijven modellen. Dat is een toevoeging aan alle voorgaande stukken en een belangrijk aspect.
In mijn stukje stelde ik dat zelfs onze belevingswereld uit modellen bestaat: uit input van 2 ogen (of oren) stellen we een 3D model samen. Dat is niet voor niets, voor onze overleving (bijv een naderende bus ontwijken) is voorspellen noodzakelijk. Maar punt is: veel ideeën zijn in essentie ook modellen en het primaire doel is voorspellen.
Beleid dat zich op modellen baseert doet dat m.i. om precies die reden: een poging te voorspellen wat welke maatregel voor effect heeft. Uiteraard is er ook misbruik: modellen om een vooraf vaststaand idee te vergoelijken. Maar als we uitgaan van goede wil, gaat het om het eerste. Als validatie ontbreekt is de betreffende voorspelling echter niet op waarde te schatten. Helaas wordt dat nauwelijks nog ingezien.
Met andere woorden: we willen steeds meer en beter voorspellen (lees: grip hebben op een onzekere wereld), maar vergeten daarbij voor het gemak dat voorspellen met enkel een kristallen bol (ongevalideerde modellen) feitelijk niets toevoegt aan zekerheid. Het feit dat dit desondanks toch gebeurt laat m.i. zien dat we vooral hechten aan het idee van zekerheid. Als de onzekerheid voor het gevoel afgedekt is, zijn we kennelijk tevreden.
Uit alle stukken blijkt tot op heden dat de gebruiksaanwijzing mist bij modellen.
Modellen hebben zeker hun plek en nut, alles meten kan niet, maar hoe meer complexiteit we erin stoppen hoe groter de gebruiksaanwijzing zal worden en onleesbaarder.
Hetzelfde met validatie, niet sexy, maar wel noodzakelijk.
Toch is goede validatie uitermate moeilijk en afhankelijk, wederom, van het doel en de inputs van het model. Soms mist gewoon ook een dataset om mee te werken en gebruiken we na een paar jaar een retrospectieve validatie en stellen het model weer bij net zolang tot we tot goede overeenstemming komen met een bekende afwijking.
Op het moment dat modellen gebruikt gaan worden voor beleid komen we op glad ijs, de gebruiksaanwijzing, als die er al is, wordt amper gelezen en het doel van het model vergeten. Doel is beleid maken/ondersteunen, al het andere is niet meer van belang. Het gaat een eigen leven leiden.
Niets is zo moeilijk (niet alleen in de politiek) als fouten erkennen/herstellen, juist omdat het geheel uiteen valt (wet, reputatie) zonder iets anders op de reservebank te hebben ter vervanging. Dus modderen we door, tot het niet anders meer kan.
Wanneer onder normale weersomstandigheden gewasgroei op landbouwgronden hapert, dan nemen boeren onmiddellijk grondmonsters. Want wat is er met de bodem van landbouwgrond aan de hand waardoor er haperende gewasgroei ontstaat. Bij haperende gewasgroei in natuurgebieden zoekt men de oorzaak in luchtkwaliteit. Met allerlei luchtmetingen worden er modellen gemaakt die haperde gewasgroei in natuurgebieden zouden moeten aantonen, maar dat niet gaan doen. Een verkeerde methode om (eventuele) haperde gewasgroei in natuurgebieden aan te tonen. Dat doe je met grondmonsters, net zoals boeren dat doen.