09-06-2014
Review door Patrick Vermeren
Lees hier het volledige artikel.
Dit artikel betreft een uitgebreide review van het 70:20:10 framework (Jennings). Het is zo uitgebreid omwille van het belang (sommige organisaties overwegen een grote reorganisatie van hun opleidingsbeleid) en de complexiteit van de behandelde materie.
Deze review bevat een kritisch overzicht van de cijfers, de beweringen en de adviezen, allen gebaseerd op zorgvuldig onderzoek en het raadplegen van de originele bronnen waar voorhanden.
Dit artikel bevat meer dan de 4 klassieke evaluatiestappen die Lilienfeld et al. (2010) voorstelden en waarop de meeste van onze evaluaties gebaseerd zijn (zie bijvoorbeeld ‘leerstijlen’). Het artikel bevat omwille van de uitgebreide informatie ook een schematische evaluatie en een ‘executive summary’.
Met dank aan Academia Press die mij toestemming verleende om teksten uit mijn boeken te gebruiken en bewerken in deze evaluatie. Een bijzonder woord van dank gaat uit naar Bernd Carette van de Universiteit van Gent die zeer behulpzaam was in het verschaffen van informatie, onderzoeksartikels en uitgebreide commentaren. Dank ook aan commentaren geleverd door Maaike Maes (PerCo), Pedro De Bruyckere (pedagoog en onderzoeker aan de Arteveldehogeschool), Elke Reekmans (vrijwilliger vzw), John Vos (lid van Skepp), Patrick Cockx (advocaat) en Maarten Boudry, filosoof verbonden aan de Universiteit van Gent en tevens lid van Skepp.
Het framework is een idee van de Australische ingenieur Charles Jennings. Jennings schreef er een boek over ( 70:20:10 framework explained) en beheert ook een website (The 70:20:10 forum). Beide bronnen werden zorgvuldig geraadpleegd en onderzocht.
Het framework is volgens Jennings een “abstract denkkader” dat organisaties moet helpen hun leren beter te organiseren.
Volgens het framework leren we :
(* = Hoewel Jennings beweert dat de cijfers niet belangrijk zijn, zet hij vaak het percentage teken (‘%’) achter de cijfers in zijn teksten en slides en verwijst hij naar onderzoek die de cijfers zouden moeten staven).
Er zijn diverse beweringen die we hierna bespreken.
Het model beschrijft hoe volwassenen zouden leren (in organisaties). Jennings stelt ook dat het helpt om ontwikkelingsacties te structureren. Het model stelt dat organisaties “standard operating processes” moeten implementeren om te leren van ‘experiental learning’. Het gaat daarbij uit van het idee dat je meer leert door iets te doen dan door andere leervormen. Zelfs sociaal leren zou beter zijn dan formeel leren. Het zou organisaties helpen om strategisch na te denken over leren en leren op de werkplek, om zo informeel leren beter te structureren en formeel leren te verminderen.
Op de website adviseert men dat organisaties op verschillende manieren invulling kunnen geven aan leren en dat men formeel leren (bijv. klassikale opleidingen) niet overboord mag gooien. Toch krijgen bedrijven de sterke suggestie om de hele leerstrategie teherbekijken (“revising your entire learning strategy”; “refocus their strategy, planning and resourcing efforts onto workplace learning whilst not losing the benefits of away-from-work learning”) en het framework daarvoor als referentiekader te hanteren. Charles Jennings schrijft dat bedrijven hem ‘melden’ dat zij tot 75% bespaarden op formeel leren en tegelijk een ‘high performing organisation’ werden.
Een andere belangrijke bewering is dat ervaringsleren op de werkplek een versnelling van het leren zou inhouden: “workers need to learn at the speed of business” (bron: toolkit op de website en het boekje “70:20:10 framework explained”).
Jennings stelt dat het louter om een framework gaat omdat het richtlijnen biedt. De cijfers betekenen volgens hem dan weer niet veel: ze zijn louter een ‘geheugensteuntje’ en niet belangrijk (website, boekje en persoonlijke correspondentie). De 70:20:10 wordt ook omschreven als een ‘meme’: memen zijn ideeën die zich door de populatie verspreiden zoals genen (de term werd voor het eerst gebruikt door Richard Dawkins in zijn boek ‘The Selfish Gene” om de evolutie en verspreiding van culturele evolutie te verklaren). Enigszins contradictorisch met zijn stelling dat het framework richtlijnen biedt stelt Jennings echter ook dat de verhouding 70:20:10 geen recept of voorschrift is en verder ook: “de cijfers zijn niet belangrijk” (bron: “Ten 70:20:10 FAQs” van het 70:20:10 framework, blz. 15). Wat is het nu? Een richtlijn of niet? Waarop slaan de cijfers dan?
Het is dus onduidelijk waarom de cijfers als uithangbord gebruikt worden, daar waar Jennnigs zelf schrijft dat deze niet belangrijk zijn. In correspondentie met hem stelde ik hem de vraag waarom hij dan de cijfers opneemt in zijn benaming, maar daarop antwoordt Jennings niet. Contradictorisch genoeg doet Jennings een grote inspanning om de origine van deze cijfers aan te tonen en te verwijzen naar referenties in zijn website en zijn boek. Waarom zoveel moeite als de cijfers niet belangrijk zijn?
Het marketingapparaat achter Jennings’ zijn framework draait vandaag op volle toeren. Hij geeft wereldwijd lezingen om zijn framework actief te verspreiden. Zo ook werd in oktober 2013 een seminarie in België georganiseerd waar hij kwam spreken (enigszins cynisch, want presentaties behoren tot “the 10”). Het resultaat enkele maanden later zal u niet verbazen: bedrijven passen het framework integraal toe op hun beleid zonder grondige evaluatie. Met de crisis die nog nazindert, past deze overtuiging natuurlijk binnen de trend om kosten te besparen en dus formele trainingen af te bouwen of stop te zetten.
Wat zijn de grootste problemen met dit framework? |
|
Wat zegt de ‘body of knowledgeable experts’ (de academici die zich specialiseren in het domein)? | Dat de verhouding 70%/20%/10% helemaal niet klopt. Dat het niet berust op degelijk empirisch onderzoek. Dat de verhoudingen ook niets zeggen over de effectiviteit van het leren. Enkele academici stellen zelfs onomwonden dat het folklore is of een urban legend.Bovendien is het eentypisch voorbeeld van de ”is/ought” denkfout (‘Hume). Het is niet omdat men verhoudingen vindt, men deze ook omgekeerd, als voorschrift kan hanteren. Wetenschapsfilosofen herkennen onmiddellijk deze drogreden of dwaling.Wetenschappers die Jennings bedankt voor ‘hun bijdrage’, zoals Morgan McCall nemen openlijk afstand van het model. |
Is Jennings een autoriteit op het gebied van informeel leren of werkplekleren? | Niet naar onze (academische) normen. Jennings is een ingenieur (Master of Science in Engineering) die zich professioneel lang bezig hield met de technologische kant van e-learning. Hij geeft toe dat hij de meeste van de onderzoeksartikels die hij als basis voor zijn framework gebruikt niet in zijn bezit heeft. Hij geeft ook toe dat er geen enkel empirisch onderzoek naar het 70:20:10 framework is verricht.De experts in de domeinen van leren en leren in organisaties, inclusief informeel leren, kennen Jennings niet, laat staan dat ze hem als (mede)expert erkennen. |
Hanteert Jennings dezelfde definities? | Neen, Jennings hanteert andere definities dan psychologische wetenschappers. ‘Experience’ slaat bij hem op “day to day tasks, challenges and practice”. Wetenschappers zien uitdagende taken, after event reviews (reflective learning) en feedback ook als ‘experience’. Hij gebruikt ‘informal’ en ‘experience’ voortdurend door elkaar als hij naar ‘de 70%’ verwijst. Informal learning is een veel breder begrip.Exposure is een term die wetenschappers naar leren niet hanteren. Exposure is een begrip dat gebruikt wordt in de klinische psychologie, waarmee bedoeld wordt het zich blootstellen aan stimuli, bijvoorbeeld om angst ervoor te overwinnen (bijv. exposure aan spinnen). |
Klopt de 70:20:10 verhouding? | Neen, de cijfers kloppen niet. Ze zijn niet op basis van degelijk (empirisch) onderzoek verkregen maar geven weer wat mensen veronderstellen. Sommige verwijzingen zijn onwaar (het US Bureau of Labor Statistics heeft deze cijfers niet in het bewuste rapport staan!).Enos et al. gebruikten ook subjectieve bevraging en komen tot een verhouding 16:44:30. Er zijn dus geen consistente resultaten of verhoudingen te vinden in publicaties.Beide manieren om cijfers te bekomen zijn bedenkelijke praktijken. Mensen kunnen dit niet beoordelen.Een erg belangrijke vaststelling is dat het niet is omdat 70% van wat de mensen leren uit informele hoek zou komen, dat ook 70% van de kennis verworven werd. Dat veronderstelt dat het rendement van informeel leren identiek is aan formeel leren, wat nergens is aangetoond.Als “guideline” of richtsnoer is het al helemaal een wilde gok: experten in het domein tasten nog volledig in het duister over de juiste mix tussen de twee. |
Snijdt het argument van Jennings hout dat het ‘maar een abstract framework’ is en dat de cijfers niet belangrijk zijn. | Neen, want hij tracht de cijfers te onderbouwen en zet na de cijfers vaak percentages. Dit is allesbehalve abstract en is misleidende retoriek. Het gevolg is trouwens dat de meeste organisaties wel degelijk de cijfers als richtsnoer zien. |
Is het betoog van Jennings coherent? | Neen, verre van want hij spreek zichzelf meermaals tegen. Zie dit voorbeeld uit de website:“70% of what people know about their jobs, they learn informally from the people they work with.” (dit is Experience – the 70 / passage door mij onderlijnd)Elders schrijft hij echter steeds dat leren van anderen tot Exposure (the 20) behoort, bijvoorbeeld: “20% from people (mostly the boss).Zo zijn er tal van incoherenties en eigen definities. |
Zijn dit actuele cijfers? | Neen, sterker nog, er zijn sterke aanwijzingen dat zowat iedereen blind is blijven verwijzen naar een verhouding die Allen Tough heeft voorgesteld rond 1970. Wat toen werd vastgesteld op basis van de praktijken van toen, is nu met de geavanceerde en gevorderde ontwikkelingsmethodieken niet noodzakelijk het geval. |
Heeft Jennings het over de juiste doelgroep? | Neen. Jennings verwijst vaak naar onderzoek naar informeel leren, maar dit vond bijna zonder uitzondering plaats bij leidinggevenden, meestal nog succesvolle leiders van hoog niveau: McCall (2004) veronderstelde dat ervaring de belangrijkste leerervaring was voor leidinggevenden op topniveau. De bevindingen zomaar overzetten naar andere populaties is verkeerd, want deze kunnen over andere persoonlijkheidskenmerken beschikken (bijvoorbeeld lagere intellectuele capaciteiten, minder extravert, minder op leren georiënteerd, minder gemotiveerd…). |
Kan je leren versnellen door informeel leren of door meer aandacht te geven aan ‘experience’? | Neen, snelheid van leren is een zuiver individuele kwestie en het tot nu toe enig relevante gevonden element daarin is je cognitieve vermogen (cognitive ability – of anders gezegd je intelligentie of je vermogen om te leren). |
Leren mensen meer door “experiental learning”, ‘learning by doing” of “action learning”, of informeel leren (dan formele trainingen)? | Neen. Een aantal termen worden bovendien door elkaar gehaspeld: informeel leren is breder dan experiental learning of learning by doing.Bovendien is er geen vergelijkende studie bekend waarbij experiental learning & learning-by-doing wordt vergeleken met formeel leren. De claim dat men beter leert dan via formele kanalen is dus onbewezen. Voor bepaalde opzetten werkt learning-by-doing niet beter: het dieper leren waardoor mensen het geleerde gaan toepassen (transfer) wordt in een aantal gevallen gehinderd. Mensen beschikken over een beperkt werkgeheugen en teveel dingen tegelijk moeten doen - zoals zelf uitproberen - kan voor ‘cognitive overload’ zorgen, zo blijkt uit onderzoek naar “cognitive load theory”.Informeel leren vindt wel degelijk plaats, maar over de effectiviteit ervan en de effecten op (financiële) prestaties van organisaties is nog niets bekend. Het wetenschappelijk onderzoek ernaar worstelt met methoden en hoe de effecten ervan te onderscheiden van andere elementen.De effecten van formeel leren zijn goed te onderzoeken en ook onderzocht: deze effecten zijn behoorlijk groot te noemen.Er is ondertussen ook aangetoond dat onderricht door volwassenen beter werkt dan ‘discovery learning’ bij kinderen – een mythe die werd in het leven geroepen door Piaget. |
Leren mensen alleen maar de juiste dingen via informeel leren? | Neen, dat is een van de gerapporteerde problemen: mensen kopiëren ook vaak verkeerde gedragingen of procedures. Dat heb je minder onder controle. |
Moet je het aandeel formele training verminderen? | Neen, goede programma’s die gebaseerd zijn op evidence based inhoud en evidence based methodes hebben hun nut bewezen. Er is onderzoek dat een positief verband aantoont tussen training en financieel succes (er zijn indicaties van een oorzakelijk verband). Succesvolle bedrijven zoals Southwest Airlines investeren juist meer in formele training. Hiermee willen we geenszins zeggen dat informeel werken niet mag gefaciliteerd worden, integendeel. |
Kan je tot 75% kosten op formele training besparen zonder er als organisatie op achteruit te gaan? | Neen. Wellicht kan je wel besparen, maar mogelijks is de kostprijs van het verlies aan competitiviteit en aantrekkelijkheid als werkgever veel groter dan de gerealiseerde besparing, want ‘training en development’ zijn één van de vier hoofdingrediënten van HPO’s (High Performance Organisations) of High Performance Practices. Andere wetenschappers begroten informeel leren ook als enorm kostelijk: de werkuren van zowel de lerende als de begeleider/mentor moeten ook meegeteld worden.Een betere strategie kan er uit bestaan om je huidig opleidingsaanbod grondig te evalueren op degelijkheid en effectiviteit.Ga voor een evidence based benadering: meer informatie vindt u in het trefwoordenregister op deze website. |
Kan je informeel leren ‘boosten’? | Hier is alsnog geen bewijs voor. Zoals vermeld, je kan het leren niet bevorderen maar je kan wel een aantal dingen doen, maar veel beperkter dan het lijstje dat Jennings voorstelt.
Dit zijn voorlopig de enige zaken waarvan bewezen is dat ze een bijdrage leveren aan de ontwikkeling van medewerkers, in hoofdzaak leidinggevenden. |
Moet je informeel leren organiseren en structureren zoals gesuggereerd wordt door 70:20:10? | Neen, structureren helpt vooral bij onervaren mensen en bij mensen met lagere intelligentiescores. Bij mensen met een bovengemiddelde intelligentie (hoge G-score) of veel ervaring is het aanbieden van teveel structuur juist een probleem voor het leerproces. Maar de meeste wetenschappers definiëren informeel leren net als een minder gestructureerde aanpak dan bijvoorbeeld klassikale training.De grootste positieve veranderingen in prestaties doen zich de eerste 6 jaar in een nieuwe functie of organisatie voor, maar om te spreken van expertise vergt dit gemiddeld 10 jaar of meer, zeker in functies met hoge complexiteit.Je kan wel methodes zoals “After Event Reviews” (AER – gestructureerd reflecteren over voorbije ervaringen) implementeren, uitdagende opdrachten bezorgen aan carrièrestarters en zorgen dat er goede (geautomatiseerde) feedbacksystemen voorhanden zijn. De vraag is of dit nog informeel leren is? |
Jennings somt een hele lijst op, maar deze lijkt eerder het resultaat van een brainstorm of giswerk. Hij overschat schromelijk de rol van het gewone dagelijks werk (day-to-day tasks – deze houden geen ‘voldoende uitdaging’ in) en zelf doen (practice). Dat dit beter zou werken dan andere vormen van leren wordt niet ondersteund door wetenschappelijk onderzoek.
We dienen te wijzen op enerzijds de wettelijke definitie van formeel en informeel en anderzijds de definitie zoals gehanteerd door de experten ter zake. Ten derde moeten we ook kijken of Jennings hetzelfde bedoelt.
Jennings gebruikt een hele resem aan beïnvloedingstechnieken om zijn publiek te overtuigen:
In tegenstelling tot wat Jennings beweert in zijn boek (blz. 18), heeft Tough wel degelijk verwezen naar de 70:20:10. De geciteerde zin uit vorige paragraaf wordt namelijk onmiddellijk gevolgd door deze:
“It turns out that only 10% of the adult’s learning effort occur though courses, classes and workshop led by professionals. Another 7% are guided by a professional helper in a one-to-one situation and 3% are largely guided by professionally-prepared materials. All-in all, then, only 20% of the adult’s learning efforts are professionally guided. By contrast, 73% of them – the more difficult ones to recall – are self-planned.”
Als de interviews niet gestructureerd verliepen maar door creatief (?) te peilen (creatively probing) en ontspannen te luisteren (leisurely listening), moeten we de gerapporteerde cijfers geheel in vraag stellen. Het artikel bevat geen enkele tabel met cijfermateriaal of statistische analyses; de cijfers worden door Tough in de tekst beschreven:
“About 90% of all women and men initiate and conduct at least one major deliberate learning effort a year.” (blz. 3). Dat 90% van alle mensen zelf een leerinspanning zouden starten, betekent echter geenszins dat deze leerinspanning effectief is.
Verder schrijft Tough in deze paper (blz. 17) dat het voornaamste patroon is dat mensen leerepisodes met actie-episodes alterneren:
“Learn and then apply, learn and then apply, and so on”.
Tough’s besluit :“Research has clearly demonstrated that almost every professional spends an enormous amount of time at job-related self-planned learning efforts. Surely we should give credit for these, instead of giving credit merely for sitting in certain rooms at certain times’. (blz. 26)
Met vertrouwen kan dus gesteld worden dat de manier waarop Tough zijn onderzoek deed, als methodologisch slecht kan beschouwd worden (aantallen zijn niet vermeld, interviews verlopen niet gestructureerd, er zijn geen tabellen voorhanden, er komen voortdurend geschatte percentages in voor).
Het totale gebrek aan verwijzingen door academici naar het werk van Allen Tough is ook een goede indicatie dat wetenschappers diens onderzoek niet ernstig nemen.
Uit deze vragen bleek dat de werkgevers 16% formele training rapporteerden en 96% informele training (de drie activiteiten in de vragen a, b en c hiervoor – noteer ook dat 16% + 96% niet moeten worden samengevoegd omdat het niet om een verhouding gaat – bij Jennings is 70:20:10 wel samen 100%).
USBLS schrijft dat de variatie in de cijfers tussen de 4 datasets onderling groot is. Bovendien is de variatie in de cijfers van informele training groter dan de gerapporteerde cijfers van formele cijfers:
“The variation in informal training incidence across data sets is even greater than the variation of formal training incidence, ranging from sixteen to twenty percent in the CPS and the NLS-72 to ninety-six percent in the EOPP.”
Met andere woorden: werkgevers rapporteren veel meer informele trainingsuren dan andere bronnen (de huishoudens en werknemers). Waarom citeert Jennings dan deze bron en stelt hij dan dat “ongeveer 70% van wat mensen leren informeel gebeurt”?…
Maar het belangrijkste: Dobbs verwijst naar Stamp, die naar EDC verwijst, die naar het USBLS verwijst, … die deze cijfers nooit zo poneerden. Heel wat wetenschappers (zoals Tannenbaum) hebben dit vervolgens ook gedaan. Of hoe de ene bron blind voortbouwt op de andere bron zonder dit grondig na te gaan door de originele studies te raadplegen en met als gevolg een ernstige vervorming van de feiten en de conclusies. |
Wat zeggen de researchers zelf? Morgan W. McCall schrijft in 2010:
“Somewhat less certain is the resulting folklore that there is a “70-20-10 rule” (I have not found an original published source, though the percentages clearly come from data reported in McCall et al. (1988) and Lindsey, Homes, and McCall (1987) that “experience” should consist of 70% challenging assignments, 20% other people (in the original data these “other people” almost always were either excellent or terrible bosses and senior executives who, more often than not, were neither good coaches nor mentors), and 10% programs.”
Het gaat hier dus enkel over een schatting en McCall zelf noemt de 70:20:10 rule folklore! Dramatisch is wel dat Jennings deze cijfers een compleet andere invulling geeft:
Jennings | McCall |
70% experience: learning and developing through day-to-day tasks, challenges and practice(maar ook Jennings spreekt zichzelf tegen:)70% of what people know about their jobs, they learn informally from the people they work with | Experience “should” come from70% challenging assignments20% other people: excellent or terrible bosses and senior executives10% programs |
20% exposure: learning and developing with and through others form informal coaching, exploiting personal networks and other collaborative and co-operative actions
|
Geen sprake van exposure of formeel leren. Bij McCall gaat het enkel over hoe mensen ervaring opdoen. |
McCall zegt dus niet dat het “leren” zou moeten bestaan uit 70:20:10 of dat men de regel 70:20:10 zou moeten volgen. Het door elkaar haspelen van de terminologie is voortdurend een groot probleem in de beweringen van Jennings.
McCall werd bovendien door mij schriftelijk gecontacteerd en dit is wat hij schrijft (11 april 2014):
“To the best of my knowledge 70-20-10 was coined by my colleague Mike Lombardo after he left CCL to co-found Lominger, and was roughly based on the proportions of experiences (self) reported by “successful” executives in our early interview and survey research that eventually became The Lessons of Experience. The actual data were reported in a technical report published by CCL in 1987 (Lindsey et al.) that is no longer available.
…/…
I’m not particularly interested in 70-20-10 and I am not familiar with Jenning’s framework. “
Let op de woorden “roughly” en het feit dat het bovendien om interviews ging met “successful” executives.
De huidige stand van zaken gaat uit van leren als een informatieverweringsproces (Berk, 2014) en sommigen maken het onderscheid tussen twee verschillende manieren van leren: open systemen en gesloten systemen (zie verder: ‘hoe leren volwassenen’?).
Het 70:20:10 framework suggereert meermaals (vooral door percentages te hanteren dat deze gevonden verhoudingen als richtsnoer moeten gebruikt worden. Jennings verwijst naar Jay Cross en deze laat er geen enkele twijfel over bestaan:
“The 70-20-10 model is more prescriptive. It builds upon how people internalise and apply what they learn based on how they acquire the knowledge. 70% from real life and on-the-job-experiences, tasks and problem solving. 20% from feedback and from observing and working with role models. 10% from formal training.”
Omdat zij deze verhoudingen in bepaalde bronnen in de Verenigde Staten menen te vinden (zie het bedenkelijk karakter van de cijfers), draaien zij de redenering meteen om en gebruiken ze dit als prescriptief (is/ought). Het is in die zin ook verwant aan de naturalistische drogredenering waarbij men stelt dat wat men vindt als iets wat “natuurlijk” is, ook meteen gaat bestempelen als “goed”. Het puren van een voorschrift of referentiekader (‘framework’) uit vaststellingen is slechte wetenschap, en dit geldt evenzeer voor het 70:20:10 framework (los van het probleem dat de cijfers ook nog eens onbetrouwbaar zijn). Let ten slotte in het citaat van Jay Cross ook op een tweede fout: hij hanteert plots de cijfers niet meer als descriptief (namelijk “waar” mensen rapporteren dat ze het meeste leren - op de werkplek, in training…) maar plots zelfs verklarend: Jay Cross vervang namelijk “waar mensen leren” door “hoe mensen leren” (het woordje “how” in het citaat). Dit is een ernstige logische fout.
Tenslotte kunnen we stellen dat de cijfers een eigen leven zijn beginnen leiden en dit valt mogelijks te verklaren door het priming-effect van referentieniveaus dat ertoe leidde dat 70:20:10 zulk een hardnekkig idee werd (zoals een melodietje dat je niet uit je hoofd kan zetten). Iedereen bleef blind deze cijfers herhalen en er naar refereren.
Laat ons eens kijken of er academici zijn die ook dergelijk huzarenstukje van verhoudingen of correlaties hebben trachten tot een goed einde te brengen. Bernd Carette bezorgde mij onderzoek van Enos et al. (2003). Zij komen op basis van het in kaart brengen van perceptie ook tot een cijferdans. Ze bevroegen (slechts!) 84 managers uit (slechts!) één Amerikaans bedrijf: ze vroegen deze mensen om in te schalen of hun managementvaardigheden vooral geleerd werden door informeel leren of door formeel leren. Behalve het feit dat er met vragenlijsten werd gewerkt in tegenstelling tot de ‘vrije interviewmethode’ die Allen Tough hanteerde, blijft het dus een problematische praktijk die onbetrouwbare antwoorden oplevert, omdat men duidelijk naar de perceptie van de mensen vraagt. Dit zijn hun cijfers:
Ook al zijn ook deze cijfers niet betrouwbaar omwille van beperkt aantal bevraagde mensen, het feit dat ze allen uit één bedrijf komen en de gebruikte methode, zij laten een totaal ander beeld zien dan het 70:20:10 framework. Deze cijfers zouden dus in het experience/exposure/education framework een volkomen andere verhouding of ‘framework’ opleveren: 16:44:30 (de chronologie van Jennings werd gerespecteerd) waarbij 16% afkomstig is uit ervaring (23% van 70%), 44% uit de loutere interactie met anderen (63% van 70%) en 30% uit formele training. De overige 10% worden niet in kaart gebracht. Het verschil op basis van deze twee bevragingen naar perceptie is enorm en dus zou formele training (30%) twee keer zo belangrijk zijn als informeel leren (16%). Neemt u dit vooral niet ernstig. Nogmaals, wat mensen percipiëren is een onbetrouwbare bron van bewijs. Bovendien gaat dit onderzoek (opnieuw!) alleen maar om het verwerven van ‘managementvaardigheden’ en mogen we niet concluderen dat dit voor alle vaardigheden zou gelden. Leidinggevenden scoren bijvoorbeeld hoger dan de gemiddelde bevolking op vlak van extraversie (één van de drie elementen waarvan is aangetoond dat ze impact hebben op leren, zie elders in de tekst). Tenslotte zeggen deze cijfers opnieuw niets over de effectiviteit (hoeveelheid), efficiëntie (snelheid) of hoe mensen leren.
Men kan alleen maar vaststellen dat er geen consistente en betrouwbare cijfers te vinden zijn in de verschillende bronnen.
Belangrijk blijft echter te blijven beseffen dat waar men leert niet betekent dat men ook effectief leert.
Ongestructureerde interviews (zoals uitgevoerd door Allen Tough in 1968 en de jaren 1970 of het USBLS) zijn een vorm van kwalitatief onderzoek dat sterk onderhevig is aan bias of oordeelsvervorming bij de onderzoeker. Dat valt niet te vergelijken met empirisch onderzoek dat gebruik maakt van meer objectieve metingen dan zelfrapportering.
Interviews met retrospectieve bevraging zijn onderhevig aan tal van problemen: vergissingen in herinnering, geheugenvervorming, beperkte herinnering, rationalisatie, impressiemanagement, verkeerde attributies, vatbaarheid voor context en externe verstoringen, de aard van de vraagstelling, de identiteit van de interviewer, sociale wenselijkheid, interviewer bias en willekeur van de evaluatie en beschrijving van subjectieve waarneming. (bijv. Ericsson & Simon, 1980; Conti & Pudney, 2008; Duncan, 1979; Fredrickson & Kahneman, 1993; Kahneman et al., 1993; Kristoffersen, 2010; Loftus, 1994; 1996; Tversky & Kahneman 1981; Wolfe & Jackson, 1987; Zhou, 2012)).
Allen Tough geeft zelf toe (1979) dat de ondervraagde personen het heel moeilijk hadden om zich te herinneren hoe ze dingen hadden geleerd en dat hij hen moest stimuleren, ondermeer door ‘creative probing’. Het subjectief herinneren van gebeurtenissen is zeker het grootste probleem in deze context. Wellicht het meest spraakmakende werk werd verricht door psychologieprofessor Elisabeth Loftus , die bijna haar hele wetenschappelijke carrière wijdde aan onderzoek naar valse herinneringen in het kader van gerechtelijke dwalingen. Ze realiseerde meer dan 200 experimenten met meer dan 20.000 proefpersonen waarbij ze aantoonde hoe misinformatie kan leiden tot valse herinneringen en valse beschuldigingen. Op haar website geeft ze een overzicht van bekende gevallen van het inplanten van valse herinneringen (http://faculty.washington.edu/eloftus/Articles/sciam.htm ).
Een bevraging van de perceptie kan hoogstens gebruikt worden in wat men in wetenschap de context of discovery noemt: dit is de fase waarbij men eerst patronen tracht te ontdekken. Dit exploratief onderzoek probeert eerst gebeurtenissen in de werkelijke wereld te observeren (dit kan door diepte-interviews) en patronen te ontwaren. Dit kan echter hoogst bedrieglijk zijn, dus moeten wetenschappers nadien nog steeds hypotheses gaan formuleren en met zorgvuldig opgezette experimenten gaan toetsen of deze wel kloppen (confirmatie of falsificatie): dit noemt men de context of justification.
Niet alleen zijn hun onderzoeksmethoden problematisch, door de descriptieve vaststellingen te gaan beschouwen als een voorschrift, zijn deze mensen in de valkuil verwant aan de naturalistische dwaling (of de is/ought drogredenering) getrapt.
Enkele voorbeelden hoe onbetrouwbaar zelfrapportering kan zijn:
Kahneman & Krueger (2006, blz. 3) vatten het als volgt goed samen:
“A large literature from behavioral economics and psychology finds that people often make inconsistent choices, fail to learn from experience, exhibit reluctance to trade, base their own satisfaction on how their situation compares with the satisfaction of others and depart from the standard model of the rational economic agent in other ways.”
Met andere woorden: aan retrospectieve bevraging kan weinig waarde worden gehecht, of het nu gebeurt met de hoogst betwistbare interviewmethodes die Tough en McCall gebruikten of de vragenlijsten zoals door Enos et al. gebruikt.
Zoals gezegd verwart Jennings voortdurend termen die door wetenschappers anders worden gebruikt:
Allemaal zeer slordig en niet consistent.
De teksten op de website of het boekje van het 70:20:10 framework staan bol van tegenstellingen.
In het boekje en op de website stellen we bijvoorbeeld volgende contradicties vast:
70:20:10 is een richtsnoer, framework, strategieJennings verwijst naar Jay Cross die stelt dat het model wel degelijk “prescriptive” is. | Het is geen recept of voorschrift. De cijfers hebben geen belang. |
De cijfers komen van diverse wetenschappelijke bronnen: Tough, USBLS, EDC, McCall, Lombardo & Eichinger. | De cijfers zijn niet belangrijk; ze zijn een geheugensteuntje; ze zijn een meme. |
70 = experience (breder begrip) | 70 = learning by doing of nog: “The 70 – Implementing Experiental Learning” |
Exposure (the 20): learning and developing with and through others from informal coaching | 70% of what people know about their jobs, they learn informally from the people they work with |
Bedrijven herzien hun hele opleidingsstrategie. Door het formeel leren te verminderen besparen zij tot tot 75% op formeel leren. | Formeel leren is een onderdeel van het framework dat niet mag verwaarloosd worden. |
Jennings blijft beweren dat de cijfers niet belangrijk zijn en dat er een verschil is tussen ‘een model’, een ‘regel’ (rule), een ‘framework’ of ‘reference model’. Na gevraagd te hebben wat zijn definitie en het onderscheid dan wel is, stuurt hij me een mail met een definitie die hij uit een document van een Australische overheidsdienst haalt, met name het ‘Department of Finance and Administration” (dit document stuurt hij als bijlage mee):
“Reference Models
An abstract framework for understanding significant relationships among the entities of a specific environment, and for the development of consistent standards or specifications supporting that environment. A reference model is based on a small number of unifying concepts and may be used as a basis for education and explaining standards to a non-specialist. A reference model is not directly tied to any standards, technologies or other concrete implementation details but it does seek to provide a common semantic that can be used unambiguously across and between different implementations.” (vet door mij toegevoegd)
Ik kan niet akkoord gaan met deze semantische verwarring. Jennings noemt zijn referentiemodel het “70:20:10 framework” en cijfers zijn allesbehalve abstract. Meer nog, in zijn slidepresentaties zet hij een ‘%’ na de cijfers: Zeker wanneer hij de link maakt met de geschatte cijfers in de McCall studie die hij als dé origine van zijn framework ziet. Door deze Babylonische spraakverwarring wordt gewild of ongewild mist gespuid. Een sluitend antwoord waarom de misleidende cijfers dan in de naam van zijn framework zitten, verschaft Jennings niet.
En ten overvloede: ook Jennings of Cross schijnen niet te beseffen dat ze in de is/ought dwaling zijn verzeild geraakt: wat men louter vaststelt (descriptief) kan men niet gebruiken als regel, framework, voorschrift of wat dan ook.
(noot vooraf: wetenschapsfilosofen hanteren als vuistregel dat je eerst kijkt naar de experten in het vakgebied, vervolgens naar convergentie enz. Dit is dus geenszins een autoriteitsargument).
Zij benadrukken dat als de omgevingsfactoren in de organisatie niet in orde zijn voor formeel leren, ook niet veel van informeel leren moet verwacht worden. Deze omgevingsfactoren zijn onder andere toewijding, goede feedback, steun vanwege de leidinggevende, een cultuur die leren en experimenteren (inclusief fouten maken) promoot. Maar nogmaals ter herinnering, het betreft hier het ontwikkelen van leidinggevenden.
Jennings doet minstens de suggestie dat volwassenen op een bepaalde manier leren die zou afwijken van kinderen of adolescenten. Hij vraagt zich namelijk meermaals af hoe ‘volwassenen’ leren, niet hoe ‘mensen’ leren. Wat is daar van aan?
(De bronnen in deze paragraaf worden niet opgenomen in de bronnenlijst), maar staan allemaal in het boek ‘Rond Leiderschap’).
1 alle deelnemers moesten op voorhand een motivatiebrief schrijven, waarin ze moesten melden waarom deze interventie belangrijk was voor hen. Enkel gemotiveerde deelnemers werden toegelaten;
2 in een eerste opleiding van twee dagen (12u in totaal) werd gewerkt rond vijf belangrijke thema’s:
i. het vermogen om zijn eigen emoties en die van anderen te herkennen;
ii. het vermogen om emoties te begrijpen, inclusief wat eraan vooraf gaat en wat de gevolgen zijn;
iii. het vermogen om emoties op een sociaal aanvaardbare een adequate manier te uiten;
iv. het vermogen om zijn eigen emoties te reguleren en om te gaan met die van anderen;
v. het gebruiken van emoties om zijn denken en acties te verbeteren;
3 Elke dag kregen de deelnemers reminders en opdrachten. In de training werd gewerkt met de BMT-principes (behavior modeling training, zie vorig hoofdstuk);
4 Daarna werden de deelnemers via een internetapplicatie opgevolgd gedurende een maand: de deelnemers kregen tweemaal per week een mail om hen aan te moedigen om een onderdeel van het geleerde proberen toe te passen;
5 Als laatste stap in dit traject namen de deelnemers opnieuw deel aan een sessie van een halve dag (drie uren), waarbij ze een opfrissing kregen van het materiaal van de eerste twee trainingsdagen, gevolgd door discussies en feedback.
Het dient gezegd te worden dat er een aantal potentiële problemen waren met deze studie. Ten eerste was het zo dat het allemaal ging over sterk gemotiveerde mensen. Of de veranderingen bij niet gemotiveerde mensen zouden plaatsvinden kan onmogelijk worden afgeleid. Ten tweede werd er enkel vergeleken met een controlegroep die geen training kreeg. Daarmee valt niet uit te sluiten dat de verbeteringen vooral te wijten zijn aan een placebo-effect. Om dit te onderzoeken zou ook moeten gewerkt worden met een derde groep namelijk een groep die een placebo-effect krijgt toegediend, bijvoorbeeld een interventie waar enkel in groep gediscussieerd wordt. Een derde mogelijke verklaring voor deze resultaten is de mogelijkheid dat mensen met een leeroriëntatie of meesterschapsoriëntatie een goede motivatiebrief schreven. Deze mensen leren van nature graag. Of dit op mensen met een andere doeloriëntatie hetzelfde effect zal hebben is nog de vraag.
(de bronnen in deze alinea staan allemaal vermeld in het Handboek Human Resource Management van prof. Lievens, met uitzondering van de drie laatste bullets – de bronvermelding staat in dit artikel.)
Het antwoord is ‘ja maar’. Je kan niet buiten een zorgvuldig opgezet programma met zowel bewezen methodes als met deugdelijke inhoud.
De fundamentele verwarring die het model veroorzaakt is dat men formele opleiding minder naar waarde zou schatten en dat informeel leren beter is, kan georganiseerd worden en zoveel sneller en effectiever zou zijn. De literatuur laat iets anders zien: er is een correlatie tussen het succes van een onderneming en de investeringen in formele training – hoe succesvoller de onderneming, hoe meer wordt geïnvesteerd in training:
(de meeste van de bronnen in deze alinea staan allemaal vermeld in het boek ‘Rond Leiderschap’ en worden hier niet herhaald))
Zoals eerder toegelicht is dit wel degelijk het geval. Er zijn verschillende veldstudies naar ervaringsleren waaruit blijkt dat we inderdaad ook in een professionele context of de werkplek leren (Carette et al., 2013; DeRue & Wellman, 2009; Dragoni et al., 2011; 2013; 2014; Tesluk & Jacobs, 1998). Dit gaat meestal over uitdagende taken en er is een soort van uitdovingseffect: vooral in het begin van de carrière leren mensen het meest. Kwalitatieve feedback kan deze afnemende positieve effecten enigszins compenseren. Op 17 mei 2014 vulde Bernd Carette nog aan: “Een van de centrale componenten van informeel leren is het opdoen van ervaringen (Tannenbaum et al., 2010). Over ervaringsleren is er wel al fundamenteel onderzoek gebeurd. Een toenemend aantal (inter)nationale studies geeft aan dat het opdoen van werkervaring leidt tot het ontwikkelen van essentiële job-gerelateerde vaardigheden en tot verhoogde prestaties. Vooral de mate waarin een job uitdagend is, blijkt hierbij van belang te zijn. Uitdagende jobs zetten mensen aan om te breken met de dagdagelijkse routines, wat op zijn beurt leidt tot het verwerven van bepaalde kennis en vaardigheden en verbeterde prestaties. Mijn eigen bevindingen - maar ook het werk van anderen - ondersteunen dus het idee dat we veel van wat we doen hebben geleerd door ervaring.”
“Onderzoek naar de effectiviteit van informeel leren an sich heb ik helaas niet. Het probleem hierbij is volgens mij dat er weinig consensus is over wat informeel leren precies is. Het wordt vaak gebruikt als containerbegrip waaronder elke vorm van ontwikkeling wordt begrepen die niet kan toegewezen worden aan deelname aan een formeel georganiseerd trainingsprogramma De effectiviteit van formeel leren is relatief eenvoudig na te gaan: is er een evolutie merkbaar in kennis/competenties/performance vóór en na deelname aan een training. Bij informeel leren ligt dit moeilijker aangezien er geen zo’n afgebakende interventie plaatsvindt; informeel leren is continu i.p.v. geïsoleerd.”Hoeveel en met welke effectiviteit mensen leren uit informele settings of ervaring, uit coaching of feedback of observatie valt dus moeilijk te onderzoeken. Dat er beter geleerd wordt op de werkplek wordt nergens bewezen en is zelfs heel onwaarschijnlijk. Dat er geleerd wordt op de werkplek is wel waarschijnlijk, maar met welke interventies je dat moet stimuleren en hoe je moet voorkomen dat mensen de foute dingen leren is een open vraag met voorlopig slechts heel beperkte suggesties.
Een ander groot probleem is het oprakelen van de mythe dat we zo goed als alles vooral zouden leren door zelf te doen. Dit is niet wat Allen Tough beweerde (cfr. zijn publicatie uit 1979) en is zeker niet wat Albert Bandura (Social Learning Theory: we leren door te observeren) of andere wetenschappers die leerprocessen bestuderen stellen. Het kan best zijn dat je voor bepaalde vaardigheden (zoals leren een backhand slaan in tennis, piano spelen) het veelvuldig oefenen erg belangrijk is, maar dat geldt niet voor alles wat we leren (bijvoorbeeld wiskundige berekeningen maken). Meestal volgt het oefenen trouwens na het formeel leren en instructies krijgen. Dat geldt evenzeer voor tennis als voor piano spelen overigens. Zoals gezegd leren kinderen nog steeds beter door onderricht door volwassenen dan door louter zelf te experimenteren (‘discovery learning’) (Berk, 2014).
De wetenschappelijke literatuur laat geen eenduidig beeld zien: er zijn experimenten die suggereren dat voor procedureel leren (hoe taken moeten worden uitgevoerd) het zelf moeten op zoek gaan naar regels en strategieën onder begeleiding (‘external guidance’ of ‘guided exploration’) leidt tot beter presteren in het omzetten naar de praktijk (Bell & Kozlowski, 2008k, Keith & Frese, 2008). Maar er zijn ook experimenten waarbij dit niet het geval is: Stull en Mayer (2007) bijvoorbeeld, gingen na of een groep met studenten die zelf tekst dienden te verwerken en er schema’s van maakten, beter leerden dan een groep die schema’s kreeg te zien van de auteurs van de tekst zelf. De studenten die de tekst zelf dienden te verwerken zonder hulp van schema’s deden er dubbel zo lang over dan de andere groep en bakten er ook minder van in een test die naar de transfer van het geleerde peilde: deze studenten konden het geleerde juist minder goed in de praktijk omzetten. De verklaring moet wellicht gezocht worden in cognitieve overbelasting: ons werkgeheugen is beperkt en wanneer er teveel prikkels of te grote complexiteit is, wordt het leren belemmerd (review door de Jong, 2009). Een beetje populair gesteld: multitasken en teveel complexiteit maken dat men niet goed leert. Leren door te doen is dus niet zo eenvoudig als het lijkt en waar alleszins grote consensus over bestaat is dat externe begeleiding en bepaalde formele elementen nodig blijven.
Het lijkt er sterk op dat Jenning aan zogenaamde cherry-picking heeft gedaan: enkel die bronnen aanhalen die op een of andere manier zijn cijfers bevestigen. Hij ging daarbij bovendien erg onzorgvuldig te werk en consulteerde veel van de door hem aangehaalde bronnen duidelijk zelf niet. Nooit werden deze cijfers op basis van empirisch onderzoek aangetoond. Dat de cijfers ook als “prescriptief” zouden moeten gebruikt worden, is nog veel minder bewezen. Ook nu nog tasten wetenschappers in het duister naar de juiste verhoudingen.
De conclusies van ingenieur Charles Jennings worden door academici in het psychologisch vakgebied niet gedeeld. Dat werkplekleren belangrijk is wordt niet ontkend, maar dat bedrijven hun opleidingsinspanningen drastisch zouden moeten verminderen is een oud, en bovendien zeer gevaarlijk en fout idee.
De academische wetenschappers hebben het over werkplekleren en het is duidelijk dat dit niet hetzelfde is als “zelf doen”; observaties van anderen en instructies krijgen op de werkplek horen daar evenzeer bij.
De ene professor noemt het dus een ‘urban legend’, de andere ‘folklore’, maar ernstig nemen ze deze ‘regel’ of dit ‘framework’ niet.
Ondanks bestaand onderzoek naar informeel leren, is nog weinig bekend over hoe dit leren plaatsvindt en hoe effectief dit is. Verschillende auteurs wijzen op de moeilijkheid om dit te onderzoeken (Tannenbaum et al., 2010) en wijzen er op dat er onvoldoende begrip is van hoe informeel leren nu eigenlijk werkt (Boud & Middleton, 2003; Skule, 2004). Er is ook geen eensgezindheid over een definitie tussen academici (Tannenbaum et al., 2010) wat wijst op een zekere wolligheid van het concept.
Wat het effect van werkplek leren is en hoe dit goed te onderzoeken, is het onderwerp van toekomstig onderzoek. Men zou daarbij, net als bij formele trainingsvormen, moeten werken met een opzet waar zowel een (experimentele) groep met mensen die informeel leerden als een controlegroep worden getest (pretest en posttest). Dat onderzoek zal eerder longitudinaal van aard zijn waarbij men mensen liefst over meerdere jaren volgt. De mensen dienen wel echter willekeurig te zijn toegewezen aan de experimentele groep of de controlegroep. Een andere manier is de manier die Kahneman suggereert: het verzamelen van informatie in real-time (bijvoorbeeld kunnen mensen gedurende enkele weken registreren wat ze aan het doen zijn en of ze iets leren – ze worden daarbij geholpen door een apparaat dat hen om de zoveel tijd herinnert dat ze moeten registreren: op die manier komt men tot een soort van dagboekonderzoek). Het meten van het echte effect is dus geen sinecure maar het lijkt erop dat van die vaagheid en onwetendheid over hoeveel en hoe effectief mensen leren op de werkplek nu misbruik wordt gemaakt om informeel leren – en in het bijzonder ‘leren door te doen’ een veel hogere effectiviteit toe te schrijven dan de huidige bevindingen toelaten.
De populariteit van dit ‘framework’ bestaat duidelijk bij gratie van (1) de belofte van een fundamentele besparing op formele training (tot 75% beweert Jennings) zonder aan kwaliteit in te boeten en (2) de nergens onderbouwde bewering dat mensen sneller zouden leren via de 70/experience: acties dan via de 20/exposure of 10/education acties. Dit laatste mogen we beschouwen als een compleet onjuiste bewering – de cognitieve capaciteiten zijn allesbepalend voor de snelheid van leren.
De 70:20:10 regel moet inderdaad als een meme worden beschouwd – maar dan wel als een kwalijke, want de cijfers zijn ongefundeerd en suggereren onterecht een verhouding en voorschrift en een hogere effectiviteit van de informele vorm dan de formele vorm. Populaire ideeën zijn niet noodzakelijk juist…
De belangrijkste lessen uit deze evaluatie van het model (ze zijn niet de verdienste van het 70:20:10 framework) zijn:
Maar om het met de woorden van de fout geciteerde Morgan McCall (2004, blz. 130) te zeggen: “There is no magic bullet here, nor a short list of to-do’s that will guarantee an adequate supply of leadership talent.” Het is leren door vallen en opstaan. Op basis van de huidige stand van de wetenschap kunnen we het volgende alternatief advies formuleren:
Start met een goede selectie.
Bied degelijke, evidence based trainingen en coaching aan.
Zorg voor een ondersteunende omgeving die leren belangrijk vindt en er ruimte voor maakt.
Faciliteer op een voorzichtige manier informeel leren (on-the-job leren).
Creëer leermomenten op volgende manier.
Belangenverklaring: Patrick Vermeren is naast auteur van boeken en artikels ook voorzitter van de vzw Evidence Based Hrm en medezaakvoerder van PerCo bvba, een dienstverlener inzake hr, voornamelijk trainingen, coaching en hr-advies.
De bronnen die geen onderzoek zijn, maar opinieartikels die verwijzen naar andere bronnen voor de cijfers, worden voorafgegaan door **
Adams, A.S., Soumerai, S.B., Lomas, J., & Ross-Degnan, D. (1999) Evidence of self-report bias in assessing adherence to guidelines. International Journal for Quality in Health Care 1999; Volume 11, 3, 187–192.
Alicke, M. D., & Sedikides, C. (2009) Self-enhancement and self-protection: What they are and what they do. European Review of Social Psychology, 20(1), 1-48.
Anseel, F., Lievens, F., & Schollaert, E. (2009). Reflection as a strategy to enhance task performance after feedback. Organizational Behavior and Human Decision Processes, 110, 23-35.
Arthur , W. , Jr. Bennett , W. Edens , P. S. Bell , S. T. (2003) Effectiveness of training in organizations: A meta-analysis of design and evaluation features. Journal of Applied Psychology, 88, 234-245.
Balanscentrale van de Nationale Bank van België (2008) Toelichtingsnota met betrekking tot de opleidingsactiviteiten opgenomen in de sociale balans. http://www.nbb.be/doc/ba/socialbalance/notice_formations_nl_4%20avril%202008.pdf
Bassi, L. J., & Van Buren, M. E. (1999) Sharpening the leading edge. Training and Development, 53 (1), 23–33.
Bell, B. S., & Kozlowski, S. W. (2008) Active learning: effects of core training design elements on self-regulatory processes, learning, and adaptability. Journal of Applied Psychology, 93(2), 296–316.
Berk, L.E. (2014) Development through the lifespan, sixth Edition. Pearson Education. New Jersey.
Boud, D., & Middleton, H. (2003) Learning from others at work: communities of practice and informal learning. Journal of Workplace Learning, 15(5), 194-202.
Braverman, J., Tom, M. A., & Shaffer, H. J. (2014) Accuracy of self-reported versus actual online gambling wins and losses. Psychological Assessment (online publication first)
Burke, T. A., McKee, J. R., Wilson, H. C., Donahue, R. M., Batenhorst, A. S., & Pathak, D. S. (2000) A comparison of time-and-motion and self-reporting methods of work measurement. Journal of Nursing Administration, 30(3), 118-125.
Campbell, J. P. (1970). Personnel training and development. (ERIC database, pp 78).
Carette, B. (2014) Towards a Better Theoretical Understanding of Learning from Experience in Organizations: An Integration of Cognitive and Motivational Explanations. Proefschrift Doctor in de Psychologie.
Carette, B., & Anseel, F. (2012) Epistemic Motivation Is What Gets the Learner Started. Industrial and Organizational Psychology, 5: 306–309.
Carette, B., Anseel, F., & Lievens, F. (2013) Does career timing of challenging job assignments influence the relationship with in-role job performance? Journal of Vocational Behavior, 83(1), 61-67.
** Center for Workforce Development / Education Development Center, INC. (1998) The Teaching Firm. Where productive work and learning converge. Report on research findings and implications. Newton, MA.
** Cross, J. (2011) A model of workplace learning. www.internettime.com
Dai, G., De Meuse, K., & Tang, K. Y. (2013). The Role of Learning Agility in Executive Career Success: The Results of Two Field Studies. Journal of Managerial Issues, 25(2), 108-131.
de Jong, T. (2009) Cognitive load theory, educational research, and instructional desing: some food for thought. Instructional Science, 38, 105 – 134.
DeMeuse , K. P. Dai , G. Hallenbeck , G. (2010) Learning agility: A construct whose time has come. Consulting Psychology Journal: Practice and Research, 62, 119-130.
DeRue, D. S., Ashford, S.J., & Myers, C.G. (2012) Learning agility: In search of conceptual clarity and theoretical grounding. Industrial and Organizational Psychology: Perspectives on Science and Practice, 5(3), 258-279.
DeRue, D.S., & Meyers, C. (2013) Leadership Development: a review and agenda for future research. Oxford Handbooks online.
DeRue, D. S., & Wellman, N. (2009) Developing leaders via experience: the role of developmental challenge, learning orientation, and feedback availability. Journal of Applied Psychology, 94(4), 859.
** Dobbs, K. (2000) Simple moments of learning. Training, 37,1, 52 – 58.
Dragoni , L. Oh , I. VanKatwyk , P. Tesluk , P. E. (2011) Developing executive leaders: The relative importance of cognitive ability, personality and the accumulation of work experience in predicting strategic thinking competency. Personnel Psychology, 64, 829-864.
Ellis , S. Davidi , I. (2005) After-event reviews: Drawing lessons from successful and failed experience. Journal of Applied Psychology, 90, 857-871.
Ellis , S. Ganzach , Y. Castle , E. Sekely , G. (2010). The effect of filmed versus personal after-event reviews on task performance: The mediating and moderating role of self-efficacy. Journal of Applied Psychology, 95, 122-131.
Ellis , S. Mendel , R. Nir , M. (2006). Learning from successful and failed experience: the moderating role of kind of after-event review. Journal of Applied Psychology, 91, 669-680.
Enos, M. D., Kehrhahn, M. T., & Bell, A. (2003) Informal learning and the transfer of learning: How managers develop proficiency. Human Resource Development Quarterly, 14(4), 369-387.
Fey, C., Björkman, I. and Pavlovskaya, A. (2000) The Effect of Human Resource Management Practices on Firm Performance in Russia. International Journal of Human Resource Management, 11(1): 1–18.
Fredrickson, B., & Kahneman, D. (1993) Duration neglect in retrospective evaluations of affective episodes. Journal of Personality and Social Psychology, 65, 45–55.
Guenther, C. L., & Alicke, M. D. (2010) Deconstructing the better-than-average effect. Journal of personality and social psychology, 99(5), 755-770.
Guerrero, Sylvie and Barraud-Didier, Valérie (2004) High-involvement practices and performance of French firms. The International Journal of Human Resource Management, 15: 8, 1408 – 1423.
Greenwald, A. G. (1980) The totalitarian ego: Fabrication and revision of personal history. American psychologist, 35(7), 603-618.
Kahneman, D. (2011) Ons feilbare denken. Uitgeverij Business Contact. Amsterdam. Originele titel: Thinking, fast and slow. Farrar, Straus and Giroux, New York.
Kahneman, D., & Krueger, A. (2006) Developments in the measurement of subjective well-being. The Journal of Economic Perspectives, 20, 3-24.
Kahneman, D., Fredrickson, D., Schreiber, C., & Redelemeier, D. (1993) When more pain is preferred to less: Adding a better end. Psychological Science, 4, 401–405.
Kalyuga, S., Ayres, P., Chandler, P., & Sweller, J. (2003) The expertise reversal effect. Educational psychologist, 38(1), 23-31.
Kim, Y., & Ployhart, R. E. (2014) The Effects of Staffing and Training on Firm Productivity and Profit Growth Before, During, and After the Great Recession. Journal of Applied Psychology, 99 (3), 361-389.
Knoke, D. and Kalleberg, A. (1994) Job Training in US Organizations. American Sociological Review, 59: 537–46.
Latham, G. P. (1988) Human resource training and development. Annual review of psychology 39.1 (1988): 545-582.
Lievens, F. (2006) Handboek Human Resource Management. Back To Basics. Lannoo Campus.
Lilienfeld, S.O., Lynn, S.J., Ruscio, J. & Beyerstein, B.L. (2010). 50 Great myths of popular psychology. Shattering widespread misconceptions about human behavior. Chisester UK; Wiley-Blackwell.
Loftus, E. (1994). The repressed memory controversy. American psychologist, 49, 443 – 445.
McCall, M. W. (2004). Leadership development through experience. Academy of Management Executive, 18(3), 127–130.
McCall, M.W. jr (2010) Recasting Leadership Development. Industrial and Organizational Psychology, 3, 3-19.
Sachdeva, S., Iliev, R., & Medin, D. L. (2009) Sinning saints and saintly sinners the paradox of moral self-regulation. Psychological science, 20(4), 523-528.
Salas, E., Cannon-Boers, J.A. (2001) The Science of Training: a Decade of Progress. Annual Review of Psychology, 52, 471-499
Simonton, D.K. (2000) Creativity: Cognition, personal, developmental, and social aspects. American Psychologist, 55, 151-158.
Simonton, D.K. (2012) Creative Productivity and Aging. An Age Decrement – or Not? InWhitbourne, S.K. & Sliwinski, M.J. (Eds.)The Wiley-Blackwell Handbook of Adulthood and Aging 477-496.
Skule, S. (2004) Learning conditions at work: a framework to understand and assess informal learning in the workplace. International journal of training and development, 8(1), 8-20.
Snow , R. E. Lohman , D. F. (1984) Toward a theory of cognitive aptitude for learning from instruction. Journal of Educational Psychology, 76, 347-376.
**Stamp, D. (1998) Learning ecologies. (cover story) Training, 35,1, 32-38.
Steehouder, J. A. (2007). Opleidingen, de sleutel tot succes?: een onderzoek naar de relatie tussen investeringen in opleidingen en bedrijfsprestaties? Training, the key to success?: a study on the relationship between training investments and company performance.
Stull , A. T. Mayer , R. E. (2007) Learning by doing versus learning by viewing: Three experimental comparisons of learner-generated versus author-provided graphic organizers. Journal of Educational Psychology, 99, 808-820.
Tannenbaum , S. I. Beard , R. L. McNall , L. A. Salas , E. (2010) Informal learning and development in organizations. In S. W. Kozlowski E. Salas (Eds.), Learning, training, and development in organizations (pp. 303-331). New York, NY: Routledge Academic.
Taylor , P. J. Russ-Eft , D. F. Chan , D. W. L.(2005) A meta-analytic review of behavior modeling training. Journal of Applied Psychology, 90, 4, 692-709.
Tesluk, P.E., & Jacobs, R.R. (1998) Toward an integrated model of work experience. Personnel Psychology, 321–355.
Tooby, J., & Cosmides, L. (1992). The psychological foundations of culture. In Barkow, J., Cosmides, L. & Tooby, J.(Eds), The adapted mind: Evolutionary psychology and the generation of culture. New York: Oxford University Press.
** Tough, A. (1979) Choosing to learn. Onderdeel van een rapport van Healy, G.M., & Ziegler, W.L. (Eds.) The Learning stance: Essays in celebration of human learning. National institute of Education.
Tough, A. (1998). Small smart interstellar probes. Journal of the British Interplanetary Society, 51, 167–174.
Trivers, R. (2012). The folly of fools. The logic of deceit and self-deception in human life. New York: Basic books.
** US Bureau of Labor Statistics (1996) BLS reports on the amount of formal and informal training received by employees (press release 19 December 1996).
** US Bureau of Labor Statistics (1998 – revised from June 1994 version) (Loewenstein, M.A., & Spletzer, J.R.) Formal and Informal Training: Evidence from the NLSY. Working paper 254. Website www.bls.gov .
Villado, A. J., & Arthur, W., Jr. (2013) The comparative effect of subjective and objective after-action reviews on team performance on a complex task. Journal of Applied Psychology, 98(3), 514-528.
Zhou, H. (2012) A New Framework of Happiness Survey and Evaluation of National Wellbeing. Social indicators research, 108(3), 491-507.
Anseel , F. Lievens , F. Schollaert , E. (2009). Reflection as a strategy to enhance task performance after feedback. Organizational Behavior and Human Decision Processes, 110, 23-35.
Arun, N., Coyle, P.T., & Hauenstein, N. (2012) Learning agility: Still searching for clarity on a confounded construct. Industrial and Organizational Psychology: Perspectives on Science and Practice, 5(3), Sep 2012, 290-293.
Birney, D. P., & Sternberg, R. J. (2011) The development of cognitive abilities. In Bornstein MH, Lamb ME (eds.). Developmental Science. An Advanced Textbook Psychology Press: New York, 353-388.
Chang, P. and Chen, W. (2002) The Effect of Human Resource Management Practices on Firm Performance: Empirical Evidence from High-Tech Firms in Taiwan. International Journal of Management, 19(4): 622–32.
d’Arcimoles, C.H. (1997) Human Resource Policies and Company Performance: A Quantitative Approach Using Longitudinal Data. Organisation Studies, 18(5): 857–74.
Ellis, S., Carette, B., Anseel, F., & Lievens, F. (2014). Systematic reflection: Implications for learning from failures and successes. Current Directions in Psychological Science, 23, 67-72
Goldstein, I. L. (1980). Training in work organizations. Annual review of psychology, 31(1), 229-272.
Harel, G. and Tzafrir, S. (1999) ‘The Effect of Human Resource Management Practices on the Perceptions of Organisational and Market Performance of the Organisation’, Human Resource Management, 38(3): 185–200.
Krampe , R. T. Charness , N. (2006) Aging and expertise. In K. A. Ericsson N. Charness P. Feltovich R. Hoffman (Eds.), Cambridge handbook of expertise and expert performance (pp. 723-742). Cambridge, UK: Cambridge University Press.
Kristoffersen, I. (2010) The metrics of subjective wellbeing: Cardinality, neutrality and additivity. Economic Record, 86(272), 98-123.
Ng, Y. (2008) Happiness studies: Ways to improve comparability and some public policy implications. The Economic Record, 84, 253–266.
Perlmutter, M., Kaplan, M. & Nuyquoist, L. (1990) Development of adaptive competence in adulthood. Human Development, 33, 185–187.
Tannenbaum, S. I., & Yukl, G. (1992) Training and development in work organizations. Annual review of psychology, 43(1), 399-441.
** Tough, A. (1968) Why Adults Learn; A Study of the Major Reasons for Beginning and Continuing a Learning Project. Ongepubliceerd paper, niet meer te traceren, enkel abstract in ERIC.
Wang, S, & Beier, M.E. (2012) Learning agility: Not much is new. Industrial and Organizational Psychology: Perspectives on Science and Practice, Vol 5(3), 293-296.
Wexley, K. N. (1984) Personnel training. Annual review of psychology, 35(1), 519-551.
Winner , E. (2003). Creativity and talent. In M. H. Bornstein L. Davidson C. L. Reyes K. A. Moore (Eds.), Well-being: Positive development across the life course (pp. 371-380). Mahwah, NJ: Erlbaum.
[1] Ze beweren niet dat die modules ‘topografisch gelokaliseerd’ zijn en geen enkele informatie toelaten van?? buiten die zoals enkele critici durven beweren – neen, ze beweren dat er een aantal modules bestaan die soms vrij lokaal in het brein zitten, maar meestal verspreid zijn over neurale netwerken in ons brein; ze vormen een eenheid die inderdaad een specifieke adaptieve functie vervult – maar soms ook wel andere informatie toelaat.
[2] TOM of theory of mind zorgt ervoor dat we de mentale toestand van andere mensen proberen in te schatten, meestal op basis van observatie van hun gedrag.