De grenzen van AI bepalen: waarom sommige beslissingen mensenwerk blijven
Amsterdam – Hoe autonoom AI-systemen, zoals ERP-systemen, ook worden, sommige beslissingen blijven wat managers betreft mensenwerk. Zo vindt 53% dat AI nooit zelfstandig contracten met leveranciers of klanten zou mogen aangaan. Ook wil 51% dat beslissingen over ontslag altijd door een mens worden genomen. Voor 45% geldt hetzelfde voor het bepalen van salarissen en arbeidsvoorwaarden. Dat blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers bij middelgrote en grote organisaties in Nederland.
Stap 1: Bepaal waar AI autonoom mag handelen en waar mensen de controle houden.
Stap 2: Maak uitlegbaarheid een vereiste voor autonome beslissingen.
Stap 3: Leg duidelijk eigenaarschap, drempelwaarden en interventiemomenten vast.
Stap 1: Bepaal waar AI autonoom mag handelen en waar mensen de controle houden.
Stap 2: Maak uitlegbaarheid een vereiste voor autonome beslissingen.
Stap 3: Leg duidelijk eigenaarschap, drempelwaarden en interventiemomenten vast.
Organisaties willen ook bij financiële beslissingen de controle behouden. Zes op de tien (61%) vinden dat AI nooit zelfstandig financiële beslissingen boven een bepaald bedrag mag nemen. Waar die grens precies moet liggen, verschilt echter sterk. De meest genoemde drempels zijn €10.000 (29%) en €50.000 (22%), terwijl 18% vindt dat AI überhaupt nooit zelfstandig financiële beslissingen mag nemen.
Wanneer organisaties AI wel autonoom laten handelen, zijn er duidelijke momenten waarop zij handmatig willen ingrijpen. Bijna twee derde (64%) doet dat zodra een AI-systeem een financiële drempel overschrijdt. Zes op de tien (60%) grijpen in wanneer AI risicovolle beslissingen neemt over klanten, leveranciers of contracten. Bij 36% vindt ingrijpen pas achteraf plaats, zodra een beslissing een negatieve uitkomst heeft gehad.
Toch vindt menselijke tussenkomst niet altijd op het juiste moment plaats. Bijna acht op de tien (79%) geven aan dat menselijke tussenkomst vaak pas plaatsvindt nadat de schade al is ontstaan. Eerder ingrijpen is alleen mogelijk als duidelijk is waarom een systeem een bepaalde beslissing heeft genomen. Daarom grijpt een kwart (26%) al in zodra AI zijn beslissing niet kan uitleggen.
Uitlegbaarheid speelt ook een rol in de mate waarin organisaties bereid zijn AI autonoom te laten handelen: 83% vindt dat volledige autonomie een illusie blijft zolang beslissingen van AI uitlegbaar moeten zijn.
Dit onderzoek is uitgevoerd als kwantitatief online onderzoek in opdracht van Dynamic People. De doelgroep bestond uit beslissingsbevoegden op het gebied van IT-, ERP- en CRM-oplossingen en/of financiële beslissingen binnen organisaties met 50 of meer FTE, actief in de zakelijke dienstverlening, groothandel en distributie, financiële dienstverlening of commodity trading. In totaal namen 317 respondenten deel aan het onderzoek. Het veldwerk is uitgevoerd door Markteffect in de periode van 24 februari tot en met 9 maart 2026.