Op YouTube staat een filmpje waarin Frans Bromet mensen interviewt over de mobiele telefoon. Het is 1998. Zakenlieden, studenten en moeders vertellen geen behoefte te hebben aan zo’n apparaat. “Het lijkt me niet prettig om altijd bereikbaar te zijn” zegt de een. “Dan word ik zeker gebeld op de fiets” schampert de ander. Technologie heeft ons leven sindsdien ingrijpend veranderd. Ook voor de arbeidsrelatie heeft deze technologische revolutie gevolgen. De kloof tussen digibeten en ict-behendigen zal blijven groeien. Robots zullen steeds vaker de banen van laaggeschoolden innemen. Sommigen vrezen zelfs dat uiteindelijk ook de mens overbodig wordt, omdat computers zelfdenkende organismes zullen worden die zich zelfs tegen de mens kunnen keren.
Dichter bij huis zijn de gevolgen die de datarevolutie nu al heeft voor de arbeidsrelatie. Grote bedrijven maken steeds meer gebruik van grotendeels geautomatiseerde sollicitatieprocedures. Frustrerend voor de afgewezen 90%, die niet weet waarom hun cv niet aanspreekt omdat ze alleen maar te horen krijgen: “Computer says no”. In een nog geavanceerder systeem wordt ook het kiezen van selectiekenmerken aan de computer overgelaten. Sollicitanten wordt gevraagd om zichzelf op video op te nemen terwijl hij of zij bepaalde vragen beantwoordt. Antwoord, lichaamstaal en intonatie worden vervolgens via software vergeleken met de video’s opgenomen door de beste 10% van de werknemers van het bedrijf. Zal een sollicitant worden afgewezen omdat hij omlaag keek bij de vraag wat hij zou doen met een miljoen, en niet omhoog? Wie beoordeelt waarom dat gegeven relevant zou zijn?
Dit zijn, toegegeven, voorbeelden uit de V.S. Maar ook in Nederland wordt “HR Analytics” door trendwatchers als de nieuwe hype in human resources gezien. Met HR-Analytics wordt bijvoorbeeld gedoeld op het massaal vergelijken van datagebruikpatronen om productiviteit te monitoren en voorspellingen te doen over bijvoorbeeld ziekteverzuim en kinderwensen. Zo kunnen high-potentials maar ook werknemers met een minder aantrekkelijk profiel tijdig worden gedetecteerd. Aldus zoeken kinderloze dertigers maar beter niet meer via hun werkaccount naar een gezinshuis op Funda. HR Analytics kan daarnaast bestaan uit het aanleggen van bestanden met persoonlijkheidskenmerken van werknemers, om deze vervolgens te koppelen aan hun zakelijke prestaties, zoals bij Eneco wordt gedaan (zie www.hrpraktijk.nl/topics/hr-analytics/nieuws/praktijkvoorbeeld-eneco-aan-de-slag-met-hr-analytics). De HR-manager van Eneco vindt het belangrijk dat deze data flexibel wordt aangeleverd:

“Managers of business partners moeten zelf makkelijk informatie kunnen uitsplitsen naar bijvoorbeeld mannen en vrouwen of bepaalde leeftijdscategorieën.”

De vraag is natuurlijk hoe deze ongekende nieuwe mogelijkheden om werknemers te profileren zich verhouden tot het recht. Het zal maar weinigen zijn ontgaan: op dergelijke dataverwerking is sinds 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) van toepassing. De AVG is in de plaats gekomen van Richtlijn 95/46/EG en (in ons land) de Wet bescherming persoonsgegevens. Wat aanvankelijk een AVG-hype was, is hier en daar alweer een beetje omgeslagen in AVG-moeheid. Internetgebruikers mopperen dat ze steeds voor van alles hun akkoord moeten geven, organisaties ervaren het als belastend dat ze om dat akkoord moeten vragen. Toch een beetje overdreven allemaal, zo hoor je de mensen denken.
Maar de voorgaande voorbeelden tonen wat mij betreft aan dat het niet overdreven is grenzen te stellen aan onbeperkte data-vergaring. In de 19e eeuw ontstonden in ons deel van de wereld voor het eerst voor iedereen onbeperkte mogelijkheden om te ondernemen. De onzichtbare hand van de markt zou zorgen voor een eerlijke verdeling van de opbrengst. In de loop van de 19e en 20e eeuw bleken dwingendrechtelijke grenzen aan die ondernemingsvrijheid noodzakelijk. De 21e eeuw is de eeuw van onbeperkte datavergaring. Nu wordt ons voorgespiegeld dat wij moeten vertrouwen op de minstens zo ongrijpbare werking van ‘algoritmes’. Maar net zo min als aan de markt willen wij de regie overlaten aan algoritmes. Ook het gebruik hiervan moet worden begrensd.
De AVG is daarbij slechts een eerste aanzet. Ten opzichte van de Richtlijn is nieuw in de AVG de regulering van ‘profilering’, gedefinieerd als ‘elke vorm van geautomatiseerde verwerking van persoonsgegevens waarbij aan de hand van persoonsgegevens bepaalde persoonlijke aspecten van een natuurlijke persoon worden geëvalueerd, met name met de bedoeling zijn beroepsprestaties, economische situatie, gezondheid, persoonlijke voorkeuren, interesses, betrouwbaarheid, gedrag, locatie of verplaatsingen te analyseren of te voorspellen’ (art. 4 lid 4 AVG). Art. 22 AVG geeft betrokkenen het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit. Er moet enige menselijke tussenkomst worden voorzien. Art. 35 AVG stelt een gegevensbeschermingseffectbeoordeling verplicht wanneer een verwerking een hoog risico inhoudt, zoals bij profilering. In een dergelijke beoordeling moet onder andere worden aangegeven welke maatregelen zijn genomen om eventuele risico’s voor de betrokkenen te beperken. Dit omvat de verplichting om uit te leggen hoe een besluit met behulp van profilering tot stand is gekomen (zie ook art. 13 en 14 AVG).
De art. 29-Working Party, een EU-adviesorgaan op het gebied van privacy die thans is vervangen door de European Data Protection Board, heeft in oktober 2017 een rapport opgesteld over profilering. De Working Party verwachtte veel van transparantie. Transparantie over het gebruik van algoritmes waarborgt echter nog geen substantiële bescherming tegen oneerlijke of discriminerende uitkomsten van profilering. Er is een inherente waarschijnlijkheid dat algoritmes die gebaseerd zijn op (arbeidsmarkt)data uit het verleden, discriminatie op de arbeidsmarkt uit het verleden bevestigen of zelfs verergeren. De sollicitante die een videoregistratie van zichzelf moet inzenden, komt wellicht niet als beste uit de vergelijking met top-werknemers omdat zij, zeg, als Aziatische vrouw een andere mimiek heeft dan de door de werkgever eerder geselecteerde topgroep van witte mannen. Maar of dit in een specifiek geval al dan niet aan de hand is blijft een ‘black box’. Heeft de betrokkene dan wel iets aan transparantie? (vgl. Lilian Edwards & Michael Veale, ‘Slave to the Algorithm? Why a ‘Right to an Explanation’ is probably not the remedy you are looking for’, 16 Duke Law & Technology Review 18 (2017), te raadplegen op https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2972855).
Algoritmes werken met het herkennen van patronen op basis van correlaties, maar geven geen informatie over causale verbanden. Als dit wordt miskend kunnen gemakkelijk pijnlijke conclusies worden getrokken uit die patronen. Volgens de Working Party moeten organisaties in het kader van de gegevensbeschermingseffectbeoordeling dan ook regelmatig controleren of de gebruikte algoritmes geen ‘discriminatoire, foutieve of ongerechtvaardigde resultaten’ opleveren. Deze verplichting is echter niet met zoveel woorden terug te vinden in de AVG. Dit constateerde ook de WRR in een studie naar Big data in het veiligheidsdomein (Rapport nr. 95, Big data in een vrije en veilige samenleving, AUP 2016). De WRR signaleert een hiaat in de regulering van de analyse van gegevens, waardoor risico’s ontstaan zoals discriminatie en te veel pretenderende gegevensanalyses.
Van de – doorgaans niet-juridisch geschoolde – algoritmeprogrammeur kan vooralsnog niet worden verwacht dat hij op grond van de vage aanbeveling om ‘eerlijk’ om te gaan met profilering, weet hoe hij zijn gegevensanalyses dient aan te passen. Toch zie ik in deze aanbeveling een zekere aanzet tot verbinding van het recht op zorgvuldige gegevensverwerking met andere fundamentele bescherming, zoals bescherming van diversiteit en menselijke waardigheid op de werkplek. Het is zaak om deze aanzet nu uit te werken.
We zijn steeds meer gewend geraakt aan ongebreidelde datauitwisseling via internet. Deze technologie heeft het leven van velen ingrijpend veranderd en in veel opzichten gemakkelijker gemaakt. Maar nu moeten normatieve kaders worden ontwikkeld om ‘big data’-gebruik te kanaliseren, ook al zal dat een deel van het gemak wegnemen. De normen die de AVG daarvoor thans biedt zijn te vergelijken met het goed werkgeverschap van art. 7:611 BW. Die norm is onmisbaar, maar neemt niet de noodzaak weg van het daarnaast geldende pakket aan specifiekere arbeidsrechtelijke bescherming. Iets dergelijks geldt ten aanzien van het eerlijke gebruik van ‘big data’. Het is hoog tijd voor specifiekere beschermingsmechanismen. Datzelfde moet ook gebeuren met het eerlijke gebruik van ‘big data’.

Alle verschenen columns kunt u ook nog eens rustig nalezen. Reeds verschenen zijn:

2018

Aflevering 11
De prijs van het arbeidsrecht
prof. mr. R.A.A. Duk

Aflevering 9/10
Big data op de werkvloer
prof. mr. W.L. Roozendaal

Aflevering 7/8
Balancerende kloven van de arbeidsmarkt…
prof. mr. F.J.L. Pennings

Aflevering 6
De Europese Arbeidsautoriteit: een logische stap in de bestrijding van misstanden bij grensoverschrijdende arbeid?
prof. mr. M.S. Houwerzijl

Aflevering 5
Cin Cin! 
Prof. mr. Barend Barentsen

Aflevering 4
Payroll: waarom moeilijk doen als het ook makkelijk kan
Prof. mr. Femke Laagland

Aflevering 3
Over het Regeerakkoord en een olifant
mr. drs. P.Th. Sick

Aflevering 2
Voorwoord (pre-packxit)
M.L. Lennarts, S.S.M. Peters & F.M.J. Verstijlen

Aflevering 1
Too weak @ #metoo
prof. mr. S.F. Sagel

2017

Aflevering 12
Een New Day of Groundhog Day?
Mr. A. Keizer

Aflevering 11
Een sociale pijler ook voor Nederland?
prof. mr. F.J.L. Pennings

Aflevering 10
Bekijk het een van een andere kant
mr. H.W.M.A. Staal

Aflevering 8/9
Het kat-en-muisspelletje met werknemers op tijdelijke contracten 
Prof. mr. F.J.L. Pennings

Aflevering 6/7
Een Europees evenwicht herijkt?
Mr. R.A.A. Duk

Aflevering 5
Herziening van het ontslagrecht? Bezint eer ge begint ... 
Prof. mr. M.S. Houwerzijl

Aflevering 4
De elite, het volk en het sociale recht
Prof. mr. W.L. Roozendaal

Aflevering 3
Oordelen zonder onderscheid
Mr. K.G.F. van der Kraats

Aflevering 2
One issue
Prof. mr. S.F. Sagel

Aflevering 1
Je maintiendrai
Prof. mr. B. Barentsen

2016

Aflevering 12
(Weg)kijken
Mr. dr. P.H. Burger

Aflevering 11
Sociale triple-A status EU? A vision alone will not suffice
Prof. mr. S.S.M Peters

Aflevering 10
“Wir schaffen es”: verantwoord welkom aan wat vreemd en nieuw is
Mr. H.W.M.A. Staal

Aflevering 8/9
De Participatiemaatschappij aan banden
Prof. mr. F.J.L. Pennings

Aflevering 6/7
De Raad van State, arbeidsrecht en wetgeving
Prof. mr. R.A.A. Duk

Aflevering 5
Een luchtballon in de wind
Mr. drs. K.G.F. van der Kraats

Aflevering 4
Langer doorwerken of langer werkloos zijn
Prof. mr. dr. W.L. Roozendaal

Aflevering 3
Aanmodderen in het oog van de storm of navigeren met een sociaal kompas?
Prof. mr. M.S. Houwerzijl

Aflevering 2
Representativiteit is een illusie
Prof. mr. B. Barentsen

Aflevering 1
Wwz: pas toe en leg uit!
Prof. mr. S.F. Sagel

2015

Aflevering 12
De weg naar de arbeidsmarkt
Mr. dr. P.H. Burger

Aflevering 11
Transitievergoeding: niet lappen maar kappen
Prof. mr. S.S.M. Peters

Aflevering 10
Het arbeidsrecht van de toekomst
Prof. mr. F.B.J. Grapperhaus

Aflevering 8/9
Wat gaan we er met ons allen van bakken?
Mr. H.W.M.A. Staal

Aflevering 6/7
Preventieve arbo wetgeving
Prof. mr. F.B.J. Grapperhaus

Aflevering 5
Franse toestanden
Mr. drs. P.Th. Sick

Aflevering 4
Schijnzelfstandigen: de sociale partners zijn nu aan zet
Prof. mr. F.J.L. Pennings

Aflevering 3
"Minder, minder, minder"? Over verlaging van beloningen en zo
Prof. mr. R.A.A. Duk

Aflevering 2
Doorwerkende AOW'ers: altijd voordelig!
Prof. mr. M.S. Houwerzijl

Aflevering 1
Broodroof
Prof. mr. B. Barentsen

2014

Aflevering 12
Het muizengaatje verdient de hoofdprijs
Prof. mr. S.F. Sagel

Aflevering 11
Voor de kleintjes mag het arbeidsrecht een paar onsjes minder zijn
Prof. mr. S.S.M. Peters

Aflevering 10
Participatiesamenleving
Mr.dr. P.H. Burger

Aflevering 8/9
Stop proletarisch winkelen op de Europese arbeidsmarkt
Mr. H.W.M.A. Staal

Aflevering 6/7
Een zinnig wetsvoorstel over klokkenluiders
Prof. mr. F.B.J. Grapperhaus

Aflevering 5
Ieder voor zijn eigen of een gezamenlijk activerend arbeidsmarktbeleid?
Prof. mr. F.J.L. Pennings

Aflevering 4
Van participatie en quota, en van het spekken van de kas
Mr. drs. P.Th. Sick

Aflevering 3
Drucker, Levenbach en het Wetsvoorstel Werk en Zekerheid
Prof. mr. R.A.A. Duk en prof. mr. F.B.J. Grapperhaus

Aflevering 2
Vraag naar en aanbod van arbeid in de participatiesamenleving
Prof. mr. M.S. Houwerzijl

Aflevering 1
Wolf
Prof. mr. S.F. Sagel

2013

Aflevering 12
De marathonman
Mr. dr. P.H. Burger

Aflevering 11
'Europees wat moet, nationaal wat kan'
Prof. mr. S.S.M. Peters

Aflevering 10
It's the implementation of the rule, stupid, not the rule as such
Mr. H.W.M.A. Staal

Aflevering 8/9
Weg met het ontslag op staande voet
Prof. mr. F.B.J. Grapperhaus

Aflevering 6/7
De polder wast witter?
Mr. R.A.A. Duk

Aflevering 5
Homo homini lupus
Mr. drs. P.Th. Sick

Aflevering 4
Naar een Nota Flexibiliteit en zekerheid 2.0
Prof. mr. F.J.L. Pennings

Aflevering 3
Euphemia
Mr. S.F. Sagel

Aflevering 2
Regeren is vooruit zien ...
Mr. S.F. Sagel

Aflevering 1
Ouder worden komt dagelijks voor
Prof. mr. B. Barentsen

2012

Aflevering 12
Langer werken
Mr. dr. P.H. Burger

Aflevering 11
Eerlijk zullen we alles delen - jong en oud op de arbeidsmarkt
Prof.mr. F.B.J. Grapperhaus

Aflevering 10
'The Times They Are A-Changin'
Mr. H.W.M.A. Staal

Aflevering 8/9
Gebruik van sociale media kan ernstige gevolgen hebben voor uw beroepsleven.
Dr. S.S.M. Peters

Aflevering 6/7
Het Kunduz-akkoord en het ontslagrecht
Mr. R.A.A. Duk

Aflevering 5
Driekwart dwingend recht: de werknemer voldoende beschermd?
Prof. mr. F.J.L. Pennings

Aflevering 4
Het ontslagstelsel volgens Koser Kaya: oude wijn, met een slecht etiket
Mr. drs. P.Th. Sick

Aflevering 3
Arbeidsparticipatie van vrouwen: 'Moet jij werken?'
Prof. mr. M.S. Houwerzijl

Aflevering 2
Factor 20 als smeermiddel tegen maatschappelijke (belonings)onrust?
Mr. M. van Eck

Aflevering 1
Kosten van normalisering
Prof. mr. G.J.J.Heerma van Voss

2011

Aflevering 12
Legitimatie, legitimatie, legitimatie. Over werkgevers, gele vakbonden en Kamerleden
Prof. mr. F.B.J. Grapperhaus

Aflevering 11
De ene aardbei is de andere nog niet
Dr. mr. P.H. Burger

Aflevering 10
De angst voor anders
Prof. mr. E. Verhulp

Aflevering 8/9
Overheid en arbeidsverhoudingen: we zijn warempel Sinterklaas niet
Mr. H.W.M.A. Staal

Aflevering 6/7
Hoe onzeker mogen onze pensioenen zijn?
Prof. mr. F.J.L. Pennings

Aflevering 5
De payroll-cao: over dingen die voorbijgaan?
Mr. M. van Eck

Aflevering 4
Wettelijke verankering van de ‘Balkenendenorm’ nabij?
Prof. mr. dr. M.S. Houwerzijl

Aflevering 3
Het ontslagrecht: een vierjarig bestand?
Mr. R.A.A. Duk

Aflevering 2
Europese invloed op het sociaal beleid
Prof. mr. G.J.J. Heerma van Voss

Aflevering 1
Een brug tussen de wal en het schip
Mr. J.M. van Slooten en mr. G. Boot

2010

Aflevering 12
Wie is hier nu echt zelfstandig op de arbeidsmarkt?
Prof. mr. F.B.J. Grapperhaus

Aflevering 11
Ontschillen op de arbeidsmarkt
Prof. dr. A.C.J.M. Wilthagen

Aflevering 10
Markt en politiek
Mr. H.W.M.A. Staal

Aflevering 8/9
En juristen kunnen niet rekenen ...?
Prof. mr. E. Verhulp

Aflevering 6/7
Minister Donner en de 'frauderende' zzp'ers
Prof. mr. F.J.L. Pennings

Aflevering 5
Brief aan de minister-president
Mr. M. Van Eck

Aflevering 4
Opzij?! Wettelijke streefcijfers voor vrouwelijke bestuurders en commissarissen
Mr. M.S. Houwerzijl

Aflevering 3
De bestuurder geen werknemer meer?
Prof. mr. G.J.J. Heerma van Voss

Aflevering 2
Welke toekomst heeft de medezeggenschap?
Mr. R.A.A. Duk

Aflevering 1
Een rapport over verhouding bestuur, commissarissen en institutionele belegger: waar is de werknemer?
Prof. mr. F.B.J. Grapperhaus