De sollicitatierobot: toch niet zo ideaal als het lijkt?

De sollicitatierobot: toch niet zo ideaal als het lijkt?

Een systeem dat je op basis van kunstmatige intelligentie helpt bij de zoektocht naar nieuwe medewerkers. Dat klinkt natuurlijk als muziek in de oren! Amazon is al sinds 2014 bezig met het ontwikkelen van een dergelijk algoritme dat cv’s van werkzoekenden screent. Echter kwamen ze er al snel achter dat het computerprogramma een sterke voorkeur had voor mannen en wat ze ook probeerden, de resultaten werden niet beter.

Hoe het allemaal begon

Het project begon bij Amazon vier jaar geleden. Het systeem zou met behulp van kunstmatige intelligentie cv’s beoordelen op een schaal van één tot vijf. Amazon gebruikte hiervoor cv’s die zij de afgelopen tien jaar hadden ontvangen. Het algoritme ging vervolgens opzoek naar factoren die een kandidaat succesvol maken.

Een sterke voorkeur voor mannen

Na een jaar van testen bleek in 2015 echter dat de tool onderscheid maakte tussen mannen en vrouwen. De waarschijnlijke oorzaak? Doordat de sollicitatierobot keek naar welke kandidaten in het verleden aangenomen waren bij Amazon en dit hoofdzakelijk mannen waren, leerde de sollicitatierobot zich aan dat mannelijke kandidaten de voorkeur hadden. Hierdoor gaf de sollicitatierobot bijvoorbeeld strafpunten aan kandidaten die het woord “vrouw” in hun cv gebruikte. Ook twee scholen die alleen voor vrouwen toegankelijk waren werden door het systeem beschouwd als een indicator van minder geschikte kandidaten.

De stekker eruit

Nadat Amazon dit ontdekte, hebben ze geprobeerd het algoritme aan te passen, maar het lukte ze niet om het systeem compleet genderneutraal te maken. Geslacht was trouwens niet het enige probleem. Zo droeg het systeem soms ook kandidaten aan die helemaal niet gekwalificeerd waren voor de functie. Deze resultaten heeft ertoe geleid dat Amazon in 2017 de stekker uit het project heeft getrokken.

Wil je niets meer missen? Schrijf je dan in voor onze mailinglijst en wij houden je op de hoogte van alle interessante ontwikkelingen!

Nieuws en updates

Schrijf je in en blijf op de hoogte van de laatste ontwikkelingen.