Striive en het gebruik van AI

Binnen het Striive-platform van HeadFirst wordt de profiel check aangeboden die gebruikmaakt van AI-technologie. In dit artikel leggen wij graag op een informatieve manier uit hoe deze dienst werkt en waar de data wordt verwerkt. Dit dient als aanvulling op het bestaande privacy statement.

Wetgevingskader
AVG-wetgeving en de AI Act geven aan dat openheid en transparantie moeten worden betracht omtrent het gebruik van AI. De AI Act is een wetgevingsinitiatief van de Europese Unie dat regels en normen vaststelt voor het gebruik van kunstmatige intelligentie (AI) om de rechten en veiligheid van burgers te waarborgen, evenals ethische en transparantie-eisen voor AI-systemen.

Voor zover nu bekend staat in de tekst van de AI Act, wordt een systeem dat gebruikt wordt voor recruitment geclassificeerd als een "Hoog Risico AI-systeem" (Annex II – AI Act).

Annex II, Art. 4 gaat over werkgelegenheid, werknemersbeheer en toegang tot zelfstandig werk. Het beschrijft het gebruik van AI-systemen voor wervings- en selectiedoeleinden, zoals het plaatsen van gerichte vacatureadvertenties, het analyseren en filteren van sollicitaties en het evalueren van kandidaten.

(Bron: https://www.europarl.europa.eu/topics/nl/article/20230601STO93804/ai-verordening-eerste-regels-voor-artificiele-intelligentie)

Waarom we dit doen
De Profile check is een hulpmiddel voor gebruikers om mede te beoordelen hoe hun profiel past bij de desbetreffende aanvraag.

De manier waarop we AI inzetten
De manier waarop we AI inzetten, is het gebruiken van een specifieke prompt om de aanvraag te vergelijken met het profiel van de kandidaat.
* De prompt voor de profiel check bevat enkel vragen over vakinhoudelijke kenmerken van het profiel.
* Er worden geen andere dan vakinhoudelijke kenmerken en afwegingen meegenomen in de output die we verkrijgen door deze prompt.

Wat we hiervoor verwerken
De functie profile check maakt gebruik van Amazon Bedrock (AWS). Hierbij worden een prompt, de inhoudelijke informatie van de desbetreffende opdracht en de profielgegevens van de kandidaat (werkervaring en vaardigheden zoals ingevuld op het Striive-platform) verwerkt. Er worden geen persoonsgegevens verwerkt.

Met betrekking tot de verwerking van deze data is het volgende van toepassing:
* Data wordt verwerkt binnen de AWS-omgeving van de HeadFirst Group.
* Er wordt geen data verwerkt buiten deze omgeving.
* Er wordt geen data opgeslagen.
* HeadFirst heeft hierover contractuele overeenkomsten en verwerkersovereenkomsten afgesloten met AWS.

AWS heeft hierover het volgende opgenomen op hun publieke website (Bron: https://docs.aws.amazon.com/bedrock/latest/userguide/data-protection.html):
* Uw prompts (inputs) en completions (outputs) worden NIET opgeslagen of gelogd door Amazon Bedrock.
* Uw prompts en completions worden NIET gebruikt om AWS-modellen te trainen.
* Uw prompts en completions worden NIET gedeeld met derden, inclusief de aanbieders van de modellen.
* Modelaanbieders hebben GEEN toegang tot de Amazon Bedrock-omgeving, logs of klantgegevens. Na levering van een model aan AWS voert Amazon Bedrock een diepe kopie uit van de software van de modelaanbieder naar beveiligde deployment-accounts die uitsluitend door het Amazon Bedrock-serviceteam worden beheerd.
(Aanvullende bron: https://aws.amazon.com/bedrock/security-privacy-responsible-ai/)

Aan wie we de informatie beschikbaar stellen
De door AI gegenereerde data wordt nergens opgeslagen (dus ook niet in het Striive-platform), maar enkel op het scherm beschikbaar gesteld aan de gebruiker. Recruiters hebben geen toegang tot deze informatie en deze informatie kan dus ook niet gebruikt worden voor de selectie van kandidaten.