Een risicobeleid werkt pas als een ongunstige testuitslag een release werkelijk kan tegenhouden. Bepaal daarom vóór het testen welke schade u onderzoekt, welke grens u gebruikt en wie over vrijgave beslist. Deze gids richt zich op aanbieders van een systeem waarvan rol en hoogrisicoclassificatie al afzonderlijk zijn beoordeeld.
Maak testgrenzen en stopbesluiten concreet voor een al beoordeeld hoogrisicosysteem.
Koppel iedere maatregel aan aantoonbare schade
Artikel 9 van de AI-verordening beschrijft risicobeheer als een doorlopend proces gedurende de levenscyclus. Het omvat voorzienbare risico’s, redelijkerwijs voorzienbaar misbruik, maatregelen en tests. Werk per scenario uit wie schade kan ondervinden. Een algemene vermelding van bias vertelt uw ontwikkelaar nog niet welke fout moet worden voorkomen.
Kies vervolgens meetbare criteria vóór u de resultaten ziet. Noteer testgegevens, relevante groepen, systeemversie en beperkingen van het onderzoek. Een gemiddelde score kan een probleem bij een kleine groep verhullen. Leg ook vast welke verandering een nieuwe beoordeling vereist, bijvoorbeeld een ander gebruiksdoel of andere invoergegevens.
Voorbeeld: gemiddeld geslaagd, toch geen vrijgave
Fictief: een aanbieder test een selectiesysteem op 1.000 gecontroleerde dossiers. Het team heeft vooraf maximaal 5% onterechte uitsluitingen per onderzochte groep als eigen testgrens gekozen. In totaal zijn 30 uitsluitingen fout: 3%. In een groep van 100 dossiers zijn er 12 fout: 12%. De gemiddelde score slaagt, maar de vooraf gekozen groepsgrens niet.
Deze percentages zijn oefencijfers, geen wettelijke veilige grens. Het team houdt vrijgave tegen, onderzoekt de oorzaak en test de aanpassing opnieuw op afzonderlijke gegevens. Het vrijgavebesluit vermeldt de nieuwe versie en resterende beperkingen. Alleen een waarschuwing aan de afnemer toevoegen lost een ontwerpfout niet vanzelf op.
Beproef uw stopbesluit
Laat ontwikkelaar, risicobeoordelaar en vrijgavebevoegde één mislukte test naspelen. Wie voorkomt uitrol, informeert afnemers en plant herstel? Verbind praktijkmeldingen daarna aan dezelfde scenario’s. Controleer de actuele toepassingsdatum voor uw systeem afzonderlijk; dit werkproces is geen classificatie of conformiteitsbeoordeling.