diff --git a/measures/0-org-02-beleid_opstellen_inzet_algoritmes.yaml b/measures/0-org-02-beleid-opstellen-inzet-algoritmes.yaml similarity index 97% rename from measures/0-org-02-beleid_opstellen_inzet_algoritmes.yaml rename to measures/0-org-02-beleid-opstellen-inzet-algoritmes.yaml index 176ee87..7e57aee 100644 --- a/measures/0-org-02-beleid_opstellen_inzet_algoritmes.yaml +++ b/measures/0-org-02-beleid-opstellen-inzet-algoritmes.yaml @@ -29,7 +29,7 @@ explanation: "Een duidelijk beleid over de inzet van algoritmes helpt organisati \ welke stappen worden gezetten in het geval dat er incidenten ontstaan rondom de\ \ inzet van algoritmes, denk hierbij aan een [discriminatieprotocol](0-org-15-discriminatieprotocol.md).\n\ \n- Dit beleidsdocument is beschikbaar en toegankelijk voor geïnteresseerden. \n" -urn: urn:nl:ak:mtr:org-04 +urn: urn:nl:ak:mtr:org-02 language: nl owners: - organization: Algoritmekader @@ -37,7 +37,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/0-org-02-beleid_opstellen_inzet_algoritmes/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/0-org-02-beleid-opstellen-inzet-algoritmes/index.html subject: - governance - transparantie diff --git a/measures/0-org-03-toepassen_risicobeheer.yaml b/measures/0-org-03-toepassen-risicobeheer.yaml similarity index 97% rename from measures/0-org-03-toepassen_risicobeheer.yaml rename to measures/0-org-03-toepassen-risicobeheer.yaml index 15e30fa..b62e4c9 100644 --- a/measures/0-org-03-toepassen_risicobeheer.yaml +++ b/measures/0-org-03-toepassen-risicobeheer.yaml @@ -29,7 +29,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/0-org-03-toepassen_risicobeheer/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/0-org-03-toepassen-risicobeheer/index.html subject: - governance suggested_roles: diff --git a/measures/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.yaml b/measures/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.yaml index 2897e10..46e38de 100644 --- a/measures/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.yaml +++ b/measures/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.yaml @@ -12,7 +12,7 @@ explanation: "- Voor een passende algoritmegovernance is politiek-bestuurlijk be \ de mate waarin de inzet van technologie bijdraagt aan de legitimiteit van publieke\ \ organisatie en hoe burgers met deze technologie worden bejegend. \n- Om te zorgen\ \ voor politiek-bestuurlijke betrokkenheid kan het helpen om een [meerjarige visie/strategie\ - \ rondom verantwoorde inzet](0-org-02-beleid_opstellen_inzet_algoritmes.md) te formuleren\ + \ rondom verantwoorde inzet](0-org-02-beleid-opstellen-inzet-algoritmes.md) te formuleren\ \ waar een communicatiestrategie richting burgers onderdeel van is.\n- Zorg ervoor\ \ dat bestuurders bewust zijn van de voor- en nadelen van de inzet van algoritmes\ \ en daarnaar kunnen handelen.\n- Dit ondersteunt teams bij het maken van de juiste\ diff --git a/measures/0-org-15-discriminatieprotocol.yaml b/measures/0-org-15-discriminatieprotocol.yaml index 10756e4..4021aad 100644 --- a/measures/0-org-15-discriminatieprotocol.yaml +++ b/measures/0-org-15-discriminatieprotocol.yaml @@ -15,7 +15,7 @@ explanation: "De inzet van algoritme kan onbedoeld leiden tot discriminerende ef \ duidelijkheid wat van hen wordt verwacht en wat zij kunnen doen om discriminatie\ \ door algoritmes te voorkomen. \nEen voorbeeld hiervan is het analyseren van de\ \ data op [datakwaliteit en bias in de data](3-dat-01-datakwaliteit.md) en [toets\ - \ regelmatig je algoritmisch systeem op bias](5-ver-02-biasanalyse.md). \n\nHet\ + \ regelmatig je algoritmisch systeem op bias](5-ver-03-biasanalyse.md). \n\nHet\ \ Ministerie van Binnenlandse Zaken en Koninkrijksrelaties heeft een [discriminatieprotocol](https://minbzk.github.io/discriminatieprotocol)\ \ opgesteld wat organisaties handvatten biedt.\n\nEen discriminatieprotocol kan\ \ de volgende stappen bevatten:\n\n### Stap 1: Vermoeden van onrechtmatigheid\n\n\ @@ -64,7 +64,7 @@ explanation: "De inzet van algoritme kan onbedoeld leiden tot discriminerende ef \n - Registreer het algoritme in het [algoritmeregister](https://algoritmes.overheid.nl/nl),\ \ indien dat nog niet gebeurd is.\n - Zorg voor goede klachtenafhandeling en herstelprocedures.\ \ \n" -urn: urn:nl:ak:mtr:imp-10 +urn: urn:nl:ak:mtr:org-15 language: nl owners: - organization: Algoritmekader diff --git a/measures/1-pba-03-onderbouwen-gebruik-algoritme.yaml b/measures/1-pba-03-onderbouwen-gebruik-algoritme.yaml index 741a4ce..4f83975 100644 --- a/measures/1-pba-03-onderbouwen-gebruik-algoritme.yaml +++ b/measures/1-pba-03-onderbouwen-gebruik-algoritme.yaml @@ -9,7 +9,7 @@ explanation: "- Bepaal waarom het gewenst of nodig is om een algoritme in te zet \ of niet-digitaal proces. \n\n- Maak een bewuste afweging of een algoritme het\ \ juiste middel is om [het probleem](1-pba-01-formuleren-probleemdefinitie.md) op\ \ doelmatige en doeltreffende wijze op te lossen, en documenteer deze afweging.\n\ - \n- Beoordeel of de gewenste oplossing is [toegestaan op grond van de AI-Verordening](aia-01-verboden-AI-praktijken.md).\ + \n- Beoordeel of de gewenste oplossing is [toegestaan op grond van de AI-Verordening](../vereisten/aia-00-verboden-AI-praktijken.md).\ \ \n\nHet algoritme is niet het juiste middel om het probleem op te lossen. Het\ \ risico daarbij bestaat dat het probleem niet wordt opgelost. \n" urn: urn:nl:ak:mtr:pba-03 @@ -29,7 +29,7 @@ suggested_roles: lifecycle: - probleemanalyse links: -- urn:nl:ak:ver:aia-01 +- urn:nl:ak:ver:aia-00 - urn:nl:ak:ver:awb-01 template: requirement: $REQUIREMENT diff --git a/measures/2-owp-09-multidisciplinair-inkoopteam.yaml b/measures/1-pba-06-multidisciplinair-inkoopteam.yaml similarity index 96% rename from measures/2-owp-09-multidisciplinair-inkoopteam.yaml rename to measures/1-pba-06-multidisciplinair-inkoopteam.yaml index b6fd74f..5076a1c 100644 --- a/measures/2-owp-09-multidisciplinair-inkoopteam.yaml +++ b/measures/1-pba-06-multidisciplinair-inkoopteam.yaml @@ -28,7 +28,7 @@ explanation: '- Bij een project gericht op het ontwikkelen of inkopen van algori gewenste oplossingsrichting naar de concrete behoefte. ' -urn: urn:nl:ak:mtr:owp-09 +urn: urn:nl:ak:mtr:pba-06 language: nl owners: - organization: Algoritmekader @@ -36,7 +36,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-multidisciplinair-inkoopteam/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/1-pba-06-multidisciplinair-inkoopteam/index.html subject: - publieke-inkoop suggested_roles: diff --git a/measures/2-owp-03-doel-verwerken-persoonsgegevens.yaml b/measures/2-owp-03-doel-verwerken-persoonsgegevens.yaml index c1095f4..e3a994b 100644 --- a/measures/2-owp-03-doel-verwerken-persoonsgegevens.yaml +++ b/measures/2-owp-03-doel-verwerken-persoonsgegevens.yaml @@ -21,7 +21,7 @@ explanation: "Persoonsgegevens mogen alleen worden verwerkt voor een ‘welbepaa \ het ontwikkelen en gebruiken van het algoritme.\nHet principe van dataminimalisatie\ \ is toegepast, wat betekent dat een keuze is gemaakt of een persoonsgegevens al\ \ dan niet strikt noodzakelijk is om het doel te bereiken of dat verwerking ervan\ - \ achterwege kan blijven.\n\nVoor [het beschermen van deze persoonsgegevens](3-dat-05-pseudonimiseren-anonimiseren.md)\ + \ achterwege kan blijven.\n\nVoor [het beschermen van deze persoonsgegevens](3-dat-04-pseudonimiseren-anonimiseren.md)\ \ wordt per kenmerk aangegeven op welke manier deze kan worden beschermd. Denk hierbij\ \ aan het anonimiseren, pseudonomiseren, aggregeren van de persoonsgegevens. \n\n\ Gebruik een [DPIA](../hulpmiddelen/DPIA.md) om bovenstaande zaken te beschrijven.\n\ diff --git a/measures/2-owp-04-gebruikte-techniek.yaml b/measures/2-owp-04-gebruikte-techniek.yaml index 4402897..50b0194 100644 --- a/measures/2-owp-04-gebruikte-techniek.yaml +++ b/measures/2-owp-04-gebruikte-techniek.yaml @@ -17,7 +17,7 @@ explanation: "- Beschrijf wat voor soort algoritme er gebruikt gaat worden voor \ ontwikkeld worden (op basis van verschillende technieken), en je later een definitieve\ \ keuze maakt. \n\n- Het is belangrijk om uiteindelijk een passend uitlegbaar algoritme\ \ te selecteren voor de context waarin het wordt toegepast. Daarin moet de afweging\ - \ gemaakt worden of de technische [uitlegbaarheid](2-owp-30-toepassen_uitlegbaarheidstechnieken.md)\ + \ gemaakt worden of de technische [uitlegbaarheid](2-owp-33-toepassen-uitlegbaarheidstechnieken.md)\ \ voldoende is in de context die de inzet van het algoritme vereist. Hierbij kan\ \ ook de conclusie worden getrokken dat een simpeler, inzichtelijker algoritme de\ \ voorkeur krijgt. \n\n" diff --git a/measures/2-owp-05-soort-algoritme.yaml b/measures/2-owp-05-soort-algoritme.yaml index 6d60e0a..d27c584 100644 --- a/measures/2-owp-05-soort-algoritme.yaml +++ b/measures/2-owp-05-soort-algoritme.yaml @@ -8,12 +8,16 @@ description: ' ' explanation: "Het verschilt per type algoritme welke vereisten hierop van toepassing\ - \ is en waar een aanbieder of gebruiksverantwoordelijke aan moet voldoen. \nDit\ - \ is mede afhankelijk van de bijbehorende risicoclassificatie. \nHiervoor kan in\ - \ de nabije toekomst de 'beslisboom' in het Algoritmekader voor worden gebruikt'.\ - \ \nDeze stap is van groot belang, omdat dit ook bepalend is welke contractuele\ - \ verplichtingen moeten worden gecreëerd tussen opdrachtgever en opdrachtnemer/aanbieder.\ - \ \n" + \ is en waar een aanbieder of gebruiksverantwoordelijke aan moet voldoen. \n\nDit\ + \ is mede afhankelijk van de bijbehorende risicoclassificatie. \n\nHiervoor kan\ + \ de [beslishulp](https://ai-verordening-beslishulp.apps.digilab.network/) in het\ + \ Algoritmekader voor worden gebruikt'. \n\nLet op dat niet enkel naar de AI-verordening\ + \ wordt gekeken. Ook op impactvolle algoritmes die niet vallen onder het bereik\ + \ van de AI-Verordening zijn vereisten van toepassing. Zie hiervoor de Handreiking\ + \ Algoritmeregister. \n\nDeze stap is van groot belang, omdat dit bijvoorbeeld voor\ + \ ontwikkelteams mede bepalend is waar het te ontwikkelen systeem aan moet voldoen\ + \ of welke contractuele verplichtingen moeten worden gecreëerd tussen opdrachtgever\ + \ en aanbieder van algoritmes.\n" urn: urn:nl:ak:mtr:owp-05 language: nl owners: diff --git a/measures/2-owp-06-impactanalyse.yaml b/measures/2-owp-06-impactanalyse.yaml new file mode 100644 index 0000000..2be556b --- /dev/null +++ b/measures/2-owp-06-impactanalyse.yaml @@ -0,0 +1,76 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd +description: "Leg vast wie er wordt geraakt, welke processen beïnvloed worden door\ + \ het algoritme en wat de impact is wanneer het systeem niet werkt zoals beoogd.\ + \ Neem deze informatie proactief mee in het ontwerp en de ontwikkeling van je algoritme.\ + \ \n" +explanation: "Er moet een analyse gemaakt worden van de impact van een algoritme dat\ + \ niet werkt zoals bedoeld. \nEen algoritme dat niet werkt zoals bedoeld kan bijvoorbeeld\ + \ betekenen dat het algoritme een foutieve beslissing maakt of dat het algoritme\ + \ is uitgevallen. \nDe analyse op wie dit een impact heeft en hoe groot die impact\ + \ is, is van belang voor de ontwerpkeuzes, de risicoanalyse en de evaluatie. \n\ + Wanneer een foutieve beslissing zwaarwegende gevolgen heeft, moet er in het ontwerp\ + \ gezorgd worden dat de kans op deze fout verminderd wordt.\nIn de evaluatie moet\ + \ er worden bepaald of de resterende risico’s acceptabel zijn. \nVoer de impactanalyse\ + \ uit met een multidisciplinaire groep en documenteer afwegingen en keuzes hierbij.\ + \ Neem in de impactanalyse de volgende stappen:\n\nWanneer een algoritme niet werkt\ + \ als beoogd, kan dit inbreuk maken op [grondrechten](../../onderwerpen/fundamentele-rechten.md)\ + \ van eventuele betrokken burgers. \nOnderdeel van deze impactanalyse is om te bepalen\ + \ of je algoritme bepaalde [grondrechten kan raken](2-owp-07-afwegen-grondrechten.md),\ + \ aantasten of mogelijk schenden. \n\n- **Leg vast welke stakeholders worden geraakt**\n\ + Denk hierbij aan de directe gebruiker, degene waarover het besluit wordt genomen\ + \ en derde partijen die input leveren of de resultaten ontvangen. Houd hierbij rekening\ + \ met [kwetsbare groepen waarbij het nodig is om deze groep extra bescherming te\ + \ bieden](2-owp-07-afwegen-grondrechten.md). \n\n- **Leg vast welke processen worden\ + \ geraakt**\nDenk hierbij aan werkproces(sen) waarin het algoritme wordt gebruikt,\ + \ maar ook aan vervolgprocessen of parallelle processen die beïnvloed worden door\ + \ de resultaten van het algoritme.\n\n- **Leg vast wat de impact is van een niet\ + \ goed werkend algoritme (per stakeholder en proces)**\nBepaal per stakeholder en\ + \ per proces wat het gevolg is van een niet goed werkend systeem. Indien het systeem\ + \ uitvalt, hoe worden de partijen daardoor geraakt en wat is het gevolg. Zijn er\ + \ processen die mogelijk stilvallen of moeten worden aangepast? \n\n Analyseer\ + \ ook de gevolgen van foutieve beslissingen. \n Let op dat verschillende typen\ + \ fouten een verschillende impact hebben. \n Bijvoorbeeld in het geval van een\ + \ ziektedetectie algoritme als voorsortering of een patiënt een uitgebreidere test\ + \ moet ondergaan is de impact groter als de patiënt ten onrechte als geen-risico\ + \ wordt geclassificeerd dan als iemand ten onrechte een extra controle moet ondergaan.\ + \ \n\n- **Bepaal welke factoren van invloed zijn op de kans dat het fout gaat**\n\ + Het risico is afhankelijk van de kans dat een fout voorkomt. Voor risicoanalyse\ + \ en mitigatie is het van belang om de factoren die van invloed zijn op de fouten\ + \ in kaart te brengen. Deze geven input aan de ontwerpfase en mitigerende maatregelen.\ + \ Denk hierbij aan factoren in de [data](3-dat-01-datakwaliteit.md), [het soort\ + \ algoritme](2-owp-05-soort-algoritme.md), het gebruik en externe factoren. \n\n\ + \nAls er geen goede impactanalyse wordt gemaakt, kunnen risico’s over het hoofd\ + \ worden gezien. Een niet werkend systeem kan dan een grote impact hebben op mensen\ + \ of de organisatie. \n" +urn: urn:nl:ak:mtr:owp-06 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-impactanalyse/index.html +subject: +- technische-robuustheid-en-veiligheid +- fundamentele-rechten +suggested_roles: +- projectleider +- ontwikkelaar +lifecycle: +- probleemanalyse +- ontwerp +links: +- urn:nl:ak:ver:grw-01 +- urn:nl:ak:ver:avg-11 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/2-owp-06-afwegen-grondrechten.yaml b/measures/2-owp-07-afwegen-grondrechten.yaml similarity index 97% rename from measures/2-owp-06-afwegen-grondrechten.yaml rename to measures/2-owp-07-afwegen-grondrechten.yaml index cc25da3..b42b3b4 100644 --- a/measures/2-owp-06-afwegen-grondrechten.yaml +++ b/measures/2-owp-07-afwegen-grondrechten.yaml @@ -38,7 +38,7 @@ explanation: "Een algoritme kan invloed hebben op grondrechten. Op een aantal gr \ in de [vereiste voor beoordeling van gevolgen voor grondrechten uit de AI-verordening](../vereisten/aia-27-beoordelen-gevolgen-grondrechten.md)\ \ moeten sommige hoog-risico AI-systemen een beoordeling doen van de gevolgen voor\ \ grondrechten. Het is nog niet bekend welke vorm dit precies moet hebben.\n" -urn: urn:nl:ak:mtr:owp-06 +urn: urn:nl:ak:mtr:owp-07 language: nl owners: - organization: Algoritmekader @@ -46,7 +46,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-afwegen-grondrechten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-afwegen-grondrechten/index.html subject: - fundamentele-rechten suggested_roles: diff --git a/measures/2-owp-07-kwetsbare-groepen.yaml b/measures/2-owp-08-kwetsbare-groepen.yaml similarity index 96% rename from measures/2-owp-07-kwetsbare-groepen.yaml rename to measures/2-owp-08-kwetsbare-groepen.yaml index b59cd73..780e029 100644 --- a/measures/2-owp-07-kwetsbare-groepen.yaml +++ b/measures/2-owp-08-kwetsbare-groepen.yaml @@ -33,7 +33,7 @@ explanation: "- Verschillende groepen kunnen op een andere manier geraakt worden \ uitkomst geven? Kunnen we de betreffende groep extra hulp aanbieden? Is het wenselijk\ \ bij negatieve uitkomsten een vier-ogen-principe toe te passen? \n- De impact van\ \ het algoritme op de groepen die geïdentificeerd worden in deze stap, kunnen mogelijk\ - \ onderzocht worden in een [biasanalyse](5-ver-02-biasanalyse.md). Daarbij kan geidentificeerd\ + \ onderzocht worden in een [biasanalyse](5-ver-03-biasanalyse.md). Daarbij kan geidentificeerd\ \ worden of bepaalde groepen oververtegenwoordigd of ondervertegenwoordigd zijn\ \ in selecties, of dat het algoritme andere of meer fouten maakt voor bepaalde groepen.\ \ \n- Merk op dat het onmogelijk is om de risico's voor alle specifieke groepen\ @@ -41,7 +41,7 @@ explanation: "- Verschillende groepen kunnen op een andere manier geraakt worden \ \n\nDe impact van het algoritme op de besluitvorming en op personen, doelgroepen\ \ en/of de samenleving is niet inzichtelijk, waardoor onvoldoende maatregelen zijn\ \ getroffen om ongewenste effecten (zoals bias en discriminatie) te voorkomen. \n" -urn: urn:nl:ak:mtr:owp-07 +urn: urn:nl:ak:mtr:owp-08 language: nl owners: - organization: Algoritmekader @@ -49,7 +49,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-kwetsbare-groepen/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-kwetsbare-groepen/index.html subject: - fundamentele-rechten suggested_roles: diff --git a/measures/2-owp-08-archiveren-documenten.yaml b/measures/2-owp-09-archiveren-documenten.yaml similarity index 96% rename from measures/2-owp-08-archiveren-documenten.yaml rename to measures/2-owp-09-archiveren-documenten.yaml index 605646c..ee02b67 100644 --- a/measures/2-owp-08-archiveren-documenten.yaml +++ b/measures/2-owp-09-archiveren-documenten.yaml @@ -29,7 +29,7 @@ explanation: "- Bij archiefbescheiden kan worden gedacht aan de broncode, traini Tip\" \n\n Formeer hierbij een multi-discipinaire groep (bestaande uit bijvoorbeeld\ \ een inkoper, ontwikkelaar, data scientist, proceseigenaar en archiefdeskundige)\ \ om deze maatregel toe te passen.\n" -urn: urn:nl:ak:mtr:owp-08 +urn: urn:nl:ak:mtr:owp-09 language: nl owners: - organization: Algoritmekader @@ -37,7 +37,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-archiveren-documenten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-archiveren-documenten/index.html subject: - transparantie suggested_roles: diff --git a/measures/2-owp-11-gebruikte-data.yaml b/measures/2-owp-11-gebruikte-data.yaml index 5c125cf..c077045 100644 --- a/measures/2-owp-11-gebruikte-data.yaml +++ b/measures/2-owp-11-gebruikte-data.yaml @@ -10,7 +10,7 @@ explanation: "- Maak in een vroege fase van de ontwikkeling een inschatting van \ en uit welke bron deze komen.\n- Bepaal of het is [toegestaan om deze data](2-owp-03-doel-verwerken-persoonsgegevens.md)\ \ te verwerken.\n- Het is denkbaar dat het onderzoek van de kwaliteit van de data\ \ in een latere fase in de levenscyclus pas grondig kan worden uitgevoerd. \n\n\n" -urn: urn:nl:ak:mtr:owp-02 +urn: urn:nl:ak:mtr:owp-11 language: nl owners: - organization: Algoritmekader diff --git a/measures/2-owp-11-duurzaam-inkopen.yaml b/measures/2-owp-12-duurzaam-inkopen.yaml similarity index 97% rename from measures/2-owp-11-duurzaam-inkopen.yaml rename to measures/2-owp-12-duurzaam-inkopen.yaml index 26194c1..8715bd4 100644 --- a/measures/2-owp-11-duurzaam-inkopen.yaml +++ b/measures/2-owp-12-duurzaam-inkopen.yaml @@ -57,7 +57,7 @@ explanation: 'Door software duurzaam in te kopen, kun je als organisatie al vroe te halen bij je algoritmes. ' -urn: urn:nl:ak:mtr:owp-11 +urn: urn:nl:ak:mtr:owp-12 language: nl owners: - organization: Algoritmekader @@ -65,7 +65,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-11-duurzaam-inkopen/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-duurzaam-inkopen/index.html subject: - publieke-inkoop - duurzaamheid diff --git a/measures/2-owp-12-eenvoudigere-algoritmes.yaml b/measures/2-owp-13-eenvoudigere-algoritmes.yaml similarity index 97% rename from measures/2-owp-12-eenvoudigere-algoritmes.yaml rename to measures/2-owp-13-eenvoudigere-algoritmes.yaml index c23a340..e44a43a 100644 --- a/measures/2-owp-12-eenvoudigere-algoritmes.yaml +++ b/measures/2-owp-13-eenvoudigere-algoritmes.yaml @@ -49,7 +49,7 @@ explanation: 'Complexe algoritmes vereisen vaak aanzienlijke rekenkracht, wat en die hoge kosten en milieubelasting met zich meebrengen. ' -urn: urn:nl:ak:mtr:owp-12 +urn: urn:nl:ak:mtr:owp-13 language: nl owners: - organization: Algoritmekader @@ -57,7 +57,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-eenvoudigere-algoritmes/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-eenvoudigere-algoritmes/index.html subject: - duurzaamheid suggested_roles: diff --git a/measures/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding.yaml b/measures/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding.yaml similarity index 94% rename from measures/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding.yaml rename to measures/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding.yaml index eaedb39..1398290 100644 --- a/measures/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding.yaml +++ b/measures/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding.yaml @@ -18,7 +18,7 @@ explanation: 'Een model-verwerkersoverenkomst is veelal een verplicht onderdeel de totstandkoming van de overeenkomst. ' -urn: urn:nl:ak:mtr:owp-09 +urn: urn:nl:ak:mtr:owp-14 language: nl owners: - organization: Algoritmekader @@ -26,7 +26,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding/index.html subject: - publieke-inkoop - privacy-en-gegevensbescherming diff --git a/measures/2-owp-12-bespreek-vereisten-met-aanbieders.yaml b/measures/2-owp-15-bespreek-vereisten-met-aanbieders.yaml similarity index 68% rename from measures/2-owp-12-bespreek-vereisten-met-aanbieders.yaml rename to measures/2-owp-15-bespreek-vereisten-met-aanbieders.yaml index 53ac060..00cd3e5 100644 --- a/measures/2-owp-12-bespreek-vereisten-met-aanbieders.yaml +++ b/measures/2-owp-15-bespreek-vereisten-met-aanbieders.yaml @@ -11,13 +11,16 @@ description: ' explanation: "Ga met een aanbieder in gesprek over in hoeverre zij invulling kunnen\ \ geven aan de vereisten die gelden voor een verantwoorde inzet van algoritmes.\ \ Dit kan worden gedaan bijvoorbeeld bij een informatiesessie met aanbieders voorafgaand\ - \ aan een aanbesteding. \n\nOp basis van nieuwe of gewijzigde wet- en regelgeving\ - \ of de totstandkoming van nieuwe standaard, is het denkbaar dat aanbieders van\ - \ algoritmes nog niet of niet meer voldoet aan deze vereisten. Het is van belang\ - \ om deze inzichten bijvoorbeeld tijdens een aanbesteding worden verkregen. Indien\ - \ van toepassing, laat de aanbieder inzichtelijk maken welke stappen deze gaat zetten\ - \ om hieraan te gaan voldoen. Dit is ook relevant bij reeds afgesloten contracten.\n" -urn: urn:nl:ak:mtr:owp-12 + \ aan een aanbesteding. \n\nHiervoor is het van belang om te bepalen om wat voor\ + \ [type algoritme het gaat en wat de bijbehorende risicoclassificatie](2-owp-05-soort-algoritme.md)\ + \ is. Maak op basis daarvan inzichtelijk welke vereisten hierop van toepassing zijn.\ + \ \n\nOp basis van nieuwe of gewijzigde wet- en regelgeving of de totstandkoming\ + \ van nieuwe standaard, is het denkbaar dat aanbieders van algoritmes nog niet of\ + \ niet meer voldoet aan deze vereisten. Het is van belang om deze inzichten bijvoorbeeld\ + \ tijdens een aanbesteding worden verkregen. Indien van toepassing, laat de aanbieder\ + \ inzichtelijk maken welke stappen deze gaat zetten om hieraan te gaan voldoen.\ + \ Dit is ook relevant bij reeds afgesloten contracten.\n" +urn: urn:nl:ak:mtr:owp-15 language: nl owners: - organization: Algoritmekader @@ -25,7 +28,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-bespreek-vereisten-met-aanbieders/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-bespreek-vereisten-met-aanbieders/index.html subject: - publieke-inkoop suggested_roles: @@ -34,6 +37,7 @@ lifecycle: - ontwerp - ontwikkelen links: +- urn:nl:ak:ver:aia-01 - urn:nl:ak:ver:aia-02 - urn:nl:ak:ver:aia-03 - urn:nl:ak:ver:aia-04 @@ -54,8 +58,14 @@ links: - urn:nl:ak:ver:aia-19 - urn:nl:ak:ver:aia-20 - urn:nl:ak:ver:aia-21 -- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-23 +- urn:nl:ak:ver:aia-24 +- urn:nl:ak:ver:aia-25 +- urn:nl:ak:ver:aia-26 - urn:nl:ak:ver:aia-27 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-29 - urn:nl:ak:ver:aia-30 - urn:nl:ak:ver:aia-31 - urn:nl:ak:ver:aia-32 @@ -64,9 +74,6 @@ links: - urn:nl:ak:ver:aia-35 - urn:nl:ak:ver:aia-36 - urn:nl:ak:ver:aia-37 -- urn:nl:ak:ver:aia-38 -- urn:nl:ak:ver:aia-39 -- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:arc-01 - urn:nl:ak:ver:aut-01 - urn:nl:ak:ver:avg-01 @@ -85,10 +92,10 @@ links: - urn:nl:ak:ver:awb-01 - urn:nl:ak:ver:awb-02 - urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:dat-01 - urn:nl:ak:ver:grw-01 - urn:nl:ak:ver:grw-02 -- urn:nl:ak:ver:woo-01 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.yaml b/measures/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.yaml similarity index 90% rename from measures/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.yaml rename to measures/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.yaml index 6a6a259..42eaac9 100644 --- a/measures/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.yaml +++ b/measures/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.yaml @@ -16,7 +16,7 @@ explanation: '- Door vereisten die gelden voor algoritmes onderdeel te maken van gelden en welke aanvullend in een contractovereenkomst moeten worden opgenomen. ' -urn: urn:nl:ak:mtr:owp-13 +urn: urn:nl:ak:mtr:owp-16 language: nl owners: - organization: Algoritmekader @@ -24,7 +24,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst/index.html subject: - publieke-inkoop - transparantie @@ -34,6 +34,7 @@ suggested_roles: lifecycle: - ontwerp links: +- urn:nl:ak:ver:aia-01 - urn:nl:ak:ver:aia-02 - urn:nl:ak:ver:aia-03 - urn:nl:ak:ver:aia-04 @@ -54,8 +55,14 @@ links: - urn:nl:ak:ver:aia-19 - urn:nl:ak:ver:aia-20 - urn:nl:ak:ver:aia-21 -- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-23 +- urn:nl:ak:ver:aia-24 +- urn:nl:ak:ver:aia-25 +- urn:nl:ak:ver:aia-26 - urn:nl:ak:ver:aia-27 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-29 - urn:nl:ak:ver:aia-30 - urn:nl:ak:ver:aia-31 - urn:nl:ak:ver:aia-32 @@ -64,9 +71,6 @@ links: - urn:nl:ak:ver:aia-35 - urn:nl:ak:ver:aia-36 - urn:nl:ak:ver:aia-37 -- urn:nl:ak:ver:aia-38 -- urn:nl:ak:ver:aia-39 -- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:arc-01 - urn:nl:ak:ver:aut-01 - urn:nl:ak:ver:avg-01 @@ -85,10 +89,10 @@ links: - urn:nl:ak:ver:awb-01 - urn:nl:ak:ver:awb-02 - urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:dat-01 - urn:nl:ak:ver:grw-01 - urn:nl:ak:ver:grw-02 -- urn:nl:ak:ver:woo-01 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding.yaml b/measures/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding.yaml similarity index 97% rename from measures/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding.yaml rename to measures/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding.yaml index f9f3dbb..bd0966c 100644 --- a/measures/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding.yaml +++ b/measures/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding.yaml @@ -63,7 +63,7 @@ explanation: 'Een verwerkersovereenkomst moet worden opgesteld als persoonsgegev houdt aan de hierboven genoemde verplichtingen (artikel 28 AVG). ' -urn: urn:nl:ak:mtr:owp-14 +urn: urn:nl:ak:mtr:owp-17 language: nl owners: - organization: Algoritmekader @@ -71,7 +71,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding/index.html subject: - publieke-inkoop - privacy-en-gegevensbescherming diff --git a/measures/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder.yaml b/measures/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder.yaml similarity index 93% rename from measures/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder.yaml rename to measures/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder.yaml index 830d377..c87f338 100644 --- a/measures/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder.yaml +++ b/measures/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder.yaml @@ -13,8 +13,8 @@ explanation: "Het leveren van bewijs door aanbieder dat de ontwikkelde algoritme \ momenteel in ontwikkeling. In de (nabije) toekomst zal dit naar verwachting op\ \ een vergelijkbare manier kunnen worden benaderd als bij het moeten leveren van\ \ een NEN-ISO 27001 certificaat (voldoen aan informatiebeveiligingsvereisten) door\ - \ een leverancier. \n" -urn: urn:nl:ak:mtr:owp-15 + \ een leverancier. \n" +urn: urn:nl:ak:mtr:owp-18 language: nl owners: - organization: Algoritmekader @@ -22,7 +22,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder/index.html subject: - publieke-inkoop suggested_roles: diff --git a/measures/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.yaml b/measures/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.yaml similarity index 68% rename from measures/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.yaml rename to measures/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.yaml index 9231fe3..a2ad06f 100644 --- a/measures/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.yaml +++ b/measures/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.yaml @@ -27,20 +27,19 @@ explanation: "### Trainingsdata\n- Algoritmes worden veelal getraind aan de hand \ op welke manier de trainingsdata is verkregen en of dit rechtmatig was. Laat de\ \ aanbieders(s) ook aantonen welke maatregelen er zijn getroffen om dit te voorkomen\ \ en ga hier eventueel over in gesprek. Maak een jurist onderdeel van de beoordeling\ - \ hiervan. Overweeg om een bronvermelding te laten opnemen.\n\n### Output\nLaat\ - \ de aanbieder(s) uitleggen en (aantoonbaar) onderbouwen op welke manier de trainingsdata\ - \ is verkregen en of dit rechtmatig was. Laat de aanbieders(s) ook aantonen welke\ - \ maatregelen er zijn getroffen om dit te voorkomen. Maak een jurist onderdeel van\ - \ de beoordeling hiervan. Overweeg om een bronvermelding te laten opnemen.\n\n###\ - \ Risicomanagement\nHet is van belang dat de (rest)risico's inzichtelijk zijn gemaakt\ - \ als er sprake is van een (potentiële) schending van auteursrechten. Laat een aanbieder\ - \ deze risico's inzichtelijk maken, zodat aanbieder en gebruiksverantwoordelijke\ - \ maatregelen kunnen treffen en handelen als dit nodig is. Beoordeel of deze rest(risico's)\ - \ acceptabel zijn. \n\n### Contractovereenkomst\nNeem in de conceptovereenkomst\ - \ op dat de aanbieder garandeert dat auteursrechten niet worden geschonden met de\ - \ trainingsdata of output van het algoritme en dat aanbieder dit gedurende de ontwikkeling\ - \ en levensduur actief bewaakt.\n" -urn: urn:nl:ak:mtr:owp-16 + \ hiervan. \n\n### Output\nLaat de aanbieder(s) uitleggen en (aantoonbaar) onderbouwen\ + \ op welke manier de trainingsdata is verkregen en of dit rechtmatig was. Laat de\ + \ aanbieders(s) ook aantonen welke maatregelen er zijn getroffen om dit te voorkomen.\ + \ Maak een jurist onderdeel van de beoordeling hiervan. Overweeg om een bronvermelding\ + \ te laten opnemen.\n\n### Risicomanagement\nHet is van belang dat de (rest)risico's\ + \ inzichtelijk zijn gemaakt als er sprake is van een (potentiële) schending van\ + \ auteursrechten. Laat een aanbieder deze risico's inzichtelijk maken, zodat aanbieder\ + \ en gebruiksverantwoordelijke maatregelen kunnen treffen en handelen als dit nodig\ + \ is. Beoordeel of deze rest(risico's) acceptabel zijn. \n\n### Contractovereenkomst\n\ + Neem in de conceptovereenkomst op dat de aanbieder garandeert dat auteursrechten\ + \ niet worden geschonden met de trainingsdata of output van het algoritme en dat\ + \ aanbieder dit gedurende de ontwikkeling en levensduur actief bewaakt.\n" +urn: urn:nl:ak:mtr:owp-19 language: nl owners: - organization: Algoritmekader @@ -48,7 +47,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten/index.html subject: - publieke-inkoop - data diff --git a/measures/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.yaml b/measures/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.yaml similarity index 96% rename from measures/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.yaml rename to measures/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.yaml index 29a3981..ec34ff0 100644 --- a/measures/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.yaml +++ b/measures/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.yaml @@ -32,9 +32,8 @@ explanation: '- Eindgebruikers van algoritmes kunnen er niet altijd op vertrouwe - Het is daarom van belang om een beoordeling te maken in hoeverre de aansprakelijkheidsvoorwaarden van de aanbieder passend zijn. Maak een jurist onderdeel van de beoordeling. - ' -urn: urn:nl:ak:mtr:owp-17 +urn: urn:nl:ak:mtr:owp-20 language: nl owners: - organization: Algoritmekader @@ -42,7 +41,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder/index.html subject: - publieke-inkoop suggested_roles: diff --git a/measures/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria.yaml b/measures/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria.yaml similarity index 82% rename from measures/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria.yaml rename to measures/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria.yaml index e1ea2da..39eb763 100644 --- a/measures/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria.yaml +++ b/measures/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria.yaml @@ -14,7 +14,7 @@ explanation: "- Door een vereiste onderdeel te maken van een (sub)gunningscriter \ rechten of het verbod op schenden auteursrechten. \n- Door vereisten te vertalen\ \ naar een (sub)gunningscriteria, kan een inhoudelijke beoordeling worden gemaakt\ \ in hoeverre een aanbieder voldoet aan deze vereisten.\n" -urn: urn:nl:ak:mtr:owp-18 +urn: urn:nl:ak:mtr:owp-21 language: nl owners: - organization: Algoritmekader @@ -22,7 +22,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria/index.html subject: - publieke-inkoop suggested_roles: @@ -30,30 +30,36 @@ suggested_roles: lifecycle: - ontwerp links: -- urn:nl:ak:ver:aia-28 -- urn:nl:ak:ver:aut-01 -- urn:nl:ak:ver:dat-01 -- urn:nl:ak:ver:aia-04 -- urn:nl:ak:ver:aia-01 -- urn:nl:ak:ver:aia-18 -- urn:nl:ak:ver:avg-08 -- urn:nl:ak:ver:grw-01 -- urn:nl:ak:ver:aia-11 -- urn:nl:ak:ver:aia-05 -- urn:nl:ak:ver:aia-27 -- urn:nl:ak:ver:grw-02 -- urn:nl:ak:ver:avg-03 -- urn:nl:ak:ver:avg-11 -- urn:nl:ak:ver:avg-10 - urn:nl:ak:ver:aia-03 - urn:nl:ak:ver:aia-04 -- urn:nl:ak:ver:aia-09 +- urn:nl:ak:ver:aia-05 - urn:nl:ak:ver:aia-08 -- urn:nl:ak:ver:avg-07 -- urn:nl:ak:ver:aia-03 +- urn:nl:ak:ver:aia-09 +- urn:nl:ak:ver:aia-18 - urn:nl:ak:ver:aia-19 - urn:nl:ak:ver:aia-20 -- urn:nl:ak:ver:woo-01 +- urn:nl:ak:ver:aia-21 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-24 +- urn:nl:ak:ver:aia-26 +- urn:nl:ak:ver:aia-27 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-30 +- urn:nl:ak:ver:aia-33 +- urn:nl:ak:ver:aia-34 +- urn:nl:ak:ver:arc-01 +- urn:nl:ak:ver:aut-01 +- urn:nl:ak:ver:avg-03 +- urn:nl:ak:ver:avg-04 +- urn:nl:ak:ver:avg-07 +- urn:nl:ak:ver:avg-09 +- urn:nl:ak:ver:avg-10 +- urn:nl:ak:ver:avg-11 +- urn:nl:ak:ver:awb-01 +- urn:nl:ak:ver:awb-02 +- urn:nl:ak:ver:dat-01 +- urn:nl:ak:ver:grw-01 +- urn:nl:ak:ver:grw-02 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-19-ruimte-voor-samenwerking-met-aanbieder.yaml b/measures/2-owp-22-ruimte-voor-samenwerking-met-aanbieder.yaml similarity index 93% rename from measures/2-owp-19-ruimte-voor-samenwerking-met-aanbieder.yaml rename to measures/2-owp-22-ruimte-voor-samenwerking-met-aanbieder.yaml index 062b74b..e425826 100644 --- a/measures/2-owp-19-ruimte-voor-samenwerking-met-aanbieder.yaml +++ b/measures/2-owp-22-ruimte-voor-samenwerking-met-aanbieder.yaml @@ -24,7 +24,7 @@ explanation: "- Om op een betekenisvolle manier invulling te geven aan bepaalde \ hoe aanbieders ervoor staan. Op basis hiervan kan worden beoordeeld in hoeverre\ \ bijvoorbeeld in een aanbesteding contractuele ruimte moet worden gecreëerd voor\ \ opdrachtgever en aanbieder om hieraan te werken. \n\n" -urn: urn:nl:ak:mtr:owp-19 +urn: urn:nl:ak:mtr:owp-22 language: nl owners: - organization: Algoritmekader @@ -32,7 +32,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-ruimte-voor-samenwerking-met-aanbieder/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-ruimte-voor-samenwerking-met-aanbieder/index.html subject: - publieke-inkoop suggested_roles: @@ -41,6 +41,7 @@ lifecycle: - ontwerp - ontwikkelen links: +- urn:nl:ak:ver:aia-01 - urn:nl:ak:ver:aia-02 - urn:nl:ak:ver:aia-03 - urn:nl:ak:ver:aia-04 @@ -61,8 +62,14 @@ links: - urn:nl:ak:ver:aia-19 - urn:nl:ak:ver:aia-20 - urn:nl:ak:ver:aia-21 -- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-23 +- urn:nl:ak:ver:aia-24 +- urn:nl:ak:ver:aia-25 +- urn:nl:ak:ver:aia-26 - urn:nl:ak:ver:aia-27 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-29 - urn:nl:ak:ver:aia-30 - urn:nl:ak:ver:aia-31 - urn:nl:ak:ver:aia-32 @@ -71,9 +78,6 @@ links: - urn:nl:ak:ver:aia-35 - urn:nl:ak:ver:aia-36 - urn:nl:ak:ver:aia-37 -- urn:nl:ak:ver:aia-38 -- urn:nl:ak:ver:aia-39 -- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:arc-01 - urn:nl:ak:ver:aut-01 - urn:nl:ak:ver:avg-01 @@ -92,10 +96,10 @@ links: - urn:nl:ak:ver:awb-01 - urn:nl:ak:ver:awb-02 - urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:dat-01 - urn:nl:ak:ver:grw-01 - urn:nl:ak:ver:grw-02 -- urn:nl:ak:ver:woo-01 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie.yaml b/measures/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie.yaml similarity index 88% rename from measures/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie.yaml rename to measures/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie.yaml index 02e9412..09b86bc 100644 --- a/measures/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie.yaml +++ b/measures/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie.yaml @@ -22,8 +22,8 @@ explanation: "- Het is van belang dat duidelijke afspraken worden gemaakt over h \ verschillende toepassingen of versies. Bespreek met het projectteam welke onderdelen\ \ van de technische documentatie voor AI-systemen, als genoemd in de Bijlage 4 AI-verordening,\ \ door welke partij (aanbieder of gebruiksverantwoordelijke) moeten worden ingevuld\ - \ of aangevuld. \n" -urn: urn:nl:ak:mtr:owp-20 + \ of aangevuld. \n\n" +urn: urn:nl:ak:mtr:owp-23 language: nl owners: - organization: Algoritmekader @@ -31,7 +31,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie/index.html subject: - publieke-inkoop - transparantie @@ -42,7 +42,13 @@ suggested_roles: lifecycle: - ontwerp links: -- 'urn:nl:ak:ver:aia-06:' +- urn:nl:ak:ver:aia-02 +- urn:nl:ak:ver:aia-06 +- urn:nl:ak:ver:aia-08 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:avg-07 +- urn:nl:ak:ver:awb-01 +- urn:nl:ak:ver:awb-02 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-21-uitvoeren-audit-voor-naleving-vereisten.yaml b/measures/2-owp-24-uitvoeren-audit-voor-naleving-vereisten.yaml similarity index 89% rename from measures/2-owp-21-uitvoeren-audit-voor-naleving-vereisten.yaml rename to measures/2-owp-24-uitvoeren-audit-voor-naleving-vereisten.yaml index 08378f3..67362d6 100644 --- a/measures/2-owp-21-uitvoeren-audit-voor-naleving-vereisten.yaml +++ b/measures/2-owp-24-uitvoeren-audit-voor-naleving-vereisten.yaml @@ -8,7 +8,7 @@ explanation: 'Het is van belang dat opdrachtgever mogelijkheden heeft om te cont in hoeverre door aanbieder/opdrachtnemer wordt voldaan aan naleving van de contractvoorwaarden ' -urn: urn:nl:ak:mtr:owp-21 +urn: urn:nl:ak:mtr:owp-24 language: nl owners: - organization: Algoritmekader @@ -16,7 +16,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-uitvoeren-audit-voor-naleving-vereisten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-uitvoeren-audit-voor-naleving-vereisten/index.html subject: - publieke-inkoop suggested_roles: @@ -25,6 +25,7 @@ suggested_roles: lifecycle: - ontwerp links: +- urn:nl:ak:ver:aia-01 - urn:nl:ak:ver:aia-02 - urn:nl:ak:ver:aia-03 - urn:nl:ak:ver:aia-04 @@ -45,8 +46,14 @@ links: - urn:nl:ak:ver:aia-19 - urn:nl:ak:ver:aia-20 - urn:nl:ak:ver:aia-21 -- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-23 +- urn:nl:ak:ver:aia-24 +- urn:nl:ak:ver:aia-25 +- urn:nl:ak:ver:aia-26 - urn:nl:ak:ver:aia-27 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-29 - urn:nl:ak:ver:aia-30 - urn:nl:ak:ver:aia-31 - urn:nl:ak:ver:aia-32 @@ -55,9 +62,6 @@ links: - urn:nl:ak:ver:aia-35 - urn:nl:ak:ver:aia-36 - urn:nl:ak:ver:aia-37 -- urn:nl:ak:ver:aia-38 -- urn:nl:ak:ver:aia-39 -- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:arc-01 - urn:nl:ak:ver:aut-01 - urn:nl:ak:ver:avg-01 @@ -76,10 +80,10 @@ links: - urn:nl:ak:ver:awb-01 - urn:nl:ak:ver:awb-02 - urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:dat-01 - urn:nl:ak:ver:grw-01 - urn:nl:ak:ver:grw-02 -- urn:nl:ak:ver:woo-01 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders.yaml b/measures/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders.yaml similarity index 91% rename from measures/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders.yaml rename to measures/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders.yaml index 8476faa..4476efa 100644 --- a/measures/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders.yaml +++ b/measures/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders.yaml @@ -18,8 +18,8 @@ explanation: "- Als overheidsorganisaties algoritmes willen gebruiken van aanbie \ beoordeeld of de algoritmes die worden aangeboden door aanbieder daarbij aansluiten.\n\ \n- Tijdens het aanbestedingsproces moeten daarom inzichten worden verkregen hoe\ \ de algoritmes van aanbieders functioneren om tot een beoordeling te kunnen komen.\ - \ Laat de aanbieder dit toelichten. \n\n\n" -urn: urn:nl:ak:mtr:owp-22 + \ Laat de aanbieder dit toelichten. \n" +urn: urn:nl:ak:mtr:owp-25 language: nl owners: - organization: Algoritmekader @@ -27,7 +27,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders/index.html subject: - publieke-inkoop - transparantie @@ -39,6 +39,8 @@ lifecycle: - ontwerp links: - urn:nl:ak:ver:avg-10 +- urn:nl:ak:ver:awb-01 +- urn:nl:ak:ver:awb-02 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder.yaml b/measures/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder.yaml similarity index 91% rename from measures/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder.yaml rename to measures/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder.yaml index 3430de5..c336376 100644 --- a/measures/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder.yaml +++ b/measures/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder.yaml @@ -15,8 +15,11 @@ explanation: 'Beoordeel of de kennisoverdracht en ondersteuning van aanbieder vo in het bestaande niveau, zodat een aanbieder concreet kan zijn over eventuele verschillen tussen beiden. + + <<<<<<< HEAD + ' -urn: urn:nl:ak:mtr:owp-23 +urn: urn:nl:ak:mtr:owp-26 language: nl owners: - organization: Algoritmekader @@ -24,7 +27,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder/index.html subject: - publieke-inkoop suggested_roles: @@ -35,6 +38,7 @@ lifecycle: - ontwerp links: - urn:nl:ak:ver:aia-01 +- urn:nl:ak:ver:aia-24 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-24-risico-analyse-informatiebeveiliging-leverancier.yaml b/measures/2-owp-27-risico-analyse-informatiebeveiliging-leverancier.yaml similarity index 89% rename from measures/2-owp-24-risico-analyse-informatiebeveiliging-leverancier.yaml rename to measures/2-owp-27-risico-analyse-informatiebeveiliging-leverancier.yaml index d426c2a..a4fde23 100644 --- a/measures/2-owp-24-risico-analyse-informatiebeveiliging-leverancier.yaml +++ b/measures/2-owp-27-risico-analyse-informatiebeveiliging-leverancier.yaml @@ -13,8 +13,12 @@ explanation: '- Stel vast of een aanbieder voldoet aan de Baseline Informatiebev beschikbaarheid, integriteit en vertrouwelijkheid van de informatie en de informatiesystemen. - Bepaal of er, gezien de restrisico''s, aanvullende beveiligingsmaatregelen (door - de aanbieder of opdrachtgever) moeten worden getroffen om deze te beschermen.' -urn: urn:nl:ak:mtr:owp-24 + de aanbieder of opdrachtgever) moeten worden getroffen om deze te beschermen. + + <<<<<<< HEAD + + ' +urn: urn:nl:ak:mtr:owp-27 language: nl owners: - organization: Algoritmekader @@ -22,7 +26,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-risico-analyse-informatiebeveiliging-leverancier/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-risico-analyse-informatiebeveiliging-leverancier/index.html subject: - technische-robuustheid-en-veiligheid - publieke-inkoop @@ -32,6 +36,7 @@ suggested_roles: lifecycle: - ontwerp links: +- urn:nl:ak:ver:aia-10 - urn:nl:ak:ver:bio-01 template: requirement: $REQUIREMENT diff --git a/measures/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.yaml b/measures/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.yaml similarity index 90% rename from measures/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.yaml rename to measures/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.yaml index d25c44b..8138c10 100644 --- a/measures/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.yaml +++ b/measures/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.yaml @@ -13,7 +13,7 @@ explanation: "- Door vereisten onderdeel te maken van het programma van eisen bi \ zijn om bepaalde vereisten te verfijnen in het Programma van Eisen en aan te geven\ \ wanneer hieraan voldaan is, bijvoorbeeld met betrekking tot het transparantievereiste.\ \ Bepaal met het inkoopteam bij welke vereisten dit noodzakelijk is. \n" -urn: urn:nl:ak:mtr:owp-25 +urn: urn:nl:ak:mtr:owp-28 language: nl owners: - organization: Algoritmekader @@ -21,7 +21,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen/index.html subject: - publieke-inkoop suggested_roles: @@ -31,6 +31,7 @@ suggested_roles: lifecycle: - ontwerp links: +- urn:nl:ak:ver:aia-01 - urn:nl:ak:ver:aia-02 - urn:nl:ak:ver:aia-03 - urn:nl:ak:ver:aia-04 @@ -51,8 +52,14 @@ links: - urn:nl:ak:ver:aia-19 - urn:nl:ak:ver:aia-20 - urn:nl:ak:ver:aia-21 -- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-23 +- urn:nl:ak:ver:aia-24 +- urn:nl:ak:ver:aia-25 +- urn:nl:ak:ver:aia-26 - urn:nl:ak:ver:aia-27 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-29 - urn:nl:ak:ver:aia-30 - urn:nl:ak:ver:aia-31 - urn:nl:ak:ver:aia-32 @@ -61,9 +68,6 @@ links: - urn:nl:ak:ver:aia-35 - urn:nl:ak:ver:aia-36 - urn:nl:ak:ver:aia-37 -- urn:nl:ak:ver:aia-38 -- urn:nl:ak:ver:aia-39 -- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:arc-01 - urn:nl:ak:ver:aut-01 - urn:nl:ak:ver:avg-01 @@ -82,10 +86,10 @@ links: - urn:nl:ak:ver:awb-01 - urn:nl:ak:ver:awb-02 - urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:bzk-01 - urn:nl:ak:ver:dat-01 - urn:nl:ak:ver:grw-01 - urn:nl:ak:ver:grw-02 -- urn:nl:ak:ver:woo-01 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.yaml b/measures/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.yaml similarity index 57% rename from measures/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.yaml rename to measures/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.yaml index 29a9faa..29a089a 100644 --- a/measures/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.yaml +++ b/measures/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.yaml @@ -6,17 +6,17 @@ description: ' Maak de vereiste onderdeel van Service Level Agreement ' -explanation: "- Onderzoek met het inkoopteam het relevant is om vereiste voor een\ - \ verantwoorde inzet van algoritmes onderdeel te maken van de Service Level Agreement.\ - \ \n- Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit van\ - \ de dienstverlening van aanbieder.\n- Hierbij kan worden gedacht aan onderwerpen\ +explanation: "- Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit\ + \ van de dienstverlening van aanbieder.\n- Hierbij kan worden gedacht aan onderwerpen\ \ als incidentmanagement, servicemanagement, verantwoordelijkheden matrix, hersteltijd,\ \ prestatiecriteria, reproduceerbaarheid, versiebeheer van de gebruikte algoritmes\ - \ en informatiebeveiliging. \n- Laat de aanbieder aangeven welke vormen van onderhoud\ - \ aan de betreffende algoritmes nodig zijn en de snelheid waarmee signalen vanuit\ - \ gebruik, ongeacht de bron, kunnen worden verwerkt in het systeem en welke expertise\ - \ hiervoor beschikbaar is. \n\n" -urn: urn:nl:ak:mtr:owp-26 + \ en informatiebeveiliging.\n- Onderzoek met het inkoopteam welke vereiste voor\ + \ een verantwoorde inzet van algoritmes onderdeel moeten worden gemaakt van de Service\ + \ Level Agreement. \n- Laat de aanbieder aangeven welke vormen van onderhoud aan\ + \ de betreffende algoritmes nodig zijn en de snelheid waarmee signalen vanuit gebruik,\ + \ ongeacht de bron, kunnen worden verwerkt in het systeem en welke expertise hiervoor\ + \ beschikbaar is. \n\n" +urn: urn:nl:ak:mtr:owp-29 language: nl owners: - organization: Algoritmekader @@ -24,7 +24,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement/index.html subject: - publieke-inkoop suggested_roles: @@ -34,21 +34,20 @@ suggested_roles: lifecycle: - ontwerp links: -- urn:nl:ak:ver:bio-01 -- urn:nl:ak:ver:avg-12 -- urn:nl:ak:ver:aia-37 -- urn:nl:ak:ver:aia-07 -- urn:nl:ak:ver:aia-01 -- urn:nl:ak:ver:aia-18 -- urn:nl:ak:ver:aia-11 -- urn:nl:ak:ver:aia-05 -- urn:nl:ak:ver:aia-36 - urn:nl:ak:ver:aia-03 +- urn:nl:ak:ver:aia-05 +- urn:nl:ak:ver:aia-07 - urn:nl:ak:ver:aia-09 -- urn:nl:ak:ver:avg-07 -- urn:nl:ak:ver:aia-03 +- urn:nl:ak:ver:aia-11 +- urn:nl:ak:ver:aia-18 - urn:nl:ak:ver:aia-19 -- urn:nl:ak:ver:aia-20 +- urn:nl:ak:ver:aia-28 +- urn:nl:ak:ver:aia-34 +- urn:nl:ak:ver:aia-35 +- urn:nl:ak:ver:aia-34 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-07 +- urn:nl:ak:ver:avg-12 - urn:nl:ak:ver:woo-01 template: requirement: $REQUIREMENT diff --git a/measures/2-owp-27-contractuele-afspraken-data-en-artefacten.yaml b/measures/2-owp-30-contractuele-afspraken-data-en-artefacten.yaml similarity index 87% rename from measures/2-owp-27-contractuele-afspraken-data-en-artefacten.yaml rename to measures/2-owp-30-contractuele-afspraken-data-en-artefacten.yaml index 3221cb6..6fb82e0 100644 --- a/measures/2-owp-27-contractuele-afspraken-data-en-artefacten.yaml +++ b/measures/2-owp-30-contractuele-afspraken-data-en-artefacten.yaml @@ -9,7 +9,7 @@ description: ' ' explanation: "Hier kan worden gedacht aan (initiële) trainingsdatasets, outputdata\ \ (richting gebruikers) en nieuwe trainingsdata (vanuit gebruikers). \n" -urn: urn:nl:ak:mtr:owp-27 +urn: urn:nl:ak:mtr:owp-30 language: nl owners: - organization: Algoritmekader @@ -17,7 +17,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-contractuele-afspraken-data-en-artefacten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-contractuele-afspraken-data-en-artefacten/index.html subject: - publieke-inkoop suggested_roles: @@ -28,6 +28,8 @@ lifecycle: links: - urn:nl:ak:ver:aut-01 - urn:nl:ak:ver:dat-01 +- urn:nl:ak:ver:aia-05 +- urn:nl:ak:ver:avg-01 template: requirement: $REQUIREMENT remarks: $REMARKS diff --git a/measures/2-owp-29-informeer_betrokkenen.yaml b/measures/2-owp-31-informeer-betrokkenen.yaml similarity index 93% rename from measures/2-owp-29-informeer_betrokkenen.yaml rename to measures/2-owp-31-informeer-betrokkenen.yaml index 60ad750..31f4da7 100644 --- a/measures/2-owp-29-informeer_betrokkenen.yaml +++ b/measures/2-owp-31-informeer-betrokkenen.yaml @@ -10,7 +10,7 @@ description: ' ' explanation: "Welke informatie over algoritmes relevant is, verschilt per partij.\ \ Het is van belang om deze partijen in beeld te brengen en vast te stellen welke\ - \ informatie voor hen relevant is. Raadpleeg hierbij vastgestelde [beleidskaders](0-org-02-beleid_opstellen_inzet_algoritmes.md),\ + \ informatie voor hen relevant is. Raadpleeg hierbij vastgestelde [beleidskaders](0-org-02-beleid-opstellen-inzet-algoritmes.md),\ \ waarin is beschreven welke informatie in welke gevallen moet worden gecommuniceerd.\n\ \nStel bijvoorbeeld de volgende vragen:\n\n| Vragen\t|Acties die je kan ondernemen\ \ |\n| :-----------------|---------------|\n| Wie heeft informatie nodig over het\ @@ -26,7 +26,7 @@ explanation: "Welke informatie over algoritmes relevant is, verschilt per partij \ in elke fase van de levenscyclus? |\n| Wie is er verantwoordelijk voor de informatieverstrekking?\ \ | Bepaal wie er informatie over het algoritme moet ophalen, en wie er voor die\ \ informatie kan zorgen. |\n\nMaak bij het vaststellen van de informatiebehoefte\ - \ onderscheid tussen transparantie, [uitlegbaarheid](2-owp-30-toepassen_uitlegbaarheidstechnieken.md)\ + \ onderscheid tussen transparantie, [uitlegbaarheid](2-owp-33-toepassen-uitlegbaarheidstechnieken.md)\ \ en interpreteerbaarheid. Houd daarbij ook rekening met zaken die moeten worden\ \ gecommuniceerd. Denk hierbij aan het kunnen uitleggen hoe een automatisch genomen\ \ besluit tot stand is gekomen. \n\nStel een communicatieplan op over de ontwikkeling\ @@ -43,7 +43,7 @@ explanation: "Welke informatie over algoritmes relevant is, verschilt per partij \ planning voor de communicatieactiviteiten?\n\nOverleg regelmatig met betrokkenen\ \ en [belanghebbenden](1-pba-04-betrek-belanghebbenden.md) in hoeverre de informatieverstrekking\ \ aansluit bij de (nieuwe) behoeften.\n" -urn: urn:nl:ak:mtr:pba-04 +urn: urn:nl:ak:mtr:owp-31 language: nl owners: - organization: Algoritmekader @@ -51,7 +51,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-informeer_betrokkenen/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-informeer-betrokkenen/index.html subject: - transparantie suggested_roles: diff --git a/measures/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd.yaml b/measures/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd.yaml similarity index 96% rename from measures/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd.yaml rename to measures/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd.yaml index 497e858..7ea8d62 100644 --- a/measures/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd.yaml +++ b/measures/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd.yaml @@ -16,7 +16,7 @@ explanation: "- Interne vastgestelde beleidskaders moeten worden toegepast bij h - Ten behoeve van controles en audits is het van belang dat aantoonbaar wordt gemaakt\ \ dat de vastgestelde beleidskaders zijn nageleefd. \n \nDe in te zetten algoritmes\ \ voldoen niet aan vastgestelde beleidskaders. \n" -urn: urn:nl:ak:mtr:owp-28 +urn: urn:nl:ak:mtr:owp-32 language: nl owners: - organization: Algoritmekader @@ -24,7 +24,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd/index.html subject: - governance suggested_roles: diff --git a/measures/2-owp-30-toepassen_uitlegbaarheidstechnieken.yaml b/measures/2-owp-33-toepassen-uitlegbaarheidstechnieken.yaml similarity index 95% rename from measures/2-owp-30-toepassen_uitlegbaarheidstechnieken.yaml rename to measures/2-owp-33-toepassen-uitlegbaarheidstechnieken.yaml index fb3ece8..8d50bcd 100644 --- a/measures/2-owp-30-toepassen_uitlegbaarheidstechnieken.yaml +++ b/measures/2-owp-33-toepassen-uitlegbaarheidstechnieken.yaml @@ -11,7 +11,7 @@ explanation: "Uitlegbaarheidstechnieken helpen om de werking van een algoritme t \ hoe deze systemen beslissingen maken. \n\nAfhankelijk van het type algoritme zijn\ \ er uitlegbaarheidstechnieken beschikbaar om de werking en keuzes van een algoritme\ \ bloot te leggen. Er moet eerst een keuze worden gemaakt welk type algoritme geschikt\ - \ is gezien de [informatiebehoefte](2-owp-29-informeer_betrokkenen.md). Het is belangrijk\ + \ is gezien de [informatiebehoefte](2-owp-31-informeer-betrokkenen.md). Het is belangrijk\ \ om samen met de betrokken partijen vast te leggen welke uitlegbaarheidstechnieken\ \ moeten worden toegepast. Bij bronnen kan informatie worden geraadpleegd die helpen\ \ bij het vinden van de juiste methodiek.\n\n### Gebruik uitlegbaarheid bij besluiten\n\ @@ -32,8 +32,8 @@ explanation: "Uitlegbaarheidstechnieken helpen om de werking van een algoritme t \ gebruiker om hier op een verantwoorde wijze mee te werken.\n\nAls er geen rekening\ \ wordt gehouden met de uitlegbaarheid van een algoritme binnen een bepaalde context,\ \ ontstaat het risico dat de output van het algoritme niet wordt begrepen of verkeerd\ - \ wordt geïnterpreteerd, wat kan leiden tot onjuist gebruik.\n" -urn: urn:nl:ak:mtr:owp-07 + \ wordt geïnterpreteerd, wat kan leiden tot onjuist gebruik.\n\n" +urn: urn:nl:ak:mtr:owp-33 language: nl owners: - organization: Algoritmekader @@ -41,7 +41,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-toepassen_uitlegbaarheidstechnieken/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-33-toepassen-uitlegbaarheidstechnieken/index.html subject: - transparantie suggested_roles: diff --git a/measures/2-owp-34-technische-interventies-robuustheid.yaml b/measures/2-owp-34-technische-interventies-robuustheid.yaml new file mode 100644 index 0000000..474bfaf --- /dev/null +++ b/measures/2-owp-34-technische-interventies-robuustheid.yaml @@ -0,0 +1,61 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Identificeer en implementeer technische interventies die robuustheid vergroten +description: "Bepaal in het ontwerp welke technische interventies bijdragen aan de\ + \ [robuustheid](../../onderwerpen/technische-robuustheid-en-veiligheid.md#wat-is-technisch-robuust-en-veilig)\ + \ van het algoritme. Deze keuzes moeten in lijn zijn met het [beoogde doel](1-pba-02-formuleren-doelstelling.md)\ + \ en de context. \n" +explanation: "Maak in de ontwerpfase de volgende afwegingen:\n\n- **Identificeer en\ + \ implementeer technische interventies die de robuustheid vergroten**\n\n In\ + \ het ontwerp en in de training kunnen extra interventies worden genomen die de\ + \ robuustheid vergroten. Dit kan op verschillende niveaus. Denk bijvoorbeeld aan:\ + \ \n \n - *Data Augmentation*: op data niveau kan de dataset uitgebreid worden\ + \ met variaties op de oorspronkelijke data, bijvoorbeeld door het toevoegen van\ + \ extra ruis aan de dataset; \n - *Regularisatie*: tijdens training kunnen interventies\ + \ worden gebruikt die overfitting voorkomen zoals *dropout* of *weight decay*. \n\ + \ - *[Cross-validation](3-dat-07-training-validatie-en-testdata.md#k-fold-cross-validation)*:\ + \ tijdens training kunnen meerdere combinaties van train- en testsets gebruikt worden\ + \ om generalisatie te waarborgen.\n - *Model ensembles*: er kunnen meerdere modellen\ + \ gecombineerd worden om samen een beslissing te maken, dit minimaliseert de impact\ + \ van een fout van één model. \n - *[Adversarial training](#)*: het trainen met\ + \ speciale voorbeelden die bedoeld zijn om het model te misleiden. \n - Ook\ + \ zijn er andere methoden die generalisatie kunnen verbeteren, zoals *invariant\ + \ risk minimization*, *robust optimization*, *transfer learning* en *causal learning*.\ + \ \n\n- **Bepaal de factoren waarop je interventies voor robuustheid beoordeelt**\n\ + \ Afhankelijk van de context, verschillen de factoren waarop je deze afwegingen\ + \ maakt. \n Denk aan complexiteit van de data, invoerdata en resultaten, [risico\ + \ en impact als het fout gaat](2-owp-06-impactanalyse.md), belang van [betrouwbaarheid\ + \ versus nauwkeurigheid](../../onderwerpen/technische-robuustheid-en-veiligheid.md#wat-is-technisch-robuust-en-veilig),\ + \ of belang van robuustheid versus transparantie. \n\n- **Leg de beargumenteerde\ + \ keuze vast**\n Leg vast welke keuzes er gemaakt zijn en waarom deze keuzes\ + \ zijn gemaakt. \n\nWanneer robuustheid niet in het ontwerp wordt meegenomen, kan\ + \ er voor een model worden gekozen waar het niet mogelijk is robuustheid voldoende\ + \ te waarborgen.\nHet model wordt dan ofwel ingezet met de risico’s van dien of\ + \ de innovatie moet later stop gezet worden. \n" +urn: urn:nl:ak:mtr:owp-34 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-34-technische-interventies-robuustheid/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +lifecycle: +- ontwerp +- ontwikkelen +links: +- urn:nl:ak:ver:aia-06 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/2-owp-31-toepassen_vastgestelde-beleidskaders.yaml b/measures/2-owp-35-toepassen-vastgestelde-beleidskaders.yaml similarity index 91% rename from measures/2-owp-31-toepassen_vastgestelde-beleidskaders.yaml rename to measures/2-owp-35-toepassen-vastgestelde-beleidskaders.yaml index e35a74a..beec9ab 100644 --- a/measures/2-owp-31-toepassen_vastgestelde-beleidskaders.yaml +++ b/measures/2-owp-35-toepassen-vastgestelde-beleidskaders.yaml @@ -6,7 +6,7 @@ description: 'Pas vastgestelde beleidskaders toe. ' explanation: "- Vastgestelde (interne) beleidskaders moeten worden toegepast bij het\ \ ontwikkelen, inkopen of gebruiken van algoritmes. Denk aan [specifiek beleid voor\ - \ de inzet van algoritmes]([0-org-02-beleid_opstellen_inzet_algoritmes.md).\n- Het\ + \ de inzet van algoritmes](0-org-02-beleid-opstellen-inzet-algoritmes.md).\n- Het\ \ is van belang dat tijdig, bijvoorbeeld in de [probleemanalyse fase](../../levenscyclus/probleemanalyse.md),\ \ inzichtelijk wordt gemaakt welke interne beleidskaders moeten worden toegepast.\n\ - Hierbij kan worden gedacht aan definities die moet worden gehanteerd, het naleven\ @@ -17,7 +17,7 @@ explanation: "- Vastgestelde (interne) beleidskaders moeten worden toegepast bij \ van controles en audits is het van belang dat aantoonbaar wordt gemaakt dat de\ \ vastgestelde beleidskaders zijn nageleefd. \n \nDe in te zetten algoritmes voldoen\ \ niet aan vastgestelde beleidskaders. \n" -urn: urn:nl:ak:mtr:org-02 +urn: urn:nl:ak:mtr:owp-35 language: nl owners: - organization: Algoritmekader @@ -25,7 +25,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-toepassen_vastgestelde-beleidskaders/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-35-toepassen-vastgestelde-beleidskaders/index.html subject: - governance - transparantie diff --git a/measures/2-owp-36-voorkom-kwetsbaarheden-supplychain.yaml b/measures/2-owp-36-voorkom-kwetsbaarheden-supplychain.yaml new file mode 100644 index 0000000..5509616 --- /dev/null +++ b/measures/2-owp-36-voorkom-kwetsbaarheden-supplychain.yaml @@ -0,0 +1,61 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het + algoritme. +description: "Het in gebruik nemen van algoritmes die door anderen zijn ontwikkeld\ + \ brengt risico’s met zich mee waar je je tegen moet beschermen. \nDeze risico’s\ + \ moeten adequaat afgedekt worden door afhankelijkheden te analyseren en afspraken\ + \ te maken met leveranciers en controles uit te voeren.\n" +explanation: "Veel algoritmes zullen niet zelf ontwikkeld worden, maar bijvoorbeeld\ + \ compleet [ingekocht](../../onderwerpen/publieke-inkoop.md) worden of op een externe\ + \ server getraind worden. \nRedenen om dit te doen zijn het reeds beschikbaar zijn\ + \ van een voorgetraind algoritme of bijvoorbeeld een gebrek aan technische kennis,\ + \ een gebrek aan voldoende trainingsdata en een gebrek aan rekenkracht binnen de\ + \ eigen organisatie. \n\nEchter is het een stuk lastiger om deze modellen te beschermen\ + \ tegen aanvallen zoals [backdoors] omdat er geen (directe) controle is op het correct\ + \ uitvoeren van een trainingsproces. \n\nEen eerste stap is om in kaart te brengen\ + \ welke afhankelijkheden er zijn en te onderzoeken of deze beheersbaar zijn. \n\ + Er moeten er duidelijke afspraken gemaakt worden met leveranciers, bijvoorbeeld\ + \ in de vorm van een [Service Level Agreement (SLA)](2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.md).\ + \ \nOp deze manier kan bijvoorbeeld afgesproken wie er verantwoordelijk is voor\ + \ bijvoorbeeld het correct trainen en functioneren van het algoritme en hoe incidenten\ + \ afgehandeld moeten worden.\n\nTot slot kunnen extra maatregelen genomen worden\ + \ om te verifiëren dat het model inderdaad functioneert zoals afgesproken. Zo kunnen\ + \ er formele methodes gebruikt worden om het algoritme te verifiëren, en kan het\ + \ gedrag van het algoritme getest worden tegen bekende, foutieve invoerwaarden.\ + \ \n\n\nAls onvoldoende duidelijk is hoe een algoritme werkt en tot stand is gekomen\ + \ kan deze onverwachts gedrag vertonen tijdens het gebruik.\n" +urn: urn:nl:ak:mtr:owp-36 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-36-voorkom-kwetsbaarheden-supplychain/index.html +subject: +- publieke-inkoop +- data +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +- beleid-en-advies +- jurist +lifecycle: +- ontwerp +links: +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-32 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-12 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/2-owp-31-genereren-bronvermelding.yaml b/measures/2-owp-37-genereren-bronvermelding.yaml similarity index 77% rename from measures/2-owp-31-genereren-bronvermelding.yaml rename to measures/2-owp-37-genereren-bronvermelding.yaml index 0cd1355..8422cdd 100644 --- a/measures/2-owp-31-genereren-bronvermelding.yaml +++ b/measures/2-owp-37-genereren-bronvermelding.yaml @@ -7,18 +7,18 @@ description: 'Maak gebruik van een algoritme dat bronvermelding kan genereren bi ' explanation: "Bij het gebruik van generatieve AI/LLM’s is bronvermelding van belang.\n\ Hiermee kan tot op zekere hoogte een beoordeling worden gegeven in hoeverre bij\ - \ het trainen van het AI-model [rechtmatig](aut-01-auteursrechten.md) [gebruik](dat-01-databankenwet.md)\ - \ is gemaakt van bronnen.\nBronvermelding is daarnaast essentieel om de output van\ - \ het AI-model [inhoudelijk te kunnen controleren](../../levenscyclus/verificatie-en-validatie.md),\ + \ het trainen van het AI-model [rechtmatig](../vereisten/aut-01-auteursrechten.md)\ + \ [gebruik](../vereisten/dat-01-databankenwet.md) is gemaakt van bronnen.\nBronvermelding\ + \ is daarnaast essentieel om de output van het AI-model [inhoudelijk te kunnen controleren](../../levenscyclus/verificatie-en-validatie.md),\ \ wat ook informatie geeft in hoeverre het AI-model bijvoorbeeld al dan niet hallucineert\ \ of manipuleert. \n\nVoor het ontwikkelen van een AI-model is bronvermelding noodzakelijk,\ \ omdat het voor ontwikkelaars de enige manier is om te kunnen controleren of het\ \ model goed werkt. Dit geldt ook voor ontwikkelaars die pre-trained modellen gebruiken.\ \ \n\nNeem het kunnen generenen van een bronvermelding mee als een 'requirement'\ \ voor het te ontwikkelen AI-model in de ontwerpfase of maakt het onderdeel van\ - \ de behoeftestelling en [specificeer deze behoefte](2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.md)\ + \ de behoeftestelling en [specificeer deze behoefte](2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.md)\ \ in het inkoopproces.\n" -urn: urn:nl:ak:mtr:imp-10 +urn: urn:nl:ak:mtr:owp-37 language: nl owners: - organization: Algoritmekader @@ -26,7 +26,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-genereren-bronvermelding/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/2-owp-37-genereren-bronvermelding/index.html subject: - transparantie - publieke-inkoop diff --git a/measures/3-dat-01-datakwaliteit.yaml b/measures/3-dat-01-datakwaliteit.yaml index 2d4ed38..2972132 100644 --- a/measures/3-dat-01-datakwaliteit.yaml +++ b/measures/3-dat-01-datakwaliteit.yaml @@ -6,7 +6,7 @@ description: 'Stel vast of de gebruikte data van voldoende kwaliteit is voor de ' explanation: "- Stel functionele eisen voor de datakwaliteit vast en [analyseer structureel\ - \ of er aan deze eisen wordt voldaan](7-mon-04-evalueer-bij-veranderingen-in-data.md).\ + \ of er aan deze eisen wordt voldaan](7-mon-05-evalueer-bij-veranderingen-in-data.md).\ \ \n\n- De kwaliteit van de data die als input voor het algoritme wordt gebruikt\ \ is bepalend voor de uitkomsten van het algoritme. Hier wordt soms ook naar gerefereerd\ \ als *garbage in = garbage out*. \n- Een vraag die gesteld dient te worden: beschrijft\ @@ -19,9 +19,9 @@ explanation: "- Stel functionele eisen voor de datakwaliteit vast en [analyseer \ \n\n- De vraag of de data kwaliteit voldoende is, hangt sterk samen met de vraag\ \ of er bias in de onderliggende data zit. Analyseer daarom ook welke bias en aannames\ \ er besloten zijn in de onderliggende data. Denk hierbij onder andere aan de volgende\ - \ vormen van bias:\n\n - [historische bias](../../onderwerpen/bias-en-non-discriminatie.md#verschillende-vormen-van-bias)\n\ - \ - [meetbias](../../onderwerpen/bias-en-non-discriminatie.md#verschillende-vormen-van-bias)\n\ - \ - [representatie bias](../../onderwerpen/bias-en-non-discriminatie.md#verschillende-vormen-van-bias)\n\ + \ vormen van bias:\n\n - [historische bias](../../onderwerpen/bias-en-non-discriminatie.md#herken-bias)\n\ + \ - [meetbias](../../onderwerpen/bias-en-non-discriminatie.md#herken-bias)\n\ + \ - [representatie bias](../../onderwerpen/bias-en-non-discriminatie.md#herken-bias)\n\ \n- Zorg dat je data [vindbaar, toegankelijk, interoperabel en herbruikbaar (FAIR)](3-dat-02-fair-data.md)\ \ is.\n\n\n!!! note \"Let op!\"\n\n Wanneer je een algoritme inkoopt en de ontwikkeling\ \ van het algoritme uitbesteedt aan een derde partij, houdt er dan dan rekening\ diff --git a/measures/3-dat-04-bewaartermijnen-persoonsgegevens.yaml b/measures/3-dat-03-bewaartermijnen-persoonsgegevens.yaml similarity index 94% rename from measures/3-dat-04-bewaartermijnen-persoonsgegevens.yaml rename to measures/3-dat-03-bewaartermijnen-persoonsgegevens.yaml index 2b9940a..c745615 100644 --- a/measures/3-dat-04-bewaartermijnen-persoonsgegevens.yaml +++ b/measures/3-dat-03-bewaartermijnen-persoonsgegevens.yaml @@ -17,7 +17,7 @@ explanation: "- (Persoons)gegevens die het algoritme verwerkt worden niet langer \ systemen) zijn getroffen en zorg dat dit aantoonbaar is, bijvoorbeeld met logbestanden.\n\ - Maak aantoonbaar dat persoonsgegevens zijn vernietigd, bijvoorbeeld met logbestanden.\ \ \n" -urn: urn:nl:ak:mtr:dat-04 +urn: urn:nl:ak:mtr:dat-03 language: nl owners: - organization: Algoritmekader @@ -25,7 +25,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-04-bewaartermijnen-persoonsgegevens/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-03-bewaartermijnen-persoonsgegevens/index.html subject: - technische-robuustheid-en-veiligheid - privacy-en-gegevensbescherming diff --git a/measures/3-dat-05-pseudonimiseren-anonimiseren.yaml b/measures/3-dat-04-pseudonimiseren-anonimiseren.yaml similarity index 94% rename from measures/3-dat-05-pseudonimiseren-anonimiseren.yaml rename to measures/3-dat-04-pseudonimiseren-anonimiseren.yaml index a27990e..21996a9 100644 --- a/measures/3-dat-05-pseudonimiseren-anonimiseren.yaml +++ b/measures/3-dat-04-pseudonimiseren-anonimiseren.yaml @@ -11,7 +11,7 @@ explanation: "- Als is vastgesteld welke persoonsgegevens mogen worden verwerkt \ of aggregeren van persoonsgegevens.\n- Het bepalen of persoonsgegevens mogen worden\ \ verwerkt voor algoritmes moet worden bekeken in samenhang met maatregelen die\ \ kunnen worden getroffen om deze gegevens te beschermen. \n\n" -urn: urn:nl:ak:mtr:dat-05 +urn: urn:nl:ak:mtr:dat-04 language: nl owners: - organization: Algoritmekader @@ -19,7 +19,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-05-pseudonimiseren-anonimiseren/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-04-pseudonimiseren-anonimiseren/index.html subject: - privacy-en-gegevensbescherming suggested_roles: diff --git a/measures/3-dat-06-schending-auteursrechten.yaml b/measures/3-dat-05-schending-auteursrechten.yaml similarity index 92% rename from measures/3-dat-06-schending-auteursrechten.yaml rename to measures/3-dat-05-schending-auteursrechten.yaml index 0eac75e..e042ef3 100644 --- a/measures/3-dat-06-schending-auteursrechten.yaml +++ b/measures/3-dat-05-schending-auteursrechten.yaml @@ -16,7 +16,7 @@ explanation: 'Het is van belang om te controleren of de te verwerken data waar o worden gebruikt voor de ontwikkeling van een algoritme. ' -urn: urn:nl:ak:mtr:dat-06 +urn: urn:nl:ak:mtr:dat-05 language: nl owners: - organization: Algoritmekader @@ -24,7 +24,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-06-schending-auteursrechten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-05-schending-auteursrechten/index.html subject: - data suggested_roles: diff --git a/measures/3-dat-07-duurzame-datacenters.yaml b/measures/3-dat-06-duurzame-datacenters.yaml similarity index 97% rename from measures/3-dat-07-duurzame-datacenters.yaml rename to measures/3-dat-06-duurzame-datacenters.yaml index c6ddb71..0c77183 100644 --- a/measures/3-dat-07-duurzame-datacenters.yaml +++ b/measures/3-dat-06-duurzame-datacenters.yaml @@ -45,7 +45,7 @@ explanation: 'Door data op te slaan en algoritmes te laten draaien in datacenter je risico op hogere energiekosten. ' -urn: urn:nl:ak:mtr:dat-07 +urn: urn:nl:ak:mtr:dat-06 language: nl owners: - organization: Algoritmekader @@ -53,7 +53,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-07-duurzame-datacenters/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-06-duurzame-datacenters/index.html subject: - duurzaamheid suggested_roles: diff --git a/measures/3-dat-07-training-validatie-en-testdata.yaml b/measures/3-dat-07-training-validatie-en-testdata.yaml index 28025c3..fa8b248 100644 --- a/measures/3-dat-07-training-validatie-en-testdata.yaml +++ b/measures/3-dat-07-training-validatie-en-testdata.yaml @@ -10,19 +10,19 @@ explanation: "Verdeel je dataset in drie delen:\n\n1. **de trainingsset**\n\n \ patronen of relaties geleerd die later gebruikt kunnen worden om voorspellingen\ \ mee te doen.\n\n De [kwaliteit](3-dat-01-datakwaliteit.md) van deze dataset\ \ moet goed zijn en zo representatief mogelijk voor de doelpopulatie. Eventuele\ - \ [bias](../../onderwerpen/bias-en-non-discriminatie.md#verschillende-vormen-van-bias)\ - \ of vooroordelen in deze dataset kan door het trainen in het model sluipen.\n\n\ - \ Let bij het samenstellen van de traningsset op dat de data waarop het model\ - \ gebaseerd is, niet beschikbaar zijn voordat de uitkomsten zijn geobserveerd. Met\ - \ andere woorden, zorg ervoor de de voorspellingen geen onderdeel kunnen zijn van\ - \ de inputvariabelen. \n\n3. **de validatieset**\n\n De validatieset fungeert\ - \ als een onafhankelijke, onbevooroordeelde dataset voor het vergelijken van de\ - \ prestaties van verschillende algoritmes die zijn getraind op onze trainingsset.\n\ - \n Verschillende modellen kunnen getraind worden op de trainingsdataset. Zo kan\ - \ je bijvoorbeeld variëren in de (hyper)parameters of de inputvariabelen. Dit leidt\ - \ tot verschillende varianten van het model. Om de prestaties van de verschillende\ - \ modellen te vergelijken, moeten we een nieuwe dataset gebruiken: de validatieset.\ - \ Zou je hiervoor de trainingsdataset gebruiken, kan dat leiden tot [overfitting](https://hastie.su.domains/ISLP/ISLP_website.pdf.download.html),\ + \ [bias](../../onderwerpen/bias-en-non-discriminatie.md#herken-bias) of vooroordelen\ + \ in deze dataset kan door het trainen in het model sluipen.\n\n Let bij het samenstellen\ + \ van de traningsset op dat de data waarop het model gebaseerd is, niet beschikbaar\ + \ zijn voordat de uitkomsten zijn geobserveerd. Met andere woorden, zorg ervoor\ + \ de de voorspellingen geen onderdeel kunnen zijn van de inputvariabelen. \n\n3.\ + \ **de validatieset**\n\n De validatieset fungeert als een onafhankelijke, onbevooroordeelde\ + \ dataset voor het vergelijken van de prestaties van verschillende algoritmes die\ + \ zijn getraind op onze trainingsset.\n\n Verschillende modellen kunnen getraind\ + \ worden op de trainingsdataset. Zo kan je bijvoorbeeld variëren in de (hyper)parameters\ + \ of de inputvariabelen. Dit leidt tot verschillende varianten van het model. Om\ + \ de prestaties van de verschillende modellen te vergelijken, moeten we een nieuwe\ + \ dataset gebruiken: de validatieset. Zou je hiervoor de trainingsdataset gebruiken,\ + \ kan dat leiden tot [overfitting](https://hastie.su.domains/ISLP/ISLP_website.pdf.download.html),\ \ wanneer het model dan te specifiek afgestemd is op 1 dataset. Het model kan dan\ \ niet voldoende generaliseren voor nieuwe situaties.\n\n4. **de testset**\n\n \ \ Nadat er met behulp van de validatieset een keuze is gemaakt voor een passend\ diff --git a/measures/3-dat-09-dataminimalisatie.yaml b/measures/3-dat-09-dataminimalisatie.yaml index 976624f..5df1cdc 100644 --- a/measures/3-dat-09-dataminimalisatie.yaml +++ b/measures/3-dat-09-dataminimalisatie.yaml @@ -27,7 +27,7 @@ explanation: 'Hoe meer je bewaart, hoe meer ruimte dat kost om op te slaan. Bove onnodige verwerkingskracht. Door alleen unieke en relevante gegevens op te slaan, wordt de opslagbehoefte verder beperkt. - - **Opschonen en archiveren van verouderde data**: [Regelmatige archivering](2-owp-08-archiveren-documenten.md) + - **Opschonen en archiveren van verouderde data**: [Regelmatige archivering](2-owp-09-archiveren-documenten.md) of verwijdering van verouderde data in je dataset zorgt voor een verminderde voetafdruk en verhoogt ook de efficiëntie. diff --git a/measures/3-dat-11-datamanipulatie.yaml b/measures/3-dat-11-datamanipulatie.yaml new file mode 100644 index 0000000..6180f2f --- /dev/null +++ b/measures/3-dat-11-datamanipulatie.yaml @@ -0,0 +1,73 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Controleer de data op manipulatie en ongewenste afhankelijkheden +description: 'De dataset die gebruikt wordt om een model te (her)trainen moet periodiek + gecontroleerd worden op manipulatie (data poisoning). Voorkom ongewenste afhankelijkheden. + + ' +explanation: "Manipulatie van data wordt een “data poisoning” aanval genoemd [^1]\ + \ [^2] [^3]. Een kwaadwillende kan op verschillende manieren te werk gaan:\n\n-\ + \ Bewust verkeerde informatie aan de dataset toevoegen. Dit is bijvoorbeeld mogelijk\ + \ door als aanvaller zelf een foutieve dataset beschikbaar te stellen. Controleer\ + \ daarom goed of een afgenomen dataset de kenmerken heeft die je verwacht. Daarnaast\ + \ kun je ook nog verifiëren of bijvoorbeeld het proces waarmee de dataset vergaard\ + \ is op de juiste manier is uitgevoerd. Tot slot is het verstandig om te voorkomen\ + \ dat de dataset afhankelijk is van een enkele bron.\n- Een aanvaller kan een bestaande\ + \ dataset aanpassen, door bijvoorbeeld labels om te draaien. In dit geval moet een\ + \ aanvaller toegang krijgen tot de locatie van de dataset. Bescherming hiertegen\ + \ begint met algemene beveiligingsmaatregelen, bijvoorbeeld zoals beschreven in\ + \ de [BIO](../hulpmiddelen/BIO.md). Daarnaast moet er ook gekeken worden naar het\ + \ voorkomen van een insider aanval. Dit kan door selectief te zijn in het verlenen\ + \ van toegang tot de locatie van de data en bijvoorbeeld het toepassen van een vier-ogen\ + \ principe.\n- In lijn met het aanpassen van de dataset kan een aanvaller ook een\ + \ deel van de dataset verwijderen. Dit is naar verwachting makkelijker te realiseren\ + \ dan het selectief aanpassen van de data. Door bijvoorbeeld alle data over een\ + \ bepaalde groep personen uit de dataset te verwijderen functioneert het model minder\ + \ goed voor die groep. Controleer daarom of de dataset waarmee uiteindelijk getraind\ + \ wordt precies hetzelfde is als de origineel bedoelde data. Dit kan bijvoorbeeld\ + \ door middel van een handtekening die geverifieerd kan worden. \n\nOp deze manieren\ + \ kan een aanvaller een model slecht laten functioneren, of alleen fouten laten\ + \ maken op specifiek gekozen invoerwaarden. Een aanvaller kan de trainingsdata\ + \ zo beïnvloeden dat nummerborden met een stip altijd foutief gelezen worden, waardoor\ + \ criminelen kentekencontroles kunnen ontwijken. In dit geval wordt ook wel gesproken\ + \ over een [“backdoor” aanval](4-owk-09-adversarial-aanvallen.md#backdoor).\n\n\ + ### Adversarial traning\nDaarnaast kan het principe van [adversarial training](https://arxiv.org/abs/1611.01236)\ + \ worden toegepast door zelf bewust foutieve invoerwaarden aan de trainingsdata\ + \ toe te voegen. \nDoor een algoritme hierop te laten trainen kan deze beter bestand\ + \ gemaakt worden tegen aanvallen tijdens het gebruik.\n\nEen aanvaller kan proberen\ + \ om de trainingsdataset te manipuleren om het uiteindelijke model doelbewust fouten\ + \ te laten maken. Dit kan leiden tot verkeerde antwoorden, vooroordelen of zelfs\ + \ kwetsbaarheden in het model.\n" +urn: urn:nl:ak:mtr:dat-11 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-11-datamanipulatie/index.html +subject: +- data +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +- beleid-en-advies +lifecycle: +- dataverkenning-en-datapreparatie +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-32 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-12 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/3-dat-12-controleren-inputdata.yaml b/measures/3-dat-12-controleren-inputdata.yaml new file mode 100644 index 0000000..7da9037 --- /dev/null +++ b/measures/3-dat-12-controleren-inputdata.yaml @@ -0,0 +1,62 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Controleer de input van gebruikers op misleiding +description: 'Controleer de inputdata van gebruikers op misleiding. + + ' +explanation: "Een algemeen belangrijke stap in cyberveiligheid is het valideren of\ + \ de inputdata voldoet aan de verwachting. \nZo moet gecontroleerd worden of de\ + \ [input valide, compleet en consistent](3-dat-01-datakwaliteit.md) is. \nBijvoorbeeld\ + \ door te verifiëren of een leeftijd niet negatief is en of er geen tegenstrijdige\ + \ informatie gegeven wordt. \nDit wordt typisch “*input sanitization*” genoemd.\ + \ \nVeel programmeertalen en software bibliotheken bieden standaard oplossingen\ + \ voor input sanitization.\n\nIn de context van algoritmes is het raadzaam om ook\ + \ nog specifieker te monitoren op wat voor inputs er gegeven worden aan bijvoorbeeld\ + \ een AI-systeem. \nZo kan het herhaaldelijk gebruiken van dezelfde input waarden\ + \ met minimale aanpassingen wijzen op een poging tot een model engineering of een\ + \ model inversion aanval. \n\n### Generatieve AI\nIn het specifieke geval van generatieve\ + \ AI moet er rekening gehouden worden met [*prompt injection attacks*](https://www.ibm.com/topics/prompt-injection).\ + \ \nDit zijn aanvallen waarbij aanvallers een kwaadaardige opdracht dusdanig verhullen\ + \ dat standaard checks het niet doorhebben en het model bijvoorbeeld gemanipuleerd\ + \ wordt om desinformatie te verspreiden, gevoelige data te lekken of zelfs kwaadaardige\ + \ software uit te voeren. \nOp dit moment is nog weinig bekend over hoe dit over\ + \ het algemeen effectief gemodereerd kan worden. \nEchter kunnen in bepaalde situaties\ + \ bepaalde opdrachten uitgesloten worden. Een ontwikkelaar zal dus moeten onderzoeken\ + \ om wat voor opdrachten het gaat.\nZo hoeft een AI-systeem dat een klantenservice\ + \ ondersteunt waarschijnlijk nooit een stuk code uit te voeren. \n\nAls inputdata\ + \ gemanipuleerd wordt dan kan dit leiden tot verkeerd gebruik van het algoritme.\ + \ Een aanvaller kan bijvoorbeeld doelbewust een afwijkende input kiezen om ervoor\ + \ te zorgen dat het algoritme op een andere manier gebruikt kan worden. \nDaarnaast\ + \ kunnen onbewuste fouten ertoe leiden dat het model niet meer goed functioneert.\n" +urn: urn:nl:ak:mtr:dat-12 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/3-dat-12-controleren-inputdata/index.html +subject: +- data +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +lifecycle: +- dataverkenning-en-datapreparatie +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-32 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-12 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/4-owk-02-stopzetten-gebruik.yaml b/measures/4-owk-02-stopzetten-gebruik.yaml index 21b9fcc..927cc16 100644 --- a/measures/4-owk-02-stopzetten-gebruik.yaml +++ b/measures/4-owk-02-stopzetten-gebruik.yaml @@ -1,24 +1,53 @@ systemcard_path: .systemcard.requirements[] schema_version: 1.1.0 name: Maak een noodplan voor het stoppen van het algoritme -description: "\n Tref (technische) maatregelen waarmee het gebruik van het algoritme\ - \ kan worden stopgezet.\n " -explanation: "- Er moet in een proces zijn beschreven wanneer en hoe het gebruik van\ - \ algoritmes moet worden stopgezet.\n- Het is van belang dat bij het ontwerp van\ - \ algoritmes er rekening wordt gehouden met dat het werkproces ook zonder het algoritme\ - \ kan worden uitgevoerd.\n- In het geval van risicoselectie kan er bijvoorbeeld\ - \ worden teruggevallen op het enkel uitvoeren van een [aselecte steekproef](6-imp-02-aselecte-steekproeven.md)\ +description: "\nStel een duidelijk proces op voor situaties waarin het algoritme niet\ + \ meer werkt zoals beoogd. Dit moet bevatten welke personen welke acties moeten\ + \ doen en hoe er gewerkt wordt zonder het algoritme.\n " +explanation: "Er moet gezorgd worden dat er een alternatief plan is voor als het algoritme\ + \ niet meer werkt zoals beoogd. Dit kan betekenen dat het hele systeem (tijdelijk)\ + \ wordt stopgezet, dat delen van het systeem (tijdelijk) worden uitgeschakeld of\ + \ dat er een alternatief systeem gebruikt wordt. \n\nDit proces bevat in ieder geval\ + \ de volgende stappen:\n\n### Leg vast wanneer het algoritme niet meer werkt zoals\ + \ beoogd\n- Leg vast wat de [beoogde werking van het algoritme] is(1-pba-02-formuleren-doelstelling.md).\n\ + - Bepaal of [de geïmplementeerde werking overeenkomt met de vastgelegde beoogde\ + \ werking](5-ver-01-functioneren-in-lijn-met-doeleinden.md) en wanneer het algoritme\ + \ gestopt moet worden. Dit gebeurt tijdens een [evaluatie](7-mon-04-evaluatieplan.md)\ + \ of door de [continue monitoring](7-mon-07-plan-continue-monitoring.md). \n\n###\ + \ Zorg dat beslissingen kunnen worden herzien\n- Leg vast hoe het mogelijk is na\ + \ te gaan op welk moment het algoritme stopte met werken zoals beoogd. \nWanneer\ + \ de melding vanuit continue monitoring komt is het vaak duidelijk wanneer deze\ + \ waarde wordt overschreden. \nBij vaste evaluatiemomenten moet dit worden herleid.\ + \ \nZorg dat door middel van het [loggen](4-owk-04-logging.md) van de juiste informatie\ + \ het mogelijk is te herleiden wanneer het algoritme stopte met werken zoals beoogd.\ + \ \n- Zorg dat beslissingen die zijn genomen vanaf het moment dat het algoritme\ + \ stopte met werken zoals beoogd kunnen worden herzien. Indien het algoritme niet\ + \ direct is gestopt zodra het niet meer werkte zoals beoogd, moet er opnieuw gekeken\ + \ worden naar de beslissingen die daarna zijn genomen. Leg vast op welke manier\ + \ deze beslissingen herzien worden. \n\n### Leg vast wat de vervolgacties zijn\n\ + - Leg in een proces vast hoe het gebruik van het algoritme moet worden stopgezet.\ + \ \n- Leg vast hoe er gewerkt worden zonder het algoritme en wat de impact daarvan\ + \ is op het werkproces. \n- Leg vast wie er binnen en buiten de organisatie geïnformeerd\ + \ moeten worden. \n- Het is van belang dat bij het ontwerp van algoritmes er rekening\ + \ wordt gehouden met dat het werkproces ook zonder het algoritme kan worden uitgevoerd.\n\ + - In het geval van risicoselectie kan er bijvoorbeeld worden teruggevallen op het\ + \ enkel uitvoeren van een [aselecte steekproef](6-imp-02-aselecte-steekproeven.md)\ \ als selectieinstrument. \n- Als blijkt dat het algoritme ongewenst functioneert,\ \ dan moeten (technische) maatregelen zijn getroffen waarmee het gebruik daadwerkelijk\ - \ kan worden stopgezet. Denk hierbij aan een stopknop en werkinstructies hoe het\ - \ gebruik kan worden beëindigd.\n- Maak aantoonbaar dat deze maatregelen zijn getroffen.\n\ - - De proceseigenaar of een menselijk toezichthouder moet in staat zijn om het algoritme\ - \ op elk moment te kunnen beëindigen.\n- Het stopzetten van het gebruik van een\ - \ algoritme mag niet tot gevolg hebben dat betrokkenen niet meer kunnen achterhalen\ - \ hoe besluiten tot stand zijn gekomen of dat gevolgen niet meer kunnen worden gecorrigeerd\ - \ als dat noodzakelijk is. \n \nBetrokkenen of belanghebbenden kunnen nadelige\ - \ gevolgen ondervinden van een algoritme dat onjuist functioneert en niet tijdig\ - \ kan worden stopgezet. \n" + \ kan worden stopgezet. Denk hierbij aan een stopknop en [werkinstructies](6-imp-01-werkinstructies-gebruikers.md)\ + \ hoe het gebruik kan worden beëindigd.\n- Maak aantoonbaar dat deze maatregelen\ + \ zijn getroffen.\n- De proceseigenaar of een menselijk toezichthouder moet in staat\ + \ zijn om het algoritme op elk moment te kunnen beëindigen.\n- Het stopzetten van\ + \ het gebruik van een algoritme mag niet tot gevolg hebben dat betrokkenen niet\ + \ meer kunnen achterhalen hoe besluiten tot stand zijn gekomen of dat gevolgen niet\ + \ meer kunnen worden gecorrigeerd als dat noodzakelijk is. \n\nIndien er sprake\ + \ is van discriminerende effecten van een algoritme, kan je gebruik maken van het\ + \ [discriminatieprotocol](0-org-15-discriminatieprotocol.md). \n \nAls er geen\ + \ duidelijke acties zijn gedefinieerd, kan dat bijvoorbeeld leiden tot de volgende\ + \ risico’s: het werkproces komt stil te liggen door een niet-werkend algoritme;\ + \ er worden verkeerde beslissingen genomen doordat het algoritme nog wordt gebruikt\ + \ terwijl het niet goed meer werkt, kwaadwillenden hebben langer toegang tot het\ + \ algoritme en/of organisatiedata. \n" urn: urn:nl:ak:mtr:owk-02 language: nl owners: @@ -31,6 +60,7 @@ url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatre subject: - governance - menselijke-controle +- technische-robuustheid-en-veiligheid suggested_roles: - projectleider - ontwikkelaar diff --git a/measures/4-owk-03-privacyrisico.yaml b/measures/4-owk-03-privacyrisico.yaml index 6fc2807..8fc723e 100644 --- a/measures/4-owk-03-privacyrisico.yaml +++ b/measures/4-owk-03-privacyrisico.yaml @@ -11,7 +11,7 @@ explanation: "- Verifieer of een [DPIA](../hulpmiddelen/DPIA.md) is uitgevoerd o \ en technische maatregelen moeten worden getroffen om persoonsgegevens bij de ontwikkeling\ \ en het gebruik van het algoritme te beschermen.\n- Beleg de mitigerende maatregelen\ \ bij betrokken actoren. Denk bijvoorbeeld aan het toekennen van de maatregelen\ - \ als [anonimiseren en pseudonimiseren van persoonsgegevens](3-dat-05-pseudonimiseren-anonimiseren.md)\ + \ als [anonimiseren en pseudonimiseren van persoonsgegevens](3-dat-04-pseudonimiseren-anonimiseren.md)\ \ aan een data engineer, voordat deze kunnen worden gebruikt ten behoeve van het\ \ ontwikkelen of controleren van het algoritme.\n- Bepaal welke maatregelen moeten\ \ zijn gerealiseerd voordat mag worden gestart met de verwerking van de persoonsgegevens\ diff --git a/measures/4-owk-07-reproduceerbaarheid.yaml b/measures/4-owk-07-reproduceerbaarheid.yaml new file mode 100644 index 0000000..b34136f --- /dev/null +++ b/measures/4-owk-07-reproduceerbaarheid.yaml @@ -0,0 +1,82 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Zorg voor reproduceerbaarheid van de uitkomsten +description: 'Zorg ervoor dat uitkomsten van het algoritme herhaald of herleid kunnen + worden. + + ' +explanation: "De reproduceerbaarheid omschrijft of de resultaten van een algoritme\ + \ herhaald of herleid kunnen worden. \nHet betekent dat dezelfde input leidt tot\ + \ dezelfde output in alle situaties. In ieder geval moet het algoritme dezelfde\ + \ werking vertonen. \n\nReproduceerbaarheid is sterk gelinkt aan herleidbaarheid\ + \ en traceerbaarheid. \nUitkomsten moeten altijd herleid kunnen worden aan de hand\ + \ van het model en de data. \n\nOm te zorgen voor reproduceerbaarheid van de uitkomsten,\ + \ kan je de volgende stappen nemen:\n\n1. [Bepaal welke mate van reproduceerbaarheid\ + \ nodig is](#bepaal-welke-mate-van-reproduceerbaarheid-nodig-is)\n2. [Implementeer\ + \ verschillende stappen die bijdragen aan reproduceerbaarheid](#implementeer-verschillende-stappen-die-bijdragen-aan-reproduceerbaarheid)\n\ + 3. [Test of het algoritme het gewenste niveau van reproduceerbaarheid heeft](#test-of-het-algoritme-het-gewenste-niveau-van-reproduceerbaarheid-heeft)\n\ + \n### Bepaal welke mate van reproduceerbaarheid nodig is\nAfhankelijk van de toepassing\ + \ moeten de resultaten van het algoritme te precies reproduceren zijn. \nWanneer\ + \ er gebruik wordt gemaakt van generatieve AI hoeft de output niet altijd exact\ + \ hetzelfde te zijn. \n\n### Implementeer verschillende stappen die bijdragen aan\ + \ reproduceerbaarheid\nOm te zorgen dat uitkomsten reproduceerbaar zijn, implementeer\ + \ je het volgende in je processen en systemen:\n\n- Zorg voor versiebeheer op de\ + \ code en de bijbehorende systemen. Dit geldt zowel tijdens ontwikkeling als tijdens\ + \ operatie. Tools als [Github](https://github.com/) of [Gitlab](https://about.gitlab.com/)\ + \ kunnen ondersteunen bij versiebeheer van code. \n- Zorg dat de data (trainings-\ + \ en testdata) kan worden gereproduceerd. Maak gebruik van versiebeheer op de data,\ + \ maak backups van de data, sla snapshots van de data op en maak gebruik van timestamps.\ + \ \n- Documenteer wijzigingen aan het algoritme of de systemen daaromheen.\n- Beheer\ + \ afhankelijkheden van software bibliotheken en de beschikbare versies. Verschillende\ + \ versies van veelgebruikte open-source software bibliotheken kunnen leiden tot\ + \ verschillende resultaten. Gebruik bijvoorbeeld tools als [Docker](https://www.docker.com/)\ + \ om deze versies te beheren. \n- Logging van tussenresultaten, eindresultaten,\ + \ parameters en andere benodigde informatie. \n- Houd de documentatie compleet en\ + \ compact. \n\n### Test of het algoritme het gewenste niveau van reproduceerbaarheid\ + \ heeft\nHet is belangrijk om het algoritme te testen op de mate van reproduceerbaarheid.\ + \ Dit kan je doen door:\n\n- experimenten meerdere keren te herhalen. \n- te testen\ + \ of kan worden achterhaald hoe een bepaald resultaat tot stand is gekomen. Is het\ + \ duidelijk welke data is gebruikt, en welke versie van het algoritme is gebruikt?\ + \ Test of het resultaat op basis van deze informatie opnieuw kan worden gegenereerd.\n\ + - Rekening te houden met willekeur in het systeem. Dit is bijvoorbeeld relevant\ + \ wanneer er gebruikt wordt gemaakt van *seeds* en/of *random number generators*.\ + \ Experimenteer wat de invloed is van verschillende seeds op de uitkomsten, en analyseer\ + \ of het systeem dezelfde resultaten geeft voor een vaste seed. Indien van belang,\ + \ documenteer de seed die er gebruikt wordt. \n- Test of een versie van het algoritme\ + \ opnieuw gereconstrueerd kan worden op basis van de gedocumenteerde informatie:\ + \ \n\n - trainingsdata\n - parameters\n - versies van gebruikte software\ + \ (softwarebibliotheken)\n - etc.\n\n- Indien er gebruik wordt gemaakt van generatieve\ + \ AI kan er getest worden wat de uitkomsten zijn voor dezelfde of heel vergelijkbare\ + \ prompts. \n\nWanneer uitkomsten niet herhaald kunnen worden, kan er niet worden\ + \ gegarandeerd dat vergelijkbare casussen tot vergelijkbare uitkomsten komen. \n\ + Dit maakt de uitkomsten van het algoritme mogelijk oneerlijk. \nWanneer een herhaald\ + \ experiment niet tot dezelfde uitkomsten leidt, kan het experiment niet vertrouwd\ + \ worden. \nAls uitkomsten niet herleid kunnen worden, kan er geen uitleg worden\ + \ gegeven waarom een bepaalde beslissing tot stand is gekomen. \nHierdoor kan geen\ + \ verantwoording worden geboden. \n" +urn: urn:nl:ak:mtr:owk-07 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/4-owk-07-reproduceerbaarheid/index.html +subject: +- technische-robuustheid-en-veiligheid +- transparantie +suggested_roles: +- ontwikkelaar +lifecycle: +- ontwikkelen +links: [] +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/4-owk-08-feedbackloops.yaml b/measures/4-owk-08-feedbackloops.yaml new file mode 100644 index 0000000..73e2633 --- /dev/null +++ b/measures/4-owk-08-feedbackloops.yaml @@ -0,0 +1,81 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Bepaal welke feedbackloops van invloed zijn op het algoritme +description: "Stel vast op welke manier de uitkomst of de inzet van het algoritme\ + \ van invloed kan zijn op het proces en de werking in een latere fase. \nProbeer\ + \ deze ‘feedbackloops’ in kaart te brengen zodat ze mogelijk voorkomen kunnen worden\ + \ of gemonitord kunnen worden op mogelijke negatieve effecten. \n" +explanation: "Een feedbackloop kan zich voordoen wanneer de uitkomst van een algoritme\ + \ wordt gebruikt als nieuwe input voor het algoritme. \nDeze feedbackloops kunnen\ + \ een vertekend beeld van de werkelijkheid geven en de robuustheid van het algoritme\ + \ over tijd in gevaar brengen. Dit is met name van belang wanneer algoritmes bijleren\ + \ (continue of periodiek). \n\n!!! note \"Opmerking\"\n\n Merk op dat feedbackloops\ + \ ook een positief effect kunnen hebben, wanneer bijvoorbeeld gebruikerservaring\ + \ wordt meegenomen in de doorontwikkeling van het algoritme. \n\nEr zijn verschillende\ + \ vormen van feedbackloops:\n\n- *sampling feedbackloop*: Wanneer de beslissing\ + \ die volgt uit het algoritme effect heeft op de kans dat bepaalde groepen in een\ + \ volgende selectie terechtkomen. \n\n- *individual feedbackloop*: Wanneer de mening\ + \ of visie van een beoordelaar verandert door [het gebruiken van het algoritme](../../onderwerpen/bias-en-non-discriminatie.md#bias-in-menselijk-denken)(het\ + \ overnemen van de ‘vooroordelen van een systeem’). \n\n- *feature feedbackloop*:\ + \ Bijvoorbeeld wanneer de uitkomst dat een subsidie niet verstrekt wordt, ook als\ + \ kenmerk ‘eerdere weigering van subsidie’ wordt gebruikt door het algoritme. \n\ + \n- *outcome feedbackloop*: Wanneer burgers of bedrijven op basis van de uitkomst\ + \ ander gedrag gaan vertonen. In het voorbeeld van de subsidie betekent dit bijvoorbeeld\ + \ dat burgers hun uitgavepatroon veranderen. \n\n- *machinelearning model feedbackloop*:\ + \ Wanneer nieuwe data die beschikbaar komt, is beïnvloed door de beslissing van\ + \ het algoritme zelf en deze data wordt gebruikt om een machinelearning model mee\ + \ te (her)trainen. Een ander voorbeeld is wanneer alleen data wordt gebruikt van\ + \ de personen die daadwerkelijk subsidie ontvangen om het algoritme op te (her)trainen.\ + \ De groep die geen subsidie ontvangt ontbreekt dan in de dataset. \n\n### Adversarial\ + \ feedbackloops\nSoms kunnen feedbackloops opzettelijk ingezet worden als ‘aanval’\ + \ op het systeem. \nDit hoeft niet per se vijandig te zijn, maar het kan gaan om\ + \ het opzettelijk reageren op of aanpassen van de beslissingen die uit een algoritme\ + \ volgen. \nBijvoorbeeld wanneer mensen liegen bij het invullen van een vragenlijst\ + \ van de GGD wanneer ze een soa-test willen doen, omdat ze weten dat ze dan gekwalificeerd\ + \ worden voor een gratis test [^1]. \nWanneer de belanghebbende het gedrag aanpast\ + \ zonder dat zijn of haar kenmerken daadwerkelijk veranderen, omdat het heeft geleerd\ + \ hoe het algoritme oordeelt, is dat voorbeeld van een adversarial feature feedbackloop.\ + \ \nDeze feedbackloops wil je het liefste voorzien en mitigeren. \n\n[^1]: Zie\ + \ https://nos.nl/op3/artikel/2143511-soa-sjoemelaars-liegen-voor-gratis-test\n\n\ + ### Monitoring en ophalen informatie\nFeedbackloops kunnen ook een positieve werking\ + \ hebben op het algoritme. Het is verstandig om feedback op te halen om in te zien\ + \ wat de reactie is van mensen op (beslissingen van) een algoritme. \nDit kan bijvoorbeeld\ + \ door gebruikers of belanghebbende burgers vragenlijsten te laten invullen met\ + \ vragen over hun gedrag en de ontwikkelingen hierin te monitoren. \nDaarnaast kan\ + \ het ophalen van ervaringen met het algoritme worden gebruikt voor doorontwikkeling\ + \ en verbetering van het algoritme waarbij de gewenste en ongewenste effecten meegenomen\ + \ worden. \n\nTen slotte verdient [bias](../../onderwerpen/bias-en-non-discriminatie.md)\ + \ specifieke aandacht. Houd goed in de gaten hoe het algoritme gebruikmaakt van\ + \ de kenmerken van gevoelige groepen en wat de effecten van de uitkomst zijn op\ + \ hun gedrag en de datadistributie.\n\nFeedbackloops kunnen invloed hebben op verschillende\ + \ onderdelen van het systeem waarin een algoritme zit. Als dit onopgemerkt gebeurt\ + \ kan dit een negatief effect hebben op de accuraatheid en betrouwbaarheid van het\ + \ algoritme, of ongewenste bias ontwikkelen. \n" +urn: urn:nl:ak:mtr:owk-08 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/4-owk-08-feedbackloops/index.html +subject: +- technische-robuustheid-en-veiligheid +- bias-en-non-discriminatie +suggested_roles: +- projectleider +- ontwikkelaar +lifecycle: +- ontwerp +- ontwikkelen +links: [] +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/4-owk-09-adversarial-aanvallen.yaml b/measures/4-owk-09-adversarial-aanvallen.yaml new file mode 100644 index 0000000..6dce133 --- /dev/null +++ b/measures/4-owk-09-adversarial-aanvallen.yaml @@ -0,0 +1,72 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen +description: 'Ontwerp en train het algoritme om bestand te zijn tegen adversarial + aanvallen. + + ' +explanation: "De impact van een adversarial AI-aanval hangt af van de [mate van autonomie](../ai-verordening.md#ai-systeem)\ + \ waarmee een algoritme wordt ingezet. \nEen algemene impact-beperkende maatregel\ + \ is daarom om menselijke gebruikers duidelijke instructies mee te geven om de uitkomsten\ + \ van de algoritmes te controleren.\n\nVoor de verschillende typen adversarial AI-aanvallen\ + \ zijn specifieke maatregelen mogelijk: \n\n### Poisoning aanval\nBij een poisoning\ + \ aanval wordt het AI-systeem vergiftigd doordat een aanvaller aanpassingen aan\ + \ de trainingsdata doet, waardoor het AI-systeem fouten gaat maken. \nBijvoorbeeld\ + \ een spamfilter die getraind is op gemanipuleerde data, en zo toch nog bepaalde\ + \ spam e-mails doorlaat. \nMaatregelen gericht op het [behoud van de integriteit\ + \ van de trainingsdata](3-dat-11-datamanipulatie.md) kunnen hiertegen worden ingezet.\n\ + \n### Input- of evasion aanval\nBij een input- of evasion aanval voegt een aanvaller\ + \ hele kleine bewerkingen toe aan een input zodat een AI-systeem wordt misleid:\ + \ het trekt een foute conclusie. \nEen voorbeeld hiervan is het plakken van een\ + \ gele post-it op een stopbord, waardoor een auto met AI gebaseerde omgevingsherkenning\ + \ het bord niet meer goed kan herkennen en zijn snelheid aanpast. \nOp evasion aanvallen\ + \ kan geanticipeerd worden bij het testen van de [robuustheid](2-owp-34-technische-interventies-robuustheid.md)\ + \ van algoritmes. Bijvoorbeeld door als onderdeel van een [representatieve testomgeving](5-ver-04-representatieve-testomgeving.md)\ + \ ook rekening te houden met moedwillig, subtiel aangepaste input.\n\n### Backdoor\n\ + Een backdoor in een algoritme geeft een aanvaller er toegang toe en/of de mogelijkheid\ + \ om deze te manipuleren. \nEen voorbeeld hiervan is een nummerbord herkenningsalgoritme\ + \ dat tijdens de ontwikkelfase van een backdoor voorzien is door een aanvaller,\ + \ waardoor via een speciale toevoeging aan een nummerbord deze niet meer herkend\ + \ wordt. \nMaatregelen gericht op controle van verwerking van trainingsdata, gebruik\ + \ van ontwikkeltools en halffabricaten en het trainingsproces beperken de mogelijkheid\ + \ om aanvallers backdoors te laten injecteren.\n\n### Model stealing\nBij *model\ + \ stealing* of *model reverse engineering* brengt een aanvaller in kaart hoe een\ + \ algoritme in elkaar zit. \nHierdoor kan een aanvaller het algoritme voor andere\ + \ doeleinden misbruiken, zoals het vinden van kwetsbaarheden of van *evasion tactieken*\ + \ voor het algoritme.\n\n### Inversion of inference aanval\nMet *inversion of inference*\ + \ aanvallen kan een aanvaller achterhalen wat voor (mogelijk vertrouwelijke) trainingsdata\ + \ is gebruikt. \nZo kunnen gevoelige informatie worden blootgelegd, waaronder privacygevoelige\ + \ gegevens en intellectueel eigendom.\n\nAdversarial AI-aanvallen kunnen leiden\ + \ tot ongewenste misleiding, manipulatie of uitschakeling van de werking van een\ + \ algoritme of tot verlies van gevoelige gegevens.\n" +urn: urn:nl:ak:mtr:owk-09 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/4-owk-09-adversarial-aanvallen/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- beleid-en-advies +- ontwikkelaar +lifecycle: +- ontwikkelen +links: +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-32 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-12 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/4-owk-10-voorkom-lekken-op-basis-van-output.yaml b/measures/4-owk-10-voorkom-lekken-op-basis-van-output.yaml new file mode 100644 index 0000000..323acc8 --- /dev/null +++ b/measures/4-owk-10-voorkom-lekken-op-basis-van-output.yaml @@ -0,0 +1,78 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Zorg dat er (gevoelige) informatie niet kan lekken op basis van de output van + het algoritme. +description: 'Zorg dat er (gevoelige) informatie niet kan lekken op basis van de output + van het algoritme. + + ' +explanation: "Een aanvaller kan aan de hand van de uitkomsten van een model proberen\ + \ om bepaalde eigenschappen over het model of de dataset te achterhalen. In de [brochure\ + \ van de AIVD](https://www.aivd.nl/documenten/publicaties/2023/02/15/ai-systemen-ontwikkel-ze-veilig)\ + \ wordt specifiek gewaarschuwd voor “*model engineering*”, “*model inversion*” en\ + \ “*inference*” aanvallen.\n\n- **Model engineering** refereert aan aanvallen die\ + \ als bedoeling hebben om te achterhalen hoe het model werkt. Dit kan bijvoorbeeld\ + \ als doel hebben om intellectueel eigendom te stelen of om effectiever zwakheden\ + \ in het model te kunnen onderzoeken.\n\n- **Model inversion** beschrijft aanvallen\ + \ waarbij het doel is om de trainingsdata te reconstrueren. Dit kan wederom interessant\ + \ zijn voor het stelen van intellectueel eigendom, maar ook het achterhalen van\ + \ privé gegevens als het bijvoorbeeld om een medische dataset gaat.\n\n- **Inference**\ + \ aanvallen zijn ook gericht op het achterhalen van informatie over de trainingsdata.\ + \ In tegenstelling tot model inversion, is het doel niet om de gehele trainingsdata\ + \ terug te krijgen, maar specifieke informatie. Zo kan het doel bijvoorbeeld zijn\ + \ om te achterhalen of een bepaald persoon onderdeel was van de trainingsdata of\ + \ kan met een deel van de informatie over een persoon geprobeerd worden om missende\ + \ informatie te achterhalen. Dit type aanvallen is vaak makkelijker uit te voeren\ + \ van een volledige model inversion.\n\n### Technieken voor voorkomen van lekken\n\ + \n### Statistical Disclosure Control\nStatistical Disclosure Control (SDC) is een\ + \ veelgebruikte techniek om ervoor te zorgen dat er geen gevoelige informatie lekt\ + \ uit de uitkomst van een datagedreven onderzoek.\nAlhoewel SDC vooral gericht is\ + \ om traditionele data-analyses kan het ook gebruikt worden in de context van algoritmes.\ + \ \nEr zijn verschillende voorbeelden hoe SDC kan worden toegevoegd aan een AI-systeem,\ + \ zoals [The SACRO-ML package](https://arxiv.org/abs/2212.01233).\n\n### k-anonimity\n\ + Daarnaast bestaan er ook nieuwere technieken die kunnen helpen bij het onherkenbaar\ + \ maken van mogelijk gevoelige informatie in de outputs van algoritmes. Zo zijn\ + \ er technieken gebaseerd op het generaliseren van data om individuen onherkenbaar\ + \ te maken, zoals [k-anonimity](https://dl.acm.org/doi/10.1142/s0218488502001648).\ + \ \n\n### Differential privacy\nOok bestaan er technieken die ruis toevoegen aan\ + \ de uitkomst, met wiskundige garanties van de veiligheid. De meest populaire techniek\ + \ voor het toevoegen van ruis is [differential privacy](https://dl.acm.org/doi/10.1007/11787006_1).\n\ + \n### Rate limiting\nDe hierboven benoemde oplossingen focussen op het beveiligen\ + \ van één output van het algoritme. Veel aanvallen berusten echter ook op het veelvuldig\ + \ aanroepen van een algoritme. Een andere oplossing die dit tegen kan gaan is het\ + \ limiteren van het aantal interacties dat een gebruiker mag hebben met een algoritme,\ + \ ook wel bekend als *rate limiting*. \n\nAls een gebruiker teveel informatie te\ + \ zien krijgt kan dit bijvoorbeeld leiden tot het lekken van trainingsdata of eigenschappen\ + \ van het algoritme.\n" +urn: urn:nl:ak:mtr:owk-09 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/4-owk-10-voorkom-lekken-op-basis-van-output/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +lifecycle: +- ontwikkelen +- implementatie +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-32 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-12 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/5-ver-01-functioneren-in-lijn-met-doeleinden.yaml b/measures/5-ver-01-functioneren-in-lijn-met-doeleinden.yaml index 52978bb..dbf0f27 100644 --- a/measures/5-ver-01-functioneren-in-lijn-met-doeleinden.yaml +++ b/measures/5-ver-01-functioneren-in-lijn-met-doeleinden.yaml @@ -10,7 +10,7 @@ explanation: "- Vertaal de [vastgestelde doelstelling](1-pba-02-formuleren-doels \ het algoritme. \n- Bepaal en leg vast hoe eventuele parameters, business rules\ \ en indicatoren bepaald worden. Zorg dat dit breed wordt afgestemd in de organisatie\ \ (ontwikkelteam, opdrachtgevers en beheer).\n- Houd hier rekening met eventuele\ - \ [(statistische) bias](../../onderwerpen/bias-en-non-discriminatie.md#statistische-bias):\ + \ [(statistische) bias](../../onderwerpen/bias-en-non-discriminatie.md#bias-in-statistiek-en-berekeningen):\ \ meten we daadwerkelijk wat we denken te meten? \n- Wanneer het algoritme meerdere\ \ doelen dient, is het belangrijk ook te evalueren op meerdere functionele eisen.\ \ \n- Wanneer er sprake is van een (handmatige) behandeling, bepaal dan wanneer\ diff --git a/measures/5-ver-02-evalueer-nauwkeurigheid.yaml b/measures/5-ver-02-evalueer-nauwkeurigheid.yaml new file mode 100644 index 0000000..5d5018d --- /dev/null +++ b/measures/5-ver-02-evalueer-nauwkeurigheid.yaml @@ -0,0 +1,69 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Evalueer de nauwkeurigheid van het algoritme +description: "Test en evalueer de nauwkeurigheid van het algoritme om te zorgen dat\ + \ deze accurate uitkomsten geeft. \n" +explanation: "De nauwkeurigheid van het algoritme wil zeggen: geeft het algoritme\ + \ de juiste uitkomst voor [het gewenste doel](1-pba-02-formuleren-doelstelling.md);\ + \ maakt het correcte berekeningen, voorspellingen, aanbevelingen, beslissingen of\ + \ classificeringen. \n\nVoor het evalueren van de nauwkeurigheid zijn de volgende\ + \ stappen essentieel:\n\n- Bepaal met welke methoden en [metriek(en)](#metrieken)\ + \ je de nauwkeurigheid wilt gaan meten. Pas dit aan op de [ontwerpkeuzes](../../levenscyclus/ontwerp.md),\ + \ [het beoogde doel](1-pba-02-formuleren-doelstelling.md) en [de bepaalde risico’s](2-owp-06-impactanalyse.md).\ + \ \n- [Controleer of de data volledig en actueel is](3-dat-01-datakwaliteit.md)\ + \ om de metrieken te kunnen meten.\n- Bepaal welke foutmarge acceptabel is:\n\n\ + \ - Bepaal hoe vaak het algoritme een bepaalde fout maken. Houd rekening met\ + \ verschillende fouten die gemaakt kunnen worden, zoals *false positives* en *false\ + \ negatives*. Welke fouten zijn erger om te maken? \n - De foutmarge is afhankelijk\ + \ van [welke schade wordt veroorzaakt](2-owp-06-impactanalyse.md) bij onnauwkeurige\ + \ of foutieve voorspellingen.\n - Heb hierbij aandacht voor de afweging tussen\ + \ nauwkeurigheid en [betrouwbaarheid](5-ver-06-evalueer-betrouwbaarheid.md). Een\ + \ model met hoge nauwkeurigheid op de testset kan vaak slechter generaliseren naar\ + \ situaties net buiten de test set (overfitting).\n - Bepaal interventies voor\ + \ als het restrisico hoger is dan acceptabel.\n\n - Wanneer de nauwkeurigheid\ + \ niet voldoende is tijdens de ontwikkelfase kan er besloten worden door te ontwikkelen,\ + \ andere maatregelen te treffen (bijvoorbeeld in [menselijke interventies](../../onderwerpen/menselijke-controle.md))\ + \ om het restrisico acceptabel te maken of door [te stoppen met de ontwikkeling\ + \ van het systeem](../../levenscyclus/uitfaseren.md). \n - Wanneer monitoring\ + \ aangeeft dat de nauwkeurigheid onvoldoende is, moet er een passende afweging worden\ + \ gemaakt om het systeem te verbeteren, dan wel over te gaan op het [stoppen van\ + \ het systeem](4-owk-02-stopzetten-gebruik.md).\n\n### Metrieken\nAfhankelijk van\ + \ het type algoritme zijn er verschillende metrieken waarmee je de nauwkeurigheid\ + \ kan meten. Veelgebruikte metrieken zijn:\n\n- accuraatheid *(accuracy)*\n- precisie\ + \ *(precision)*\n- *recall*\n- *F1-score*\n- *mean-squared-error*\n- *mean-absolute-error*\n\ + \nIn verschillende omgevingen en onder verschillende datasets moeten de relevante\ + \ metrieken voor jouw toepassing worden geëvalueerd.\n\nEen onnauwkeurig algoritme\ + \ geeft de verkeerde uitkomsten waardoor situaties of mogelijk personen verkeerd\ + \ beoordeeld kunnen worden. \n" +urn: urn:nl:ak:mtr:ver-02 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-evalueer-nauwkeurigheid/index.html +subject: +- technische-robuustheid-en-veiligheid +- bias-en-non-discriminatie +suggested_roles: +- ontwikkelaar +- projectleider +lifecycle: +- ontwikkelen +- verificatie-en-validatie +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-06 +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:awb-01 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/5-ver-02-biasanalyse.yaml b/measures/5-ver-03-biasanalyse.yaml similarity index 90% rename from measures/5-ver-02-biasanalyse.yaml rename to measures/5-ver-03-biasanalyse.yaml index 567a89e..e38f399 100644 --- a/measures/5-ver-02-biasanalyse.yaml +++ b/measures/5-ver-03-biasanalyse.yaml @@ -20,7 +20,7 @@ explanation: "Het uitvoeren van een analyse over onwenselijke of onrechtmatige v \ bedrijven. \n\n### Stap 1: Analyseer of er sprake is van bias\nIn deze stap is\ \ het doel om te bepalen in welke mate er sprake is van een systematisch verschil\ \ in behandeling van bepaalde objecten, mensen of groepen in vergelijking met anderen.\ - \ \nDit verschil kan zowel op een [directe als een indirecte manier](../../onderwerpen/bias-en-non-discriminatie.md/#bias-in-algoritmische-context)\ + \ \nDit verschil kan zowel op een [directe als een indirecte manier](../../onderwerpen/bias-en-non-discriminatie.md#herken-bias)\ \ ontstaan. \n\n#### Toetsen op direct onderscheid\nToetsen op direct onderscheid\ \ is in vergelijking tot toetsen op indirect onderscheid relatief eenvoudig. \n\n\ :material-arrow-right: Bepaal of de inputvariabelen die gebruikt worden leiden tot\ @@ -44,20 +44,20 @@ explanation: "Het uitvoeren van een analyse over onwenselijke of onrechtmatige v \ [College voor de Rechten van de Mens 23 april 2015, oordeel 2015-44](https://oordelen.mensenrechten.nl/oordeel/2015-44);\ \ [College voor de Rechten van de Mens 23 april 2015, oordeel 2014-0426](https://oordelen.mensenrechten.nl/oordeel/2015-43).\n\ \n#### Toetsen op indirect onderscheid\nOok selectiecriteria die op het eerste gezicht\ - \ geen enkele link lijken te hebben met een [discriminatiegrond](../../onderwerpen/bias-en-non-discriminatie.md#discriminatiegrond)\ - \ kunnen leiden tot indirect onderscheid op grond van een discriminatiegrond. \n\ - Enkele voorbeelden van zulke 'ogenschijnlijk neutrale' selectiecriteria die verband\ - \ hebben met ras of nationaliteit zijn: postcode, hoogte van het inkomen, kenteken,\ - \ familielid in het buitenland, laaggeletterdheid. \nIndirect onderscheid is in\ - \ vergelijking met direct onderscheid lastiger op te signaleren en te voorkomen.\ - \ \nDaarom is het belangrijk jouw algoritmische toepassing regelmatig te analyseren\ - \ op eventueel indirect onderscheid. \nHet toetsen op indirect onderscheid bestaat\ - \ uit 5 stappen:\n\n1. **Bepaal wat de [kwetsbare groepen](2-owp-07-kwetsbare-groepen.md)\ - \ zijn.**\nEventueel kan dit aangevuld worden op basis van de [discriminatiegronden](../../onderwerpen/bias-en-non-discriminatie.md#discriminatiegrond)\ - \ uit non-discriminatie wetgeving. Of andere groepen waarvoor verschillen in behandeling\ - \ ethisch onwenselijk zijn.\n\n2. **Bepaal wat \"verschillen in behandeling\" betekent\ - \ in de context van het algoritme.**\nIn deze stap is het belangrijk om voorafgaand\ - \ aan de daadwerkelijke analyse met een [brede groep stakeholders](1-pba-04-betrek-belanghebbenden.md)\ + \ geen enkele link lijken te hebben met een discriminatiegrond kunnen leiden tot\ + \ indirect onderscheid op grond van een discriminatiegrond. \nEnkele voorbeelden\ + \ van zulke 'ogenschijnlijk neutrale' selectiecriteria die verband hebben met ras\ + \ of nationaliteit zijn: postcode, hoogte van het inkomen, kenteken, familielid\ + \ in het buitenland, laaggeletterdheid. \nIndirect onderscheid is in vergelijking\ + \ met direct onderscheid lastiger op te signaleren en te voorkomen. \nDaarom is\ + \ het belangrijk jouw algoritmische toepassing regelmatig te analyseren op eventueel\ + \ indirect onderscheid. \nHet toetsen op indirect onderscheid bestaat uit 5 stappen:\n\ + \n1. **Bepaal wat de [kwetsbare groepen](2-owp-07-afwegen-grondrechten.md) zijn.**\n\ + Eventueel kan dit aangevuld worden op basis van de discriminatiegronden uit non-discriminatie\ + \ wetgeving. Of andere groepen waarvoor verschillen in behandeling ethisch onwenselijk\ + \ zijn.\n\n2. **Bepaal wat \"verschillen in behandeling\" betekent in de context\ + \ van het algoritme.**\nIn deze stap is het belangrijk om voorafgaand aan de daadwerkelijke\ + \ analyse met een [brede groep stakeholders](1-pba-04-betrek-belanghebbenden.md)\ \ te bepalen wat 'eerlijk' en 'rechtvaardig' wordt bevonden in de context van het\ \ betreffende algoritme. \nEr zijn veel verschillende manieren waarop je kan kijken\ \ naar onderscheid bij het gebruik van algoritmes. Voorbeelden van manieren waarop\ @@ -105,7 +105,7 @@ explanation: "Het uitvoeren van een analyse over onwenselijke of onrechtmatige v \ groepen zal het onmogelijk zijn om te beschikken over data van voldoende kwaliteit\ \ om zorgvuldig te toetsen op bias. \n De laaggeletterdheid van burgers of personen\ \ is bijvoorbeeld lastig meetbaar en in veel gevallen niet beschikbaar. \n Bepaal\ - \ in zo'n situatie [of er andere mogelijkheden zijn deze groepen te helpen](2-owp-07-kwetsbare-groepen.md),\ + \ in zo'n situatie [of er andere mogelijkheden zijn deze groepen te helpen](2-owp-07-afwegen-grondrechten.md),\ \ of dat er andere mogelijkheden zijn om eventuele ongelijke behandeling bij deze\ \ groepen te constateren. \n Bijvoorbeeld door hierop te monitoren in de klacht-\ \ en bezwarenprocedure. \n\n4. **Bereken de verschillen in behandeling en/of uitkomsten\ @@ -167,7 +167,7 @@ explanation: "Het uitvoeren van een analyse over onwenselijke of onrechtmatige v \ is uitgevoerd, bestaat het risico dat het gebruik van het algoritme discriminerende\ \ effecten met zich meebrengt. \nDit kan leiden tot een ongelijke behandeling van\ \ burgers met eventuele schade voor betrokkenen.\n" -urn: urn:nl:ak:mtr:ver-01 +urn: urn:nl:ak:mtr:ver-03 language: nl owners: - organization: Algoritmekader @@ -175,7 +175,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-biasanalyse/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-biasanalyse/index.html subject: - bias-en-non-discriminatie suggested_roles: diff --git a/measures/5-ver-04-representatieve-testomgeving.yaml b/measures/5-ver-04-representatieve-testomgeving.yaml new file mode 100644 index 0000000..1f40a01 --- /dev/null +++ b/measures/5-ver-04-representatieve-testomgeving.yaml @@ -0,0 +1,57 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Zorg voor een representatieve testomgeving +description: "Test het algoritme in verschillende scenario’s en omstandigheden die\ + \ zoveel mogelijk overeenkomen met de operationele context. \n" +explanation: "Representatieve testomstandigheden zijn essentieel om een goed onderbouwd\ + \ vertrouwen te krijgen in de prestaties en de toegevoegde waarde van het algoritme.\ + \ \nHoud daarbij bijvoorbeeld rekening met voldoende variatie en ruis die voorkomt\ + \ tijdens het operationeel gebruik of de verschillende type gebruikers die interacteren\ + \ met het algoritme. \nNeem bij het inrichten van een testomgeving de volgende aspecten\ + \ mee:\n\n- de factoren uit [de impactanalyse](2-owp-06-impactanalyse.md).\n- zorg\ + \ voor testomgeving waarin je betrouwbaarheid, nauwkeurigheid en reproduceerbaarheid\ + \ kan evalueren.\n- analyseer de verschillen tussen de dataset en operationeel gebruik.\n\ + - wanneer een gebruikerstest wordt gedaan, zorg voor een representatieve groep gebruikers.\ + \ Denk bijvoorbeeld aan verschillend enthousiasme en verschillend niveau van digitale/AI-vaardigheden.\ + \ \n- neem verschillende typen (cyber)aanvallen mee\n- valideer dat de testomgeving\ + \ de risicoanalyse en het beslissingsproces ondersteunt. \n\nVoorbeelden om bij\ + \ te dragen aan een representatieve testomgeving:\n\n- Voeg extra ruis toe aan de\ + \ testdata\n- Test op gevallen die niet passen in de verdeling van variabelen waarop\ + \ een classificatiemodel is getraind (de *out-of-distribution* scenario’s). \n-\ + \ [Test op uitzonderlijke gevallen (*outliers*) en minderheidsgroepen](5-ver-03-biasanalyse.md)\n\ + - Stel specifieke testscenario’s op. Dit kan bijvoorbeeld met de [‘What if tool’\ + \ van Google](https://ieeexplore.ieee.org/abstract/document/8807255), om specifieke\ + \ data scenario’s voor een machinelearning model te onderzoeken.\n\nAls het algoritme\ + \ niet getest wordt, of getest wordt in niet-representatieve omstandigheden, kan\ + \ er een onterecht vertrouwen in het algoritme ontstaan. \nDe evaluatie geeft dan\ + \ goede resultaten, maar het model zal minder presteren in de operationele context\ + \ waar meer variatie aanwezig is. \n" +urn: urn:nl:ak:mtr:ver-04 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-04-representatieve-testomgeving/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +- projectleider +lifecycle: +- verificatie-en-validatie +links: +- urn:nl:ak:ver:aia-03 +- urn:nl:ak:ver:aia-11 +- urn:nl:ak:ver:aia-33 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/5-ver-03-vertaling-wetgeving-naar-systeem.yaml b/measures/5-ver-05-vertaling-wetgeving-naar-systeem.yaml similarity index 96% rename from measures/5-ver-03-vertaling-wetgeving-naar-systeem.yaml rename to measures/5-ver-05-vertaling-wetgeving-naar-systeem.yaml index ac5b532..05b755f 100644 --- a/measures/5-ver-03-vertaling-wetgeving-naar-systeem.yaml +++ b/measures/5-ver-05-vertaling-wetgeving-naar-systeem.yaml @@ -36,7 +36,7 @@ explanation: "- Systemen die overheidsorganisaties inzetten voor bijvoorbeeld he \ behandelen) die later als trainingsdata kan worden gebruikt. \n \nEen beslissing\ \ of besluit wordt niet conform wetgeving genomen en is daarmee onrechtmatig, als\ \ geen goede vertaling wordt gemaakt van wetgeving naar het algoritme. \n" -urn: urn:nl:ak:mtr:ver-03 +urn: urn:nl:ak:mtr:ver-05 language: nl owners: - organization: Algoritmekader @@ -44,7 +44,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-vertaling-wetgeving-naar-systeem/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-05-vertaling-wetgeving-naar-systeem/index.html subject: - governance - transparantie @@ -52,6 +52,7 @@ suggested_roles: - jurist lifecycle: - verificatie-en-validatie +- monitoring-en-beheer links: - urn:nl:ak:ver:awb-01 - urn:nl:ak:ver:aia-08 diff --git a/measures/5-ver-06-evalueer-betrouwbaarheid.yaml b/measures/5-ver-06-evalueer-betrouwbaarheid.yaml new file mode 100644 index 0000000..0f072b0 --- /dev/null +++ b/measures/5-ver-06-evalueer-betrouwbaarheid.yaml @@ -0,0 +1,113 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Evalueer de betrouwbaarheid van het algoritme +description: "Evalueer de betrouwbaarheid van het algoritme door het algoritme te\ + \ testen op verschillende input en in verschillende situaties. \n" +explanation: "De betrouwbaarheid van een algoritme omschrijft of het algoritme in\ + \ staat is om onder verschillende omstandigheden en met alle mogelijke input tot\ + \ een correcte uitkomst te komen. \nIn sommige gevallen is het wenselijk om duidelijk\ + \ aan te geven wat de onzekerheid is van een uitkomst, of dat het juiste antwoord\ + \ niet bepaald kan worden of er kans is op fouten. \n\nOm de betrouwbaarheid te\ + \ evalueren kan je de volgende stappen doorlopen:\n\n1. [Bepaal methodes en metrieken](#bepaal-methodes-en-metrieken)\n\ + 2. [Zorg voor een representatieve testset](#zorg-voor-een-representatieve-testset)\n\ + 3. [Bepaal welke mate van betrouwbaarheid noodzakelijk is](#bepaal-welke-mate-van-betrouwbaarheid-noodzakelijk-is)\n\ + 4. [Bepaal interventies voor als het restrisico hoger is dan acceptabel](#bepaal-interventies-voor-als-het-restrisico-hoger-is-dan-acceptabel)\n\ + 5. [Zorg en controleer of de betrouwbaarheid van een uitkomst wordt meegegeven in\ + \ de output](#zorg-en-controleer-of-de-betrouwbaarheid-van-een-uitkomst-wordt-meegegeven-in-de-output)\n\ + \n### Bepaal methodes en metrieken\nBepaal met welke methodes je betrouwbaarheid\ + \ wil evalueren en welke metrieken je daarvoor wilt gebruiken.\nDe metrieken voor\ + \ prestatie kunnen gelijk zijn aan die van [nauwkeurigheid](5-ver-02-evalueer-nauwkeurigheid.md#metrieken),\ + \ alleen gaat het om de score hierop in een onbekende situatie. \nHet testen van\ + \ betrouwbaarheid kan bijvoorbeeld door precisie of recall te meten onder extreme\ + \ omstandigheden of met ruis in de data. \n\n!!! info \"Methodes om te testen op\ + \ betrouwbaarheid\"\n\n Afhankelijk van het type algoritme zijn er verschillende\ + \ methodes om betrouwbaarheid te testen. \n In de literatuur gaat het ook wel\ + \ over generalisatie wanneer we spreken over het correct presteren op nieuwe of\ + \ minder voorkomende inputs en omstandigheden. \n Hieronder enkele voorbeelden\ + \ van methoden die gebruikt kunnen worden:\n\n - De *monkey test* is een manier\ + \ om voor willekeurige, invalide of onverwachte inputs de werking van het algoritme\ + \ te testen. Het idee is om een onvoorspelbare gebruiker (of een script) willekeurige\ + \ acties te laten uitvoeren om te kijken hoe het systeem erop reageert. \n -\ + \ Door een *out-of-sample test* kan worden getest hoe een machinelearning algoritme\ + \ presteert bij een dataset verdeling die niet in de training is meegegeven. \n\ + \ - Door *stresstesten* test je de prestatie van het algoritme onder extreme\ + \ omstandigheden of ruis in de data. \n - Met synthetische data kunnen goed uitlegbare\ + \ en controleerbare distributieshifts worden gesimuleerd, om te testen of het algoritme\ + \ in een onbekende situatie, waar geen data van bruikbaar of beschikbaar is, presteert.\ + \ \n - De [AI Blindspots kaartenset](https://data-en-maatschappij.ai/tools/ai-blindspots-2.0)\ + \ kan helpen om risico’s voor betrouwbaarheid (en specifiek [bias](../../onderwerpen/bias-en-non-discriminatie.md))\ + \ te identificeren. \n\nPas de methodes en metrieken aan op de ontwerpkeuzes, zoals\ + \ de context waarin het algoritme gebruikt wordt en het [soort algoritme](2-owp-05-soort-algoritme.md).\ + \ \nOnderzoek of er specifieke situaties of omstandigheden zijn waarvan bekend is\ + \ dat deze kunnen variëren. \n\n??? example \"Voorbeeld\"\n\n Analyseer welke\ + \ veranderingen of wisselingen in de [inputdata](2-owp-11-gebruikte-data.md) er\ + \ kunnen plaatsvinden. Bijvoorbeeld door economische schommelingen of door veranderingen\ + \ in gebruikersgedrag. Test of het algoritme goed blijft presteren onder deze omstandigheden.\ + \ \n\n??? example \"Voorbeeld\"\n\n De verdeling van de inputdata kan invloed\ + \ hebben op de prestaties van een machinelearning algoritme (distributieshift).\ + \ Test hoe het algoritme presteert onder andere verdelingen van de inputdata. \n\ + \n### Zorg voor een representatieve testset\nZorg dat er een [representatieve testset](5-ver-04-representatieve-testomgeving.md)\ + \ beschikbaar is waarin het algoritme kan worden getest in verschillende scenario's.\ + \ Test het algoritme in verschillende omstandigheden:\n\n- gebruikers\n- omgeving\n\ + - interface\n- verschillende datasets\n\nTest je algoritme op generaliseerbaarheid\ + \ van de uitkomsten buiten de standaard omgeving. \n\n### Bepaal welke mate van\ + \ betrouwbaarheid noodzakelijk is\n- Bedenk onder welke variaties het systeem betrouwbaar\ + \ moet werken en hoe goed het moet kunnen werken onder rand- of uitzonderlijke gevallen.\ + \ \n- Afhankelijk van de toepassing moeten resultaten altijd dezelfde uitkomst geven\ + \ of niet ([reproduceerbaarheid](4-owk-07-reproduceerbaarheid.md)). In het geval\ + \ van generatieve AI hoeft het antwoord bijvoorbeeld niet altijd exact hetzelfde\ + \ te zijn. \n- Heb hierbij aandacht voor de afweging tussen [nauwkeurigheid](5-ver-02-evalueer-nauwkeurigheid.md)\ + \ en betrouwbaarheid. Een model met hoge nauwkeurigheid op de testset kan vaak slechter\ + \ generaliseren naar situaties net buiten de test set (overfitting). \n\n### Bepaal\ + \ interventies voor als het restrisico hoger is dan acceptabel\nBepaal wat er moet\ + \ gebeuren wanneer de betrouwbaarheid niet voldoende is. Hiervoor zijn verschillende\ + \ mogelijkheden:\n\n- Verder ontwikkelen aan het algoritme en andere maatregelen\ + \ treffen om het restrisico acceptabel te maken. Bijvoorbeeld door:\n\n - meer\ + \ [menselijke controle](../../onderwerpen/menselijke-controle.md) toe te voegen\ + \ \n - een ander [soort algoritme](2-owp-05-soort-algoritme.md) of [techniek](2-owp-04-gebruikte-techniek.md)\ + \ te gebruiken. \n - bij machinelearning algoritmes kan je overfitting voorkomen\ + \ door [verschillende trainingsdatasets en testdatasets te gebruiken](3-dat-07-training-validatie-en-testdata.md),\ + \ zoals bij [k-fold-cross-validation](3-dat-07-training-validatie-en-testdata.md#k-fold-cross-validation).\ + \ \n - door (hyper)parameters aan te passen kan het algoritme worden aangepast\ + \ zodat het beter presteert in verschillende testsituaties. \n\n- [Te stoppen met\ + \ de ontwikkeling en/of het gebruik van het systeem](../../levenscyclus/uitfaseren.md).\ + \ \n\n### Zorg en controleer of de betrouwbaarheid van een uitkomst wordt meegegeven\ + \ in de output\nVoorspellingen of uitkomsten van een algoritme kunnen onzeker zijn.\ + \ Zorg dat de (on)zekerheid van een uitkomst wordt meegegeven in de output van een\ + \ algoritme. \nDat kan bijvoorbeeld door een foutmarge mee te geven. \nIn veel gevallen\ + \ kan het wenselijk zijn dat het systeem aangeeft wanneer een uitkomst te onzeker\ + \ is, of soms zelfs geen antwoord geeft vanwege de onzekerheid. \nDit kan bijdragen\ + \ aan het vertrouwen in het algoritme. \n\n### Zorg voor continue monitoring op\ + \ betrouwbaarheid\nZorg dat het algoritme continu wordt [gemonitord](../../levenscyclus/monitoring-en-beheer.md)\ + \ op de betrouwbaarheid en de prestaties van het systeem. Maak gebruik van periodieke\ + \ updates en [valideer regelmatig de kwaliteit van de gebruikte data](3-dat-01-datakwaliteit.md).\ + \ \n\nEen onbetrouwbaar algoritme kan in een nieuwe of onverwachte situatie de verkeerde\ + \ uitkomsten geven. \n" +urn: urn:nl:ak:mtr:ver-06 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/5-ver-06-evalueer-betrouwbaarheid/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +lifecycle: +- ontwikkelen +- verificatie-en-validatie +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-10 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/6-imp-01-werkinstructies-gebruikers.yaml b/measures/6-imp-01-werkinstructies-gebruikers.yaml index e610ea6..9062886 100644 --- a/measures/6-imp-01-werkinstructies-gebruikers.yaml +++ b/measures/6-imp-01-werkinstructies-gebruikers.yaml @@ -1,22 +1,33 @@ systemcard_path: .systemcard.requirements[] schema_version: 1.1.0 name: Stel een werkinstructie op voor gebruikers. -description: "Stel een werkinstructie op voor gebruikers. \n" +description: "Stel een werkinstructie op voor gebruikers zodat zij weten hoe het algoritme\ + \ correct gebruikt kan worden en hoe ze om kunnen gaan met de (veiligheids)risico's.\ + \ \n" explanation: "Het is belangrijk dat gebruikers een werkinstructie ontvangen met informatie\ \ over hoe zij met het algoritme kunnen en moeten werken. Hierin worden zaken beschreven\ - \ als:\n\n-\tOp wat voor manier het algoritme ondersteunt bij het uitvoeren van\ - \ (wettelijke) taken.\n-\tWat de mogelijkheden en beperkingen zijn bij het gebruik\ - \ van het algoritme.\n-\tWat de impact is van het gebruik van het algoritme op de\ - \ samenleving en individuen (denk aan [energieverbruik](7-mon-05-meten-milieu-impact)\ - \ of dat een besluit met rechtsgevolgen wordt genomen).\n-\tWat de risico's zijn\ - \ die aan het gebruik verbonden zijn (bijv. (automation) bias, false positives/negatives).\n\ - -\tWelke maatregelen zijn getroffen om deze risico's te beperken (bijv. [bias analyse](5-ver-02-biasanalyse),\ - \ ['stopknop' ingebouwd](4-owk-02-stopzetten-gebruik), transparantie over de output).\n\ - -\tHoe de output van het algoritme moet worden geïnterpreteerd.\n-\tHoe het werkproces\ - \ kan worden uitgevoerd, zonder ondersteuning van het algoritme.\n-\tWelke protocollen\ - \ er zijn als incidenten zich voordoen.\n\t\nDenk hierbij na over het eventueel\ - \ bijscholen van medewerkers als het kennisniveau nog onvoldoende is om de werkinstructies\ - \ goed te begrijpen. \n" + \ als:\n\n- Op wat voor manier het algoritme ondersteunt bij het uitvoeren van (wettelijke)\ + \ taken en hoe het past in de werkwijze. \n- Wat de mogelijkheden en beperkingen\ + \ zijn bij het gebruik van het algoritme. Op welke manieren mag het algoritme gebruikt\ + \ worden? En op welke manieren niet?\n- Welke informatie mag er worden ingevoerd\ + \ in het systeem? En welke informatie niet?\n- Wat de impact is van het gebruik\ + \ van het algoritme op de samenleving en individuen (denk aan [energieverbruik](7-mon-06-meten-milieu-impact.md)\ + \ of dat een besluit met rechtsgevolgen wordt genomen).\n- Wat de risico's zijn\ + \ die aan het gebruik verbonden zijn. Denk aan:\n\n - verschillende vormen van\ + \ [bias](../../onderwerpen/bias-en-non-discriminatie.md), zoals automation bias,\ + \ \n - foutieve beslissingen\n - veiligheidsrisico's\n\n- Welke maatregelen\ + \ zijn getroffen om deze risico's te beperken (bijv. [bias analyse](5-ver-03-biasanalyse.md),\ + \ ['stopknop' ingebouwd](4-owk-02-stopzetten-gebruik.md), transparantie over de\ + \ output).\n- Hoe de output van het algoritme moet worden geïnterpreteerd, en hoe\ + \ het algoritme tot deze beslissing is gekomen. \n- Hoe het werkproces kan worden\ + \ uitgevoerd, zonder ondersteuning van het algoritme.\n- Hoe kan je weten dat het\ + \ systeem niet (meer) goed werkt? \n- Welke protocollen er zijn als incidenten zich\ + \ voordoen.\n- Waar je op moet letten om veiligheidsrisico's te verminderen. \n\ + - Welke waarschuwingen het systeem kan en zou moeten geven op basis van [continue\ + \ monitoring](7-mon-07-plan-continue-monitoring.md). Hoe er omgegaan moet worden\ + \ bij deze waarschuwingen. \n\t\nDenk hierbij na over het eventueel bijscholen van\ + \ medewerkers als het kennisniveau nog onvoldoende is om de werkinstructies goed\ + \ te begrijpen. \n" urn: urn:nl:ak:mtr:imp-01 language: nl owners: diff --git a/measures/6-imp-03-menselijke-tussenkomst.yaml b/measures/6-imp-03-menselijke-tussenkomst.yaml index df117b0..453f2a7 100644 --- a/measures/6-imp-03-menselijke-tussenkomst.yaml +++ b/measures/6-imp-03-menselijke-tussenkomst.yaml @@ -8,7 +8,7 @@ description: 'Richt (technische) controlemechanismen in voor menselijke tussenko ' explanation: "Algoritmes ondersteunen vaak beslissingen en besluitvorming van overheidsorganisaties.\ \ Deze beslissingen of besluiten kunnen betrokkenen in [aanmerkelijke mate raken\ - \ of zelfs rechtsgevolgen](avg-10-recht-op-niet-geautomatiseerde-besluitvorming.md)\ + \ of zelfs rechtsgevolgen](../vereisten/avg-10-recht-op-niet-geautomatiseerde-besluitvorming.md)\ \ hebben. Omdat algoritmes niet foutloos zijn, is het belangrijk dat een mens controleert\ \ wat een algoritme doet en, waar nodig, corrigeert. Dit proces heet 'menselijke\ \ tussenkomst' en moet betekenisvol zijn, niet slechts symbolisch.\n\nHet inrichten,\ diff --git a/measures/6-imp-06-vermelding-in-privacyverklaring.yaml b/measures/6-imp-06-vermelding-in-privacyverklaring.yaml index 7be59b2..e828283 100644 --- a/measures/6-imp-06-vermelding-in-privacyverklaring.yaml +++ b/measures/6-imp-06-vermelding-in-privacyverklaring.yaml @@ -33,7 +33,7 @@ explanation: "- Door in een privacyverklaring te vermelden welke persoonsgegeven \ zijn niet op de hoogte dat hun persoonsgegevens worden verwerkt met een algoritme,\ \ waardoor zij hier geen controle over hebben en zich niet kunnen beroepen op hun\ \ privacyrechten.\n" -urn: urn:nl:ak:mtr:imp-07 +urn: urn:nl:ak:mtr:imp-06 language: nl owners: - organization: Algoritmekader diff --git a/measures/6-imp-07-klacht-bezwaar-beroep.yaml b/measures/6-imp-07-klacht-bezwaar-beroep.yaml index fc701bb..6c2f6c2 100644 --- a/measures/6-imp-07-klacht-bezwaar-beroep.yaml +++ b/measures/6-imp-07-klacht-bezwaar-beroep.yaml @@ -13,7 +13,7 @@ explanation: "- Een goede datahuishouding van de binnengekomen bezwaren, klachte \ Eventuele patronen in klacht, bezwaar en beroep kunnen duiden op problemen in\ \ het functioneren van het algoritme. Dit kan bijvoorbeeld duiden op discriminerende\ \ effecten van het algoritme, waardoor nader onderzoek wenselijk is. \n\n" -urn: urn:nl:ak:mtr:imp-09 +urn: urn:nl:ak:mtr:imp-07 language: nl owners: - organization: Algoritmekader diff --git a/measures/6-imp-09-politiek-bestuurlijk-besluit.yaml b/measures/6-imp-09-politiek-bestuurlijk-besluit.yaml index 6bb19b7..3647448 100644 --- a/measures/6-imp-09-politiek-bestuurlijk-besluit.yaml +++ b/measures/6-imp-09-politiek-bestuurlijk-besluit.yaml @@ -17,7 +17,7 @@ explanation: "- Door een politiek-bestuurlijk besluit te nemen over de inzet of \ \n \nDe ambtelijke organisatie maakt politieke-bestuurlijke afwegingen en beslissingen\ \ bij de inzet of beëindiging van het gebruik van impactvolle algoritmes, terwijl\ \ deze daar niet toe bevoegd is.\n" -urn: urn:nl:ak:mtr:imp-01 +urn: urn:nl:ak:mtr:imp-09 language: nl owners: - organization: Algoritmekader diff --git a/measures/6-imp-10-interventies-ux.yaml b/measures/6-imp-10-interventies-ux.yaml new file mode 100644 index 0000000..9303ce0 --- /dev/null +++ b/measures/6-imp-10-interventies-ux.yaml @@ -0,0 +1,51 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Neem technische interventies op in de gebruikersinterface om verkeerd gebruik + te voorkomen +description: 'Neem technische interventies op in de gebruikersinterface om verkeerd + gebruik te voorkomen. + + ' +explanation: "Een algoritme wat volledig correcte uitkomsten geeft maar vervolgens\ + \ verkeerd wordt gebruikt kan leiden tot problemen. \nNeem bijvoorbeeld een algoritme\ + \ wat een tekstdocument controleert en voorstelt aan de gebruiker of het compleet\ + \ is, of nog onderdelen mist.\nWanneer je dan een ‘goedgekeurd’ knop rood maakt,\ + \ en een ‘afgekeurd’ knop groen, is er een kans dat de gebruiker uit gewoonte op\ + \ de verkeerde klikt en daarmee alsnog een onjuiste beslissing neemt. \nAls deze\ + \ keuze vervolgens als feedback ook weer wordt doorgevoerd in het systeem kan het\ + \ algoritme ook nog verkeerd gedrag aanleren. \n\nWerk bijvoorbeeld aan de hand\ + \ van [User Centered Design principes](https://www.interaction-design.org/literature/topics/user-centered-design)\ + \ om de gebruiker centraal te stellen. \n\nEen gebruikersinterface die verkeerd\ + \ gebruik door gebruikers mogelijk maakt, kan ervoor zorgen dat gebruikers verkeerde\ + \ invoerwaarden geven, zich niet aan de beoogde werkwijze houden of per ongeluk\ + \ toegang geven aan kwaadwillenden.\n" +urn: urn:nl:ak:mtr:imp-10 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/6-imp-10-interventies-ux/index.html +subject: +- technische-robuustheid-en-veiligheid +- menselijke-controle +suggested_roles: +- ontwikkelaar +- projectleider +- beleid-en-advies +lifecycle: +- implementatie +- ontwikkelen +links: +- urn:nl:ak:ver:aia-10 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/6-imp-05-proces-privacyrechten.yaml b/measures/6-imp-11-proces-privacyrechten.yaml similarity index 95% rename from measures/6-imp-05-proces-privacyrechten.yaml rename to measures/6-imp-11-proces-privacyrechten.yaml index 198be63..3dd9739 100644 --- a/measures/6-imp-05-proces-privacyrechten.yaml +++ b/measures/6-imp-11-proces-privacyrechten.yaml @@ -18,7 +18,7 @@ explanation: "- Betrokkenen moeten hun persoonsgegevens kunnen inzien, rectifice \ op een betekenisvolle manier kan of moet worden behandeld.\n \nBetrokkenen hebben\ \ geen controle over hun persoonsgegevens doordat ze geen beroep kunnen doen op\ \ hun privacyrechten. \n" -urn: urn:nl:ak:mtr:imp-06 +urn: urn:nl:ak:mtr:imp-11 language: nl owners: - organization: Algoritmekader @@ -26,7 +26,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/6-imp-05-proces-privacyrechten/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/6-imp-11-proces-privacyrechten/index.html subject: - privacy-en-gegevensbescherming - governance diff --git a/measures/7-mon-04-evaluatieplan.yaml b/measures/7-mon-04-evaluatieplan.yaml new file mode 100644 index 0000000..993c4a7 --- /dev/null +++ b/measures/7-mon-04-evaluatieplan.yaml @@ -0,0 +1,70 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Maak een evaluatieplan voor tijdens het gebruik van het algoritme +description: "Maak een evaluatieplan voor wanneer het algoritme in gebruik is. \n\ + Dit plan bevat wanneer, wat en hoe er geëvalueerd dient te worden om te valideren\ + \ of het model nog in lijn is met de [vastgestelde doelstelling](1-pba-02-formuleren-doelstelling.md).\ + \ \n" +explanation: "Het evaluatieplan moet aangeven op welke momenten er wordt geëvalueerd,\ + \ wat er opnieuw wordt geëvalueerd en hoe dat wordt gedaan. \n\nVoor het opstellen\ + \ van het evaluatieplan zijn de volgende stappen nodig:\n\n1. [Bepaal of periodieke\ + \ controle noodzakelijk is](#bepaal-of-periodieke-controle-noodzakelijk-is)\n2.\ + \ [Bepaal bij welke gebeurtenissen het algoritme geëvalueerd moet worden](#bepaal-bij-welke-gebeurtenissen-het-algoritme-geevalueerd-moet-worden)\n\ + 3. [Bepaal wat er geëvalueerd moet worden](#bepaal-wat-er-geevalueerd-moet-worden)\n\ + \n### Bepaal of periodieke controle noodzakelijk is\nStel vast of er periodieke\ + \ momenten zijn vanuit bijvoorbeeld wetgeving, organisatiebeleid of risicomanagement\ + \ waarop het wenselijk is dat het algoritme geëvalueerd wordt. \n\n### Bepaal bij\ + \ welke gebeurtenissen het algoritme geëvalueerd moet worden\nWat zijn gebeurtenissen\ + \ die om een nieuwe evaluatie vragen? Denk bijvoorbeeld aan momenten waarop het\ + \ bijtrainen van het model noodzakelijk is, zoals:\n\n- een wijziging in de data\ + \ of het algoritm\n- aangepaste wetgeving\n- andere context of tijd waarin het algoritme\ + \ gebruikt wordt\n- een nieuwe werkwijze\n- het optreden van een incident-\n- gebruikersfeedback\ + \ \n- een verandering in de gebruikscontext (bijv. een situatie als COVID-19) \n\ + \n### Bepaal wat er geëvalueerd moet worden\nBepaal welke onderdelen van het algoritme\ + \ geëvalueerd dienen te worden bij een periodieke controle of wanneer er een gebeurtenis\ + \ plaatsvindt waardoor evaluatie wenselijk is.\n\nWat minimaal periodiek geëvalueerd\ + \ moet worden is:\n\n- [nauwkeurigheid](5-ver-02-evalueer-nauwkeurigheid.md)\n-\ + \ [betrouwbaarheid](5-ver-06-evalueer-betrouwbaarheid.md)\n- [reproduceerbaarheid](4-owk-07-reproduceerbaarheid.md)\n\ + - [bias](5-ver-03-biasanalyse.md)\n- [veiligheid](7-mon-08-test-weerbaarheid-tegen-aanvallen.md)\n\ + - [grondrechten](2-owp-07-afwegen-grondrechten.md)\n- [privacy](4-owk-03-privacyrisico.md)\n\ + \nBij een evaluatie hoeft niet altijd alles weer geëvalueerd te worden. Dit hangt\ + \ af van het type wijzigingen die er zijn geweest en van de aspecten die continu\ + \ worden gemonitord. Leg vast wat er wanneer geëvalueerd dient te worden. \n\n###\ + \ Documenteer voor en tijdens iedere evaluatie\nZorg dat de benodigde informatie\ + \ voor de evaluatie wordt opgeslagen en beschikbaar is voor de evaluatiemomenten.\ + \ Denk aan invoerwaarden, resultaten en gebruikersstatistieken. \n\nBetrek bij het\ + \ opstellen van dit plan een [diverse groep van belanghebbenden](1-pba-04-betrek-belanghebbenden.md)\ + \ met o.a. ontwikkelaars, gebruikers en ethisch adviseurs. Zorg dat het evaluatieplan\ + \ periodiek wordt herzien of deze nog voldoet. \n\nEr zullen veranderingen plaatsvinden\ + \ in de gebruikscontext, de data en in het algoritme zelf (bijv. door bijtrainen).\ + \ Wanneer niet wordt geëvalueerd tijdens het gebruik is het onbekend of het algoritme\ + \ nog steeds werkt zoals beoogd en voldoet aan de acceptatiecriteria. \n" +urn: urn:nl:ak:mtr:mon-05 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evaluatieplan/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- projectleider +lifecycle: +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-03 +- urn:nl:ak:ver:aia-18 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-34 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/7-mon-04-evalueer-bij-veranderingen-in-data.yaml b/measures/7-mon-05-evalueer-bij-veranderingen-in-data.yaml similarity index 95% rename from measures/7-mon-04-evalueer-bij-veranderingen-in-data.yaml rename to measures/7-mon-05-evalueer-bij-veranderingen-in-data.yaml index a45051d..fd7a87c 100644 --- a/measures/7-mon-04-evalueer-bij-veranderingen-in-data.yaml +++ b/measures/7-mon-05-evalueer-bij-veranderingen-in-data.yaml @@ -19,7 +19,7 @@ explanation: "De inputdata kan voortdurend veranderen. \nDat kan komen doordat d \ zorgt ervoor dat je voldoende controle hebt over de kwaliteit van de data, zelfs\ \ als je hiervoor afhankelijk bent van andere partijen. \n\nDoor veranderingen in\ \ de data presteert het model niet meer zoals verwacht.\n" -urn: urn:nl:ak:mtr:mon-04 +urn: urn:nl:ak:mtr:mon-05 language: nl owners: - organization: Algoritmekader @@ -27,7 +27,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evalueer-bij-veranderingen-in-data/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-evalueer-bij-veranderingen-in-data/index.html subject: - data - technische-robuustheid-en-veiligheid diff --git a/measures/7-mon-05-meten-milieu-impact.yaml b/measures/7-mon-06-meten-milieu-impact.yaml similarity index 97% rename from measures/7-mon-05-meten-milieu-impact.yaml rename to measures/7-mon-06-meten-milieu-impact.yaml index db62600..ee51bd8 100644 --- a/measures/7-mon-05-meten-milieu-impact.yaml +++ b/measures/7-mon-06-meten-milieu-impact.yaml @@ -31,7 +31,7 @@ explanation: "Tref bijvoorbeeld de volgende maatregelen, wanneer je de milieu-im \ een model dat misschien even goed presteert voor het [gekozen doel](1-pba-02-formuleren-doelstelling.md).\n\ Zonder structurele monitoring van de milieu-impact kan de organisatie onbewust bijdragen\ \ aan een hoge CO₂-uitstoot en hoge energieverbruikskosten.\n" -urn: urn:nl:ak:mtr:mon-05 +urn: urn:nl:ak:mtr:mon-06 language: nl owners: - organization: Algoritmekader @@ -39,7 +39,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-meten-milieu-impact/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-06-meten-milieu-impact/index.html subject: - duurzaamheid suggested_roles: diff --git a/measures/7-mon-07-plan-continue-monitoring.yaml b/measures/7-mon-07-plan-continue-monitoring.yaml new file mode 100644 index 0000000..5b1bb94 --- /dev/null +++ b/measures/7-mon-07-plan-continue-monitoring.yaml @@ -0,0 +1,76 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Stel een plan op voor continue monitoring +description: 'Maak een plan voor wat er continu gemonitord moet worden tijdens het + gebruik van het algoritme. Dit plan bevat niet alleen wat en hoe er gemonitord wordt, + maar ook bij welke overschrijdingen actie moet worden ondernomen. + + ' +explanation: "Het plan voor monitoring moet aangeven wat er continu moet worden gemonitord\ + \ en op welke manier dit moet gebeuren. \nDaarnaast bevat het plan in welke situaties\ + \ er actie moet worden ondernomen, en wie daarbij betrokken moet zijn. \n\nVoor\ + \ op opstellen van het plan voor monitoring zijn de volgende stappen nodig:\n\n\ + ### Bepaal waar je continu op wilt monitoren\nDenk hierbij aan:\n\n- toegankelijkheid\ + \ van het model (uitvallen of haperingen)\n- foutmeldingen\n- prestaties: [werkt\ + \ het model nog zoals beoogd](5-ver-01-functioneren-in-lijn-met-doeleinden.md)\n\ + - [datakwaliteit](3-dat-01-datakwaliteit.md) en data drift (de data die in het systeem\ + \ wordt ingevoerd kan veranderen over tijd)\n- invoerwaarden (probeert een gebruiker\ + \ het systeem te manipuleren)\n\n### Bepaal hoe je het gaat meten en welke informatie\ + \ je hiervoor nodig hebt\nWelke metrieken worden er gebruikt om de vastgelegde aspecten\ + \ te meten? \nWelke informatie moet er opgeslagen worden om deze metrieken te kunnen\ + \ meten? Analyseer ook of er aspecten zijn die niet met metrieken gemeten kunnen\ + \ worden en hoe je die aspecten kan monitoren. \n\n### Bepaal de grenswaarden:\ + \ bij welke overschrijding moet er actie worden genomen?\nVoor een effectieve monitoring\ + \ is het van belang dat duidelijk is wanneer er actie moet worden ondernomen op\ + \ de resultaten. Leg vast voor elk van de aspecten die gemonitord wordt bij welke\ + \ waarden er actie moet worden genomen. Hiervoor is het noodzakelijk om een duidelijke\ + \ omschrijving te hebben wat de beoogde werking van het systeem is. Het is ook mogelijk\ + \ om meerdere waarden per monitor te bepalen, waarbij een eerste overschrijding\ + \ alleen een waarschuwing wordt gegeven en bij een tweede het algoritme bijvoorbeeld\ + \ wordt overgegaan tot het [noodplan](4-owk-02-stopzetten-gebruik.md). \n\n### Bepaal\ + \ welke acties genomen moeten worden bij een overschrijding\nJe legt hier in eerste\ + \ instantie vast of het algoritme moet worden stopgezet, beperkt moet worden in\ + \ de inzet of in gebruik kan blijven. Ten tweede bepaal je wat voor andere acties\ + \ er moeten worden genomen, bijvoorbeeld moet er een nieuwe uitgebreide evaluatie\ + \ moet plaatsvinden, moet het algoritme worden bijgewerkt, moet er nieuwe data verzameld\ + \ worden, moet de beveiliging verbeterd worden, moet er worden overgestapt op plan\ + \ B. \n\n### Leg vast hoe en aan wie er een waarschuwing wordt gegeven wanneer een\ + \ waarde wordt overschreden\nOm effectief te kunnen ingrijpen is het van belang\ + \ dat wordt vastgelegd in het monitoringsplan op welke manier er een waarschuwing\ + \ wordt gegeven, aan wie deze waarschuwing wordt gegeven en welke informatie deze\ + \ persoon nodig heeft. Bepaal bijvoorbeeld ook of een systeem automatisch wordt\ + \ uitgeschakeld of dat een mens die keuze moet maken. \n\nBetrek bij het opstellen\ + \ van dit plan een [diverse groep van belanghebbenden](1-pba-04-betrek-belanghebbenden.md)\ + \ met o.a. ontwikkelaars, gebruikers en ethisch adviseurs. Zorg dat het evaluatieplan\ + \ periodiek wordt herzien of deze nog voldoet. \n\n\nTijdens dagelijks gebruik\ + \ wil je continu monitoren of het systeem nog werkt zoals beoogd. Wanneer dit niet\ + \ gebeurt worden mogelijke fouten en veiligheidsrisico’s niet opgemerkt. \n" +urn: urn:nl:ak:mtr:mon-07 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-07-plan-continue-monitoring/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- projectleider +lifecycle: +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-03 +- urn:nl:ak:ver:aia-18 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-34 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/7-mon-08-test-weerbaarheid-tegen-aanvallen.yaml b/measures/7-mon-08-test-weerbaarheid-tegen-aanvallen.yaml new file mode 100644 index 0000000..5ec4d74 --- /dev/null +++ b/measures/7-mon-08-test-weerbaarheid-tegen-aanvallen.yaml @@ -0,0 +1,52 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Controleer regelmatig of een algoritme voldoende weerbaar is tegen bekende aanvallen. +description: "Controleer regelmatig of je algoritme bestand is tegen aanvallen. \n" +explanation: "Veel algoritmes veranderen in de loop van tijd. \nDaarom is het belangrijk\ + \ om periodiek te blijven testen of de ingebouwde defensiemechanismen goed werken.\n\ + In traditionele cyber security wordt hiervoor de term [*red teaming*](https://www.nightfall.ai/ai-security-101/ai-model-red-teaming)\ + \ of *pentesting* gebruikt. \n\n### Pentesting\nMet pentesting wordt in feite een\ + \ interactie tussen een aanvaller en het algoritme nagebootst. \nVerschillende\ + \ bedrijven die gespecialiseerd zijn in traditionele pentesting van IT systemen\ + \ bieden nu ook specifiek pentesting van AI aan. \nIndien er voldoende kennis aanwezig\ + \ is, is het mogelijk dit zelf te implementeren. \nDit kan bijvoorbeeld met behulp\ + \ van de open-source ontwikkelde [Adversarial Robustness Toolbox (ART)](https://research.ibm.com/projects/adversarial-robustness-toolbox)\ + \ ontwikkeld door IBM (en nu in beheer door de Linux Foundation).\n\n### Top-10\ + \ security risico’s van LLM’s\nHet is lastig in te schatten met wat voor aanvallen\ + \ er rekening gehouden moet worden voor een AI-systeem. \nHiervoor heeft OWASP een\ + \ [top 10 opgesteld van security risico’s van LLM’s](https://owasp.org/www-project-top-10-for-large-language-model-applications/).\ + \ Veel risico's zijn waarschijnlijk ook van toepassing op andere soorten AI-systemen.\n\ + \nAls niet periodiek getest wordt of een algoritme nog bestand is tegen aanvallen,\ + \ wordt de kans groter dat een aanvaller succesvol is.\n" +urn: urn:nl:ak:mtr:mon-08 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/7-mon-08-test-weerbaarheid-tegen-aanvallen/index.html +subject: +- technische-robuustheid-en-veiligheid +suggested_roles: +- ontwikkelaar +lifecycle: +- ontwikkelen +- verificatie-en-validatie +- monitoring-en-beheer +links: +- urn:nl:ak:ver:aia-10 +- urn:nl:ak:ver:aia-22 +- urn:nl:ak:ver:aia-32 +- urn:nl:ak:ver:bio-01 +- urn:nl:ak:ver:avg-12 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/measures/8-uit-01-archiveren.yaml b/measures/8-uit-01-archiveren.yaml new file mode 100644 index 0000000..4cd12fd --- /dev/null +++ b/measures/8-uit-01-archiveren.yaml @@ -0,0 +1,56 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie. +description: 'Verwijder bij [uitfasering](../../levenscyclus/uitfaseren.md) van je + algoritme gevoelige gegevens in het kader van [privacy en gegevensbescherming](../../onderwerpen/privacy-en-gegevensbescherming.md), + maar behoud essentiële modelinformatie. + + ' +explanation: "Als het doel van het algoritme niet langer bestaat, kan een algoritme\ + \ (zowel data als model) uitgeschakeld of verwijderd worden. \nTegelijkertijd kan\ + \ dit voor door het algoritme gemaakte beslissingen betekenen dat niet meer te achterhalen\ + \ is welke data is gebruikt, en waarom het model deze zo beoordeeld heeft. \nIn\ + \ de ontwerpfase van het algoritme wordt daarom [vastgelegd welke elementen bewaard\ + \ dienen te worden en waarom](2-owp-09-archiveren-documenten.md).\n\nDoor op een\ + \ juiste manier om te gaan met uitfaseren, kan worden voorkomen dat de potentiële\ + \ latere effecten van algoritme worden geadresseerd.\nDe werking van een algoritme,\ + \ en de manier waarop beslissingen in het verleden zijn genomen, blijven behouden.\ + \ Dit zorgt voor transparantie en controleerbaarheid of auditeerbaarheid. \nZo kan\ + \ worden vastgesteld of de uitkomsten zijn aangepast, waardoor bijvoorbeeld fraude\ + \ onzichtbaar zou worden in geval van verwijdering. \nOok in geval een organisatie\ + \ later juridisch aansprakelijk wordt gesteld, is inzicht in hoe beslissingen tot\ + \ stand zijn gekomen belangrijk. \nTegelijkertijd kan data die niet essentieel is\ + \ worden verwijderd, om zo de kans op misbruik en lekken van data te voorkomen.\n\ + \nHet niet correct uitfaseren van een algoritme, heeft mogelijk negatieve effecten\ + \ op het gebied van uitlegbaarheid, transparantie en verantwoording. \n" +urn: urn:nl:ak:mtr:uit-01 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/8-uit-01-archiveren/index.html +subject: +- technische-robuustheid-en-veiligheid +- privacy-en-gegevensbescherming +- transparantie +suggested_roles: +- ontwikkelaar +lifecycle: +- uitfaseren +- ontwerp +links: +- urn:nl:ak:ver:arc-01 +- urn:nl:ak:ver:aia-12 +- urn:nl:ak:ver:avg-02 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/requirements/aia-00-verboden-AI-praktijken.yaml b/requirements/aia-00-verboden-AI-praktijken.yaml new file mode 100644 index 0000000..0859581 --- /dev/null +++ b/requirements/aia-00-verboden-AI-praktijken.yaml @@ -0,0 +1,97 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Verboden AI-systemen mogen niet worden gebruikt. +description: ' + + Verboden AI-systemen mogen niet worden gebruikt. + + ' +explanation: "Afgezien van de vele nuttige toepassingen van AI kan zij ook worden\ + \ misbruikt en nieuwe en krachtige instrumenten voor manipulatie, uitbuiting en\ + \ sociale controle opleveren. \nDergelijke praktijken zijn bijzonder schadelijk\ + \ en abusief en moeten worden verboden omdat zij in strijd zijn met de waarden van\ + \ de Unie, namelijk eerbied voor de menselijke waardigheid, vrijheid, gelijkheid,\ + \ democratie en de rechtsstaat, en met de grondrechten van de Unie die zijn vastgelegd\ + \ in het Handvest, waaronder het recht op non-discriminatie, gegevensbescherming\ + \ en privacy, en de rechten van het kind.\n\nIn de volgende gevallen gaat het om\ + \ een verboden toepassing op grond van de AI-Verordening:\n\n- gebruik kan gaan\ + \ maken van subliminale technieken om mensen onbewust of bewust kunnen manipuleren,\ + \ waardoor ze beslissingen nemen die ze anders niet zouden hebben genomen?\n- gebruik\ + \ kan gaan maken van kwetsbaarheden van individuen of specifieke groepen, zoals\ + \ leeftijd, handicaps of sociale/economische omstandigheden, om het gedrag van die\ + \ personen aanzienlijk te verstoren, wat kan leiden tot aanzienlijke schade bij\ + \ henzelf of anderen?\n- gebruikt kan worden om natuurlijke personen of groepen\ + \ gedurende een periode te evalueren of te classificeren op basis van hun sociale\ + \ gedrag of afgeleide persoonlijke kenmerken?\n- gebruikt kan worden voor risicobeoordelingen\ + \ van natuurlijke personen om het risico op crimineel gedrag te voorspellen, gebaseerd\ + \ op profilering of persoonlijkheidskenmerken? (Dit geldt niet voor AI-systemen\ + \ die worden gebruikt om menselijke beoordelingen te ondersteunen, gebaseerd op\ + \ objectieve en verifieerbare feiten die rechtstreeks verband houden met criminele\ + \ activiteiten)\n- gebruikt kan worden om databanken voor gezichtsherkenning aan\ + \ te leggen of aan te vullen door willekeurige gezichtsafbeeldingen van internet\ + \ of CCTV-beelden te scrapen?\n- gebruikt kan worden om emoties van een persoon\ + \ op de werkplek of in het onderwijs af te leiden? (Dit is niet van toepassing als\ + \ het gebruik van het AI-systeem is bedoeld voor medische- of veiligheidsdoeleinden)\n\ + - gebruikt kan worden om natuurlijke personen individueel in categorie\xEBn in te\ + \ delen op basis van biometrische gegevens om ras, politieke opvattingen, lidmaatschap\ + \ van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of\ + \ seksuele geaardheid af te leiden? (Dit verbod geldt niet voor het labelen of filteren\ + \ van rechtmatig verkregen biometrische datasets, zoals afbeeldingen, op basis van\ + \ biometrische gegevens, of voor categorisering van biometrische gegevens op het\ + \ gebied van rechtshandhaving)\n- gebruikt kan worden als een biometrisch systeem\ + \ in de publieke ruimte voor identificatie op afstand in real-time, met het oog\ + \ op de rechtshandhaving?\n\nEr zijn een tweetal uitzonderingen voor het inzetten\ + \ van verbonden AI-systemen. Deze zijn:\n\n- Er is sprake van een rechtshandhavingsactiviteit\ + \ i.v.m. een specifiek misdrijf (terrorisme, mensenhandel, seksuele uitbuiting van\ + \ kinderen en materiaal over seksueel misbruik van kinderen, illegale handel in\ + \ verdovende middelen en psychotrope stoffen, illegale handel in wapens, munitie\ + \ en explosieven, moord, zware mishandeling, illegale handel in menselijke organen\ + \ en weefsels, illegale handel in nucleaire en radioactieve stoffen, ontvoering,\ + \ wederrechtelijke vrijheidsberoving en gijzeling, misdrijven die onder de rechtsmacht\ + \ van het Internationaal Strafhof vallen, kaping van vliegtuigen/schepen, verkrachting,\ + \ milieucriminaliteit, georganiseerde of gewapende diefstal, sabotage, deelneming\ + \ aan een criminele organisatie die betrokken is bij een of meer van de bovengenoemde\ + \ misdrijven).\n- Er is sprake van gerichte opsporing van specifieke slachtoffers,\ + \ ontvoering, mensenhandel en seksuele uitbuiting van mensen, vermiste personen;\ + \ of het voorkomen van bedreigingen voor het leven of de fysieke veiligheid van\ + \ personen of het reageren op de huidige of voorzienbare dreiging van een terreuraanslag.\n\ + \nBepaal in een vroege fase en bij het [onderbouwen van het gebruik van een AI-systeem](../maatregelen/1-pba-03-onderbouwen-gebruik-algoritme.md)\ + \ of de beoogde toepassing is toegestaan. \n" +urn: urn:nl:ak:ver:aia-00 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/vereisten/aia-00-verboden-AI-praktijken/index.html +subject: +- governance +lifecycle: +- organisatieverantwoordelijkheden +- probleemanalyse +links: +- urn:nl:ak:mtr:pba-03 +ai_act_profile: +- type: + - AI-systeem + open_source: [] + risk_group: + - verboden AI + systemic_risk: [] + transparency_obligations: [] + role: + - aanbieder + - gebruiksverantwoordelijke + conformity_assessment_body: [] +always_applicable: 0 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/requirements/aia-01-ai-geletterdheid.yaml b/requirements/aia-01-ai-geletterdheid.yaml index 03a49e3..65e9490 100644 --- a/requirements/aia-01-ai-geletterdheid.yaml +++ b/requirements/aia-01-ai-geletterdheid.yaml @@ -36,10 +36,12 @@ subject: lifecycle: - organisatieverantwoordelijkheden links: -- urn:nl:ak:mtr:pba-03 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:imp-01 ai_act_profile: - type: diff --git a/requirements/aia-02-documentatie-beoordeling-niet-hoog-risico-ai.yaml b/requirements/aia-02-documentatie-beoordeling-niet-hoog-risico-ai.yaml index 113593f..3d3552d 100644 --- a/requirements/aia-02-documentatie-beoordeling-niet-hoog-risico-ai.yaml +++ b/requirements/aia-02-documentatie-beoordeling-niet-hoog-risico-ai.yaml @@ -30,11 +30,12 @@ subject: lifecycle: - ontwerp links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-03-risicobeheersysteem.yaml b/requirements/aia-03-risicobeheersysteem.yaml index 177751a..fd827a2 100644 --- a/requirements/aia-03-risicobeheersysteem.yaml +++ b/requirements/aia-03-risicobeheersysteem.yaml @@ -8,12 +8,12 @@ description: ' ' explanation: "Het systeem voor risicobeheer moet bestaan uit een gepland iteratief\ - \ proces, dat tijdens de [gehele levensduur](levenscyclus/index.md) van een hoog-risico\ - \ AI-systeem wordt doorlopen. Een organisatie moet ervoor zorgen dat een risicobeheersysteem\ - \ wordt ingericht in de organisatie. \n\nHet risicobeheersysteem moet gericht zijn\ - \ op het vaststellen en beperken van de relevante risico\u2019s van AI-systemen\ - \ voor de gezondheid, veiligheid en grondrechten met passende maatregelen. \n\n\ - Het systeem voor risicobeheer moet periodiek worden ge\xEBvalueerd en geactualiseerd\ + \ proces, dat tijdens de [gehele levensduur](../../levenscyclus/over-de-levenscyclus.md)\ + \ van een hoog-risico AI-systeem wordt doorlopen. Een organisatie moet ervoor zorgen\ + \ dat een risicobeheersysteem wordt ingericht in de organisatie. \n\nHet risicobeheersysteem\ + \ moet gericht zijn op het vaststellen en beperken van de relevante risico\u2019\ + s van AI-systemen voor de gezondheid, veiligheid en grondrechten met passende maatregelen.\ + \ \n\nHet systeem voor risicobeheer moet periodiek worden ge\xEBvalueerd en geactualiseerd\ \ om de blijvende doeltreffendheid ervan te waarborgen, alsook de motivering en\ \ de documentatie van eventuele significante besluiten en maatregelen die op grond\ \ van de AI-verordening zijn genomen.\n\nDit proces moet ervoor zorgen dat de aanbieder\ @@ -46,15 +46,18 @@ lifecycle: - organisatieverantwoordelijkheden links: - urn:nl:ak:mtr:org-03 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 +- urn:nl:ak:mtr:ver-04 +- urn:nl:ak:mtr:mon-05 +- urn:nl:ak:mtr:mon-07 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-04-risicobeoordeling-voor-jongeren-en-kwetsbaren.yaml b/requirements/aia-04-risicobeoordeling-voor-jongeren-en-kwetsbaren.yaml index fb556dc..9a69868 100644 --- a/requirements/aia-04-risicobeoordeling-voor-jongeren-en-kwetsbaren.yaml +++ b/requirements/aia-04-risicobeoordeling-voor-jongeren-en-kwetsbaren.yaml @@ -42,13 +42,13 @@ lifecycle: - ontwerp - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-07 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-08 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-05-data-kwaliteitscriteria.yaml b/requirements/aia-05-data-kwaliteitscriteria.yaml index aab0a78..c4c4fa6 100644 --- a/requirements/aia-05-data-kwaliteitscriteria.yaml +++ b/requirements/aia-05-data-kwaliteitscriteria.yaml @@ -11,8 +11,8 @@ description: ' ' explanation: "AI-systemen met een hoog risico die data gebruiken voor het trainen\ \ van AI-modellen, moeten gebaseerd zijn op datasets die voldoen aan specifieke\ - \ [kwaliteitscriteria](3-dat-01-datakwaliteit.md). \n\nDeze criteria zorgen ervoor\ - \ dat de data geschikt zijn voor [training, validatie en tests](3-dat-07-training-validatie-en-testdata.md),\ + \ [kwaliteitscriteria](../maatregelen/3-dat-01-datakwaliteit.md). \n\nDeze criteria\ + \ zorgen ervoor dat de data geschikt zijn voor [training, validatie en tests](../maatregelen/3-dat-07-training-validatie-en-testdata.md),\ \ wat de betrouwbaarheid en nauwkeurigheid van het AI-systeem waarborgt. De kwaliteitscriteria\ \ zijn te vinden in leden 2 t/m 5 van artikel 10 van de AI-verordening. Bijvoorbeeld\ \ datasets moeten aan praktijken voor databeheer voldoen en moeten relevant, representatief,\ @@ -46,20 +46,20 @@ lifecycle: - verificatie-en-validatie links: - urn:nl:ak:mtr:owp-11 -- urn:nl:ak:mtr:owp-02 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-30 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 - urn:nl:ak:mtr:dat-01 - urn:nl:ak:mtr:dat-08 -- urn:nl:ak:mtr:ver-03 -- urn:nl:ak:mtr:mon-04 +- urn:nl:ak:mtr:ver-05 +- urn:nl:ak:mtr:mon-05 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-06-technische-documentatie.yaml b/requirements/aia-06-technische-documentatie.yaml index 152fd01..43b149e 100644 --- a/requirements/aia-06-technische-documentatie.yaml +++ b/requirements/aia-06-technische-documentatie.yaml @@ -43,11 +43,14 @@ lifecycle: links: - urn:nl:ak:mtr:owp-04 - urn:nl:ak:mtr:owp-05 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-34 +- urn:nl:ak:mtr:ver-02 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-07-automatische-logregistratie.yaml b/requirements/aia-07-automatische-logregistratie.yaml index f213541..b73c194 100644 --- a/requirements/aia-07-automatische-logregistratie.yaml +++ b/requirements/aia-07-automatische-logregistratie.yaml @@ -42,12 +42,12 @@ lifecycle: - ontwikkelen - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 - urn:nl:ak:mtr:owk-01 - urn:nl:ak:mtr:owk-04 ai_act_profile: diff --git a/requirements/aia-08-transparantie-aan-gebruiksverantwoordelijken.yaml b/requirements/aia-08-transparantie-aan-gebruiksverantwoordelijken.yaml index cf4e7e9..07629f8 100644 --- a/requirements/aia-08-transparantie-aan-gebruiksverantwoordelijken.yaml +++ b/requirements/aia-08-transparantie-aan-gebruiksverantwoordelijken.yaml @@ -30,18 +30,19 @@ lifecycle: - monitoring-en-beheer links: - urn:nl:ak:mtr:owp-05 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:pba-04 -- urn:nl:ak:mtr:owp-07 -- urn:nl:ak:mtr:ver-03 +- urn:nl:ak:mtr:owp-31 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-33 +- urn:nl:ak:mtr:ver-05 - urn:nl:ak:mtr:imp-04 -- urn:nl:ak:mtr:imp-01 +- urn:nl:ak:mtr:imp-09 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-09-menselijk-toezicht.yaml b/requirements/aia-09-menselijk-toezicht.yaml index ba0ec6c..893133b 100644 --- a/requirements/aia-09-menselijk-toezicht.yaml +++ b/requirements/aia-09-menselijk-toezicht.yaml @@ -60,16 +60,16 @@ lifecycle: - ontwikkelen - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:imp-10 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 +- urn:nl:ak:mtr:owp-37 - urn:nl:ak:mtr:owk-02 - urn:nl:ak:mtr:imp-01 - urn:nl:ak:mtr:imp-03 diff --git a/requirements/aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging.yaml b/requirements/aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging.yaml index 21f4494..9387d9e 100644 --- a/requirements/aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging.yaml +++ b/requirements/aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging.yaml @@ -51,18 +51,27 @@ lifecycle: links: - urn:nl:ak:mtr:owp-04 - urn:nl:ak:mtr:owp-10 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-27 - urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-36 - urn:nl:ak:mtr:dat-07 +- urn:nl:ak:mtr:dat-11 +- urn:nl:ak:mtr:dat-12 +- urn:nl:ak:mtr:owk-09 - urn:nl:ak:mtr:ver-01 +- urn:nl:ak:mtr:ver-02 +- urn:nl:ak:mtr:ver-06 - urn:nl:ak:mtr:imp-02 +- urn:nl:ak:mtr:imp-10 - urn:nl:ak:mtr:mon-02 - urn:nl:ak:mtr:mon-03 -- urn:nl:ak:mtr:mon-04 +- urn:nl:ak:mtr:mon-05 +- urn:nl:ak:mtr:mon-08 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-11-systeem-voor-kwaliteitsbeheer.yaml b/requirements/aia-11-systeem-voor-kwaliteitsbeheer.yaml index 21d4b3b..6483fc5 100644 --- a/requirements/aia-11-systeem-voor-kwaliteitsbeheer.yaml +++ b/requirements/aia-11-systeem-voor-kwaliteitsbeheer.yaml @@ -57,17 +57,17 @@ lifecycle: - organisatieverantwoordelijkheden links: - urn:nl:ak:mtr:org-12 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 - urn:nl:ak:mtr:owk-02 -- urn:nl:ak:mtr:mon-04 +- urn:nl:ak:mtr:ver-04 +- urn:nl:ak:mtr:mon-05 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-12-bewaartermijn-voor-documentatie.yaml b/requirements/aia-12-bewaartermijn-voor-documentatie.yaml index 5822b90..6bd805e 100644 --- a/requirements/aia-12-bewaartermijn-voor-documentatie.yaml +++ b/requirements/aia-12-bewaartermijn-voor-documentatie.yaml @@ -41,13 +41,14 @@ lifecycle: - monitoring-en-beheer - uitfaseren links: -- urn:nl:ak:mtr:owp-08 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:dat-04 +- urn:nl:ak:mtr:owp-09 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:dat-03 +- urn:nl:ak:mtr:uit-01 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-13-bewaartermijn-voor-gegenereerde-logs.yaml b/requirements/aia-13-bewaartermijn-voor-gegenereerde-logs.yaml index 1d07a06..fcc5398 100644 --- a/requirements/aia-13-bewaartermijn-voor-gegenereerde-logs.yaml +++ b/requirements/aia-13-bewaartermijn-voor-gegenereerde-logs.yaml @@ -38,11 +38,11 @@ lifecycle: - monitoring-en-beheer - uitfaseren links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:owk-04 ai_act_profile: - type: diff --git a/requirements/aia-14-conformiteitsbeoordeling.yaml b/requirements/aia-14-conformiteitsbeoordeling.yaml index 1550977..8708086 100644 --- a/requirements/aia-14-conformiteitsbeoordeling.yaml +++ b/requirements/aia-14-conformiteitsbeoordeling.yaml @@ -50,12 +50,12 @@ lifecycle: - verificatie-en-validatie - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 - urn:nl:ak:mtr:owp-15 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-18 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-15-eu-conformiteitsverklaring.yaml b/requirements/aia-15-eu-conformiteitsverklaring.yaml index 294199d..be2afd3 100644 --- a/requirements/aia-15-eu-conformiteitsverklaring.yaml +++ b/requirements/aia-15-eu-conformiteitsverklaring.yaml @@ -49,12 +49,12 @@ lifecycle: - verificatie-en-validatie - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 - urn:nl:ak:mtr:owp-15 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-18 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-16-ce-markering.yaml b/requirements/aia-16-ce-markering.yaml index cdc5085..d1e8b05 100644 --- a/requirements/aia-16-ce-markering.yaml +++ b/requirements/aia-16-ce-markering.yaml @@ -33,12 +33,12 @@ subject: lifecycle: - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 - urn:nl:ak:mtr:owp-15 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-18 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-17-registratieverplichtingen.yaml b/requirements/aia-17-registratieverplichtingen.yaml index 3caeda2..9a6f45f 100644 --- a/requirements/aia-17-registratieverplichtingen.yaml +++ b/requirements/aia-17-registratieverplichtingen.yaml @@ -34,11 +34,11 @@ subject: lifecycle: - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-18-corrigerende-maatregelen-voor-non-conforme-ai.yaml b/requirements/aia-18-corrigerende-maatregelen-voor-non-conforme-ai.yaml index 6966548..0ebd289 100644 --- a/requirements/aia-18-corrigerende-maatregelen-voor-non-conforme-ai.yaml +++ b/requirements/aia-18-corrigerende-maatregelen-voor-non-conforme-ai.yaml @@ -39,14 +39,16 @@ lifecycle: - organisatieverantwoordelijkheden - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 - urn:nl:ak:mtr:owk-02 +- urn:nl:ak:mtr:mon-05 +- urn:nl:ak:mtr:mon-07 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-19-toegankelijkheidseisen.yaml b/requirements/aia-19-toegankelijkheidseisen.yaml index a9e2ec5..45bfa5e 100644 --- a/requirements/aia-19-toegankelijkheidseisen.yaml +++ b/requirements/aia-19-toegankelijkheidseisen.yaml @@ -47,15 +47,15 @@ subject: lifecycle: - ontwerp links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 - urn:nl:ak:mtr:owk-02 ai_act_profile: - type: diff --git a/requirements/aia-20-gebruiksverantwoordelijken-maatregelen.yaml b/requirements/aia-20-gebruiksverantwoordelijken-maatregelen.yaml index 3facd7a..998fbab 100644 --- a/requirements/aia-20-gebruiksverantwoordelijken-maatregelen.yaml +++ b/requirements/aia-20-gebruiksverantwoordelijken-maatregelen.yaml @@ -44,14 +44,13 @@ subject: lifecycle: - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-32 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-21-gebruiksverantwoordelijken-menselijk-toezicht.yaml b/requirements/aia-21-gebruiksverantwoordelijken-menselijk-toezicht.yaml index d219d54..775cb57 100644 --- a/requirements/aia-21-gebruiksverantwoordelijken-menselijk-toezicht.yaml +++ b/requirements/aia-21-gebruiksverantwoordelijken-menselijk-toezicht.yaml @@ -43,14 +43,15 @@ lifecycle: - organisatieverantwoordelijkheden links: - urn:nl:ak:mtr:org-01 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:imp-03 - urn:nl:ak:mtr:imp-05 -- urn:nl:ak:mtr:imp-01 +- urn:nl:ak:mtr:imp-09 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-22-gebruiksverantwoordelijken-monitoren-werking.yaml b/requirements/aia-22-gebruiksverantwoordelijken-monitoren-werking.yaml index 9a6e989..ae60044 100644 --- a/requirements/aia-22-gebruiksverantwoordelijken-monitoren-werking.yaml +++ b/requirements/aia-22-gebruiksverantwoordelijken-monitoren-werking.yaml @@ -45,9 +45,22 @@ subject: lifecycle: - monitoring-en-beheer links: +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-21 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-36 +- urn:nl:ak:mtr:dat-11 +- urn:nl:ak:mtr:dat-12 - urn:nl:ak:mtr:owk-02 +- urn:nl:ak:mtr:owk-09 - urn:nl:ak:mtr:imp-03 -- urn:nl:ak:mtr:imp-01 +- urn:nl:ak:mtr:imp-09 +- urn:nl:ak:mtr:mon-05 +- urn:nl:ak:mtr:mon-07 +- urn:nl:ak:mtr:mon-08 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-23-gebruiksverantwoordelijken-bewaren-logs.yaml b/requirements/aia-23-gebruiksverantwoordelijken-bewaren-logs.yaml index d9d1764..6af200d 100644 --- a/requirements/aia-23-gebruiksverantwoordelijken-bewaren-logs.yaml +++ b/requirements/aia-23-gebruiksverantwoordelijken-bewaren-logs.yaml @@ -51,7 +51,12 @@ subject: lifecycle: - ontwikkelen - monitoring-en-beheer -links: [] +links: +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-24-informeren-werknemers.yaml b/requirements/aia-24-informeren-werknemers.yaml index bd6fe97..15c2812 100644 --- a/requirements/aia-24-informeren-werknemers.yaml +++ b/requirements/aia-24-informeren-werknemers.yaml @@ -32,7 +32,14 @@ subject: - transparantie lifecycle: - implementatie -links: [] +links: +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-21 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-25-gebruiksverantwoordelijken-registratieverplichtingen.yaml b/requirements/aia-25-gebruiksverantwoordelijken-registratieverplichtingen.yaml index 495d0fc..21c3d64 100644 --- a/requirements/aia-25-gebruiksverantwoordelijken-registratieverplichtingen.yaml +++ b/requirements/aia-25-gebruiksverantwoordelijken-registratieverplichtingen.yaml @@ -43,7 +43,12 @@ lifecycle: - organisatieverantwoordelijkheden - implementatie - monitoring-en-beheer -links: [] +links: +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-26-recht-op-uitleg-ai-besluiten.yaml b/requirements/aia-26-recht-op-uitleg-ai-besluiten.yaml index f2ce001..5615c14 100644 --- a/requirements/aia-26-recht-op-uitleg-ai-besluiten.yaml +++ b/requirements/aia-26-recht-op-uitleg-ai-besluiten.yaml @@ -60,7 +60,13 @@ lifecycle: - ontwerp - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-07 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-21 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-33 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-27-beoordelen-gevolgen-grondrechten.yaml b/requirements/aia-27-beoordelen-gevolgen-grondrechten.yaml index a88e59d..250d57c 100644 --- a/requirements/aia-27-beoordelen-gevolgen-grondrechten.yaml +++ b/requirements/aia-27-beoordelen-gevolgen-grondrechten.yaml @@ -42,15 +42,15 @@ lifecycle: - verificatie-en-validatie links: - urn:nl:ak:mtr:org-12 -- urn:nl:ak:mtr:owp-06 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-07 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:owk-02 -- urn:nl:ak:mtr:ver-01 +- urn:nl:ak:mtr:ver-03 - urn:nl:ak:mtr:imp-02 ai_act_profile: - type: diff --git a/requirements/aia-28-transparantieverplichtingen.yaml b/requirements/aia-28-transparantieverplichtingen.yaml index 2f43ceb..3c2a2ee 100644 --- a/requirements/aia-28-transparantieverplichtingen.yaml +++ b/requirements/aia-28-transparantieverplichtingen.yaml @@ -33,14 +33,16 @@ lifecycle: - ontwikkelen - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:pba-04 -- urn:nl:ak:mtr:imp-10 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-31 +- urn:nl:ak:mtr:owp-37 - urn:nl:ak:mtr:imp-01 ai_act_profile: - type: diff --git a/requirements/aia-29-ai-modellen-algemene-doeleinden.yaml b/requirements/aia-29-ai-modellen-algemene-doeleinden.yaml index 78c8d42..7dc7186 100644 --- a/requirements/aia-29-ai-modellen-algemene-doeleinden.yaml +++ b/requirements/aia-29-ai-modellen-algemene-doeleinden.yaml @@ -56,7 +56,12 @@ lifecycle: - ontwerp - ontwikkelen - monitoring-en-beheer -links: [] +links: +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-model voor algemene doeleinden diff --git a/requirements/aia-30-ai-modellen-algemene-doeleinden-systeemrisico.yaml b/requirements/aia-30-ai-modellen-algemene-doeleinden-systeemrisico.yaml index 41e2cf0..fa81e31 100644 --- a/requirements/aia-30-ai-modellen-algemene-doeleinden-systeemrisico.yaml +++ b/requirements/aia-30-ai-modellen-algemene-doeleinden-systeemrisico.yaml @@ -51,11 +51,12 @@ lifecycle: - verificatie-en-validatie - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-model voor algemene doeleinden diff --git a/requirements/aia-31-ai-modellen-algemene-doeleinden-systeemrisico-ernstige-incidenten.yaml b/requirements/aia-31-ai-modellen-algemene-doeleinden-systeemrisico-ernstige-incidenten.yaml index 23969a6..090fb2b 100644 --- a/requirements/aia-31-ai-modellen-algemene-doeleinden-systeemrisico-ernstige-incidenten.yaml +++ b/requirements/aia-31-ai-modellen-algemene-doeleinden-systeemrisico-ernstige-incidenten.yaml @@ -36,11 +36,11 @@ subject: lifecycle: - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-model voor algemene doeleinden diff --git a/requirements/aia-32-ai-modellen-algemene-doeleinden-systeemrisico-cyberbeveiliging.yaml b/requirements/aia-32-ai-modellen-algemene-doeleinden-systeemrisico-cyberbeveiliging.yaml index 77ed0a9..e2e4ccd 100644 --- a/requirements/aia-32-ai-modellen-algemene-doeleinden-systeemrisico-cyberbeveiliging.yaml +++ b/requirements/aia-32-ai-modellen-algemene-doeleinden-systeemrisico-cyberbeveiliging.yaml @@ -30,11 +30,16 @@ lifecycle: - ontwikkelen - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-36 +- urn:nl:ak:mtr:dat-11 +- urn:nl:ak:mtr:dat-12 +- urn:nl:ak:mtr:owk-09 +- urn:nl:ak:mtr:mon-08 ai_act_profile: - type: - AI-model voor algemene doeleinden diff --git a/requirements/aia-33-verwerking-in-testomgeving.yaml b/requirements/aia-33-verwerking-in-testomgeving.yaml index 89270b7..7bb93f4 100644 --- a/requirements/aia-33-verwerking-in-testomgeving.yaml +++ b/requirements/aia-33-verwerking-in-testomgeving.yaml @@ -37,11 +37,13 @@ lifecycle: - ontwikkelen - dataverkenning-en-datapreparatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:ver-04 ai_act_profile: - type: - AI-model voor algemene doeleinden diff --git a/requirements/aia-34-monitoring-na-het-in-de-handel-brengen.yaml b/requirements/aia-34-monitoring-na-het-in-de-handel-brengen.yaml index b315701..c8f4bdf 100644 --- a/requirements/aia-34-monitoring-na-het-in-de-handel-brengen.yaml +++ b/requirements/aia-34-monitoring-na-het-in-de-handel-brengen.yaml @@ -40,11 +40,15 @@ subject: lifecycle: - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:mon-05 +- urn:nl:ak:mtr:mon-07 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-35-melding-ernstige-incidenten.yaml b/requirements/aia-35-melding-ernstige-incidenten.yaml index 8629d83..1d9c324 100644 --- a/requirements/aia-35-melding-ernstige-incidenten.yaml +++ b/requirements/aia-35-melding-ernstige-incidenten.yaml @@ -37,11 +37,12 @@ lifecycle: - organisatieverantwoordelijkheden - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-36-melding-inbreuk-op-ai-verordening.yaml b/requirements/aia-36-melding-inbreuk-op-ai-verordening.yaml index cc5a084..05107ee 100644 --- a/requirements/aia-36-melding-inbreuk-op-ai-verordening.yaml +++ b/requirements/aia-36-melding-inbreuk-op-ai-verordening.yaml @@ -44,12 +44,11 @@ lifecycle: - organisatieverantwoordelijkheden - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-37-recht-klacht-indienen-bij-ai-bureau.yaml b/requirements/aia-37-recht-klacht-indienen-bij-ai-bureau.yaml index cb79fcd..bafa083 100644 --- a/requirements/aia-37-recht-klacht-indienen-bij-ai-bureau.yaml +++ b/requirements/aia-37-recht-klacht-indienen-bij-ai-bureau.yaml @@ -29,13 +29,12 @@ subject: lifecycle: - organisatieverantwoordelijkheden links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-32 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/aia-38-melding-inbreuk-op-ai-verordening.yaml b/requirements/aia-38-melding-inbreuk-op-ai-verordening.yaml deleted file mode 100644 index a395b15..0000000 --- a/requirements/aia-38-melding-inbreuk-op-ai-verordening.yaml +++ /dev/null @@ -1,63 +0,0 @@ -systemcard_path: .systemcard.requirements[] -schema_version: 1.1.0 -name: Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan - de AI-verordening -description: Inbreuken op de AI verordening moeten gemeld kunnen worden en melders - moeten dit op een veilige en vertrouwelijke manier kunnen doen, zoals beschreven - in Richtlijn (EU) 2019/1937. -explanation: 'Personen die optreden als klokkenluiders bij inbreuken op de AI-verordening, - moeten worden beschermd uit hoofde van het Unierecht. - - Richtlijn (EU) 2019/1937 (https://eur-lex.europa.eu/legal-content/NL/LSU/?uri=CELEX:32019L1937) - van het Europees Parlement en de Raad moet daarom van toepassing zijn. - - De richtlijn biedt een kader voor het veilig en vertrouwelijk melden van schendingen - van de verordening, terwijl het de melders ("klokkenluiders") beschermt tegen represailles - of vervolging. - - Deze richtlijn bevordert transparantie en verantwoording binnen organisaties en - draagt bij aan een cultuur van naleving en integriteit.' -urn: urn:nl:ak:ver:aia-38 -language: nl -owners: -- organization: Algoritmekader - name: '' - email: '' - role: '' -date: '' -url: https://minbzk.github.io/Algoritmekader/vereisten/aia-38-melding-inbreuk-op-ai-verordening/index.html -subject: -- governance -- menselijke-controle -lifecycle: -- organisatieverantwoordelijkheden -- monitoring-en-beheer -links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-21 -ai_act_profile: -- type: - - AI-systeem - - AI-systeem voor algemene doeleinden - - AI-model voor algemene doeleinden - open_source: [] - risk_group: [] - systemic_risk: [] - transparency_obligations: [] - role: - - aanbieder - - gebruiksverantwoordelijke - conformity_assessment_body: [] -always_applicable: 0 -template: - requirement: $REQUIREMENT - remarks: $REMARKS - status: $STATUS - timestamp: $TIMESTAMP - authors: - - name: $AUTHOR.NAME - email: $AUTHOR.EMAIL - role: $AUTHOR.ROLE diff --git a/requirements/aia-39-testen.yaml b/requirements/aia-38-testen.yaml similarity index 91% rename from requirements/aia-39-testen.yaml rename to requirements/aia-38-testen.yaml index 81bda24..bed3450 100644 --- a/requirements/aia-39-testen.yaml +++ b/requirements/aia-38-testen.yaml @@ -30,17 +30,17 @@ explanation: "AI-systemen met een hoog risico worden getest met het oog op het v \ uitvoeren op in bijlage III bedoelde AI-systemen met een hoog risico op elk moment\ \ v\xF3\xF3r het in de handel brengen of in gebruik nemen van het AI-systeem.\n\n\ Aanbieders of potenti\xEBle aanbieders mogen alleen testen onder re\xEBle omstandigheden\ - \ als is voldaan aan alle volgende voorwaarden:\n\na) de aanbieder of potenti\xEB\ + \ als is voldaan aan alle volgende voorwaarden:\n\na. de aanbieder of potenti\xEB\ le aanbieder heeft een plan voor tests onder re\xEBle omstandigheden opgesteld en\ \ ingediend bij de markttoezichtautoriteit in de lidstaat waar onder re\xEBle omstandigheden\ - \ moet worden getest;\n\nb) de markttoezichtautoriteit in de lidstaat waar onder\ + \ moet worden getest;\n\nb. de markttoezichtautoriteit in de lidstaat waar onder\ \ re\xEBle omstandigheden moet worden getest, heeft het testen onder re\xEBle omstandigheden\ \ en het plan voor tests onder re\xEBle omstandigheden goedgekeurd; indien de markttoezichtautoriteit\ \ binnen dertig dagen geen antwoord heeft gegeven, worden het testen onder re\xEB\ le omstandigheden en het plan voor tests onder re\xEBle omstandigheden geacht te\ \ zijn goedgekeurd; indien het nationale recht niet voorziet in een stilzwijgende\ \ goedkeuring, blijft het testen onder re\xEBle omstandigheden onderworpen aan een\ - \ toestemming;\n\nc) de aanbieder of potenti\xEBle aanbieder, met uitzondering van\ + \ toestemming;\n\nc. de aanbieder of potenti\xEBle aanbieder, met uitzondering van\ \ aanbieders of potenti\xEBle aanbieders van in de punten 1, 6 en 7 van bijlage\ \ III bedoelde AI-systemen met een hoog risico op de gebieden rechtshandhaving,\ \ migratie, asiel en grenstoezichtsbeheer en AI-systemen met een hoog risico als\ @@ -54,19 +54,19 @@ explanation: "AI-systemen met een hoog risico worden getest met het oog op het v \ d), met een Uniebreed uniek identificatienummer en de daarin gespecificeerde informatie;\ \ de aanbieder of potenti\xEBle aanbieder van in punt 2 van bijlage III bedoelde\ \ AI-systemen met een hoog risico heeft het testen onder re\xEBle omstandigheden\ - \ geregistreerd overeenkomstig artikel 49, lid 5;\n\nd) de aanbieder of potenti\xEB\ + \ geregistreerd overeenkomstig artikel 49, lid 5;\n\nd. de aanbieder of potenti\xEB\ le aanbieder die onder re\xEBle omstandigheden test, is in de Unie gevestigd of\ - \ heeft een in de Unie gevestigde wettelijke vertegenwoordiger aangewezen;\n\ne)\ + \ heeft een in de Unie gevestigde wettelijke vertegenwoordiger aangewezen;\n\ne.\ \ gegevens die zijn verzameld en verwerkt met het oog op het testen onder re\xEB\ le omstandigheden mogen alleen aan derde landen worden doorgegeven mits er passende\ \ en toepasselijke waarborgen uit hoofde van het Unierecht worden toegepast;\n\n\ - f) het testen onder re\xEBle omstandigheden duurt niet langer dan nodig is om de\ + f. het testen onder re\xEBle omstandigheden duurt niet langer dan nodig is om de\ \ doelstellingen ervan te verwezenlijken en in geen geval langer dan zes maanden,\ \ met een mogelijke verlenging van nog eens zes maanden indien de aanbieder of potenti\xEB\ le aanbieder de markttoezichtautoriteit daar vooraf van in kennis stelt, met een\ - \ uitleg waarom een dergelijke verlenging noodzakelijk is;\n\ng) proefpersonen die\ + \ uitleg waarom een dergelijke verlenging noodzakelijk is;\n\ng. proefpersonen die\ \ onder re\xEBle omstandigheden worden getest en die tot kwetsbare groepen behoren\ - \ vanwege hun leeftijd of handicap, worden naar behoren beschermd;\n\nh) indien\ + \ vanwege hun leeftijd of handicap, worden naar behoren beschermd;\n\nh. indien\ \ een aanbieder of potenti\xEBle aanbieder het testen onder re\xEBle omstandigheden\ \ organiseert in samenwerking met een of meer gebruiksverantwoordelijken of potenti\xEB\ le gebruiksverantwoordelijken, worden zij ge\xEFnformeerd over alle aspecten van\ @@ -76,22 +76,22 @@ explanation: "AI-systemen met een hoog risico worden getest met het oog op het v \ potenti\xEBle gebruiksverantwoordelijke sluiten een overeenkomst waarin hun taken\ \ en verantwoordelijkheden worden gespecificeerd teneinde te waarborgen dat de bepalingen\ \ voor het testen onder re\xEBle omstandigheden uit hoofde van deze verordening\ - \ en ander toepasselijk Unie- en nationaal recht worden nageleefd;\n\ni) de proefpersonen\ + \ en ander toepasselijk Unie- en nationaal recht worden nageleefd;\n\ni. de proefpersonen\ \ die onder re\xEBle omstandigheden worden getest, hebben ge\xEFnformeerde toestemming\ \ gegeven overeenkomstig artikel 61, of, in het geval van rechtshandhaving, indien\ \ het vragen om ge\xEFnformeerde toestemming het testen van het AI-systeem onder\ \ re\xEBle omstandigheden onmogelijk zou maken, de test zelf en het resultaat van\ \ de test onder re\xEBle omstandigheden hebben geen negatieve gevolgen voor de proefpersonen\ - \ en hun persoonsgegevens worden na de uitvoering van test gewist;\n\nj) op het\ + \ en hun persoonsgegevens worden na de uitvoering van test gewist;\n\nj. op het\ \ testen onder re\xEBle omstandigheden wordt daadwerkelijk toezicht gehouden door\ \ de aanbieder of potenti\xEBle aanbieder, alsook door gebruiksverantwoordelijken\ \ of potenti\xEBle gebruiksverantwoordelijken via personen die voldoende zijn gekwalificeerd\ \ op het relevante gebied en beschikken over de nodige capaciteiten, opleiding en\ - \ bevoegdheden om hun taken uit te voeren;\n\nk) de voorspellingen, aanbevelingen\ + \ bevoegdheden om hun taken uit te voeren;\n\nk. de voorspellingen, aanbevelingen\ \ of beslissingen van het AI-systeem kunnen daadwerkelijk worden teruggedraaid en\ \ genegeerd.\n\nZonder het testen van een AI-systeem, ontstaat het risico dat het\ \ AI-systeem inconsistent gaat presteren ten aanzien van het doel. \n" -urn: urn:nl:ak:ver:aia-39 +urn: urn:nl:ak:ver:aia-38 language: nl owners: - organization: Algoritmekader @@ -99,7 +99,7 @@ owners: email: '' role: '' date: '' -url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/vereisten/aia-39-testen/index.html +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/vereisten/aia-38-testen/index.html subject: - technische-robuustheid-en-veiligheid lifecycle: @@ -107,12 +107,7 @@ lifecycle: - ontwikkelen - monitoring-en-beheer - verificatie-en-validatie -links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +links: [] ai_act_profile: - type: - AI-systeem diff --git a/requirements/aia-39-beleid-naleven-auteurs-en-naburige-rechten.yaml b/requirements/aia-39-beleid-naleven-auteurs-en-naburige-rechten.yaml new file mode 100644 index 0000000..8ef900d --- /dev/null +++ b/requirements/aia-39-beleid-naleven-auteurs-en-naburige-rechten.yaml @@ -0,0 +1,73 @@ +systemcard_path: .systemcard.requirements[] +schema_version: 1.1.0 +name: Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door + aanbieders van AI-modellen voor algemene doeleinden. +description: ' + + Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door + aanbieders van AI-modellen voor algemene doeleinden. + + ' +explanation: "Aanbieders van AI-modellen voor algemene doeleinden stellen beleid op\ + \ ter naleving van het Unierecht inzake auteursrechten en naburige rechten en dan\ + \ met name ter vaststelling en naleving, onder meer door middel van geavanceerde\ + \ technologie\xEBn, van een op grond van artikel 4, lid 3, van Richtlijn (EU) 2019/790\ + \ tot uitdrukking gebracht voorbehoud van rechten.\n\nHiervoor dient de rechthebbende\ + \ van materialen die auteursrechtelijk zijn beschermd een uitdrukkelijk voorbehoud\ + \ te hebben gemaakt voor het verder gebruik van deze materialen. \n\nDeze eis geldt\ + \ ongeacht de jurisdictie waarin de auteursrechtelijke relevante handelingen plaatsvinden\ + \ die helpen bij het trainen van die AI-modellen voor algemene doeleienden.\n\n\ + Alleen op deze manier kan gezorgd worden voor een gelijk speelveld voor aanbieders\ + \ van AI-modellen voor algemene doeleinden, waar geen enkele aanbieder zich een\ + \ concurrentievoordeel op de Uniemarkt mag kunnen verschaffen met lagere auteursrechtelijke\ + \ normen dan de in de Unie toepasselijke normen.\n\nVoor een grotere transparantie\ + \ ten aanzien van de bij de pre-training en training van AI-modellen voor algemene\ + \ doeleinden gebruikte data, met inbegrip van door het auteursrecht beschermde tekst\ + \ en data, is het passend dat aanbieders van dergelijke modellen een voldoende gedetailleerde\ + \ samenvatting maken en publiceren van de voor de training van het AI-model voor\ + \ algemene doeleinden gebruikte content.\n\nZo kan er bijvoorbeeld een opsomming\ + \ worden gegeven van de belangrijkste gegevensverzamelingen of -reeksen waarmee\ + \ het model is getraind, zoals grote particuliere of openbare databanken of gegevensarchieven,\ + \ en kan een uitleg in de vorm van een relaas worden gegeven over andere gebruikte\ + \ gegevensbronnen. \n\nHet AI-bureau moet kunnen controleren of de aanbieder aan\ + \ deze eisen voldoet, zonder evenwel geval voor geval de trainingsdata te controleren\ + \ of te beoordelen qua naleving van het auteursrecht.\n\n\nDoor het niet voeren\ + \ van een beleid voor het naleven van auteursrechten en naburige rechten, ontstaat\ + \ het risico dat met het ontwikkeling, trainen en testen van AI-modellen een inbreuk\ + \ wordt gemaakt op deze rechten. \n" +urn: urn:nl:ak:ver:aia-39 +language: nl +owners: +- organization: Algoritmekader + name: '' + email: '' + role: '' +date: '' +url: https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/vereisten/aia-39-beleid-naleven-auteurs-en-naburige-rechten/index.html +subject: +- transparantie +lifecycle: +- ontwerp +- ontwikkelen +- monitoring-en-beheer +links: [] +ai_act_profile: +- type: + - AI-model voor algemene doeleinden + open_source: [] + risk_group: [] + systemic_risk: [] + transparency_obligations: [] + role: + - aanbieder + conformity_assessment_body: [] +always_applicable: 0 +template: + requirement: $REQUIREMENT + remarks: $REMARKS + status: $STATUS + timestamp: $TIMESTAMP + authors: + - name: $AUTHOR.NAME + email: $AUTHOR.EMAIL + role: $AUTHOR.ROLE diff --git a/requirements/arc-01-archiefwet.yaml b/requirements/arc-01-archiefwet.yaml index 5d41d90..03b30e8 100644 --- a/requirements/arc-01-archiefwet.yaml +++ b/requirements/arc-01-archiefwet.yaml @@ -27,13 +27,15 @@ lifecycle: - monitoring-en-beheer - ontwikkelen links: -- urn:nl:ak:mtr:owp-08 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-09 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:dat-04 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:dat-03 +- urn:nl:ak:mtr:uit-01 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/aut-01-auteursrechten.yaml b/requirements/aut-01-auteursrechten.yaml index 707fbe6..fca8ecd 100644 --- a/requirements/aut-01-auteursrechten.yaml +++ b/requirements/aut-01-auteursrechten.yaml @@ -33,17 +33,17 @@ lifecycle: - ontwerp - dataverkenning-en-datapreparatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 +- urn:nl:ak:mtr:owp-15 - urn:nl:ak:mtr:owp-16 -- urn:nl:ak:mtr:owp-17 -- urn:nl:ak:mtr:owp-18 - urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-20 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-27 -- urn:nl:ak:mtr:imp-10 -- urn:nl:ak:mtr:dat-06 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-30 +- urn:nl:ak:mtr:owp-37 +- urn:nl:ak:mtr:dat-05 - urn:nl:ak:mtr:dat-08 ai_act_profile: - type: [] diff --git a/requirements/avg-01-persoonsgegevens-worden-rechtmatig-verwerkt.yaml b/requirements/avg-01-persoonsgegevens-worden-rechtmatig-verwerkt.yaml index 9a591a2..baa5d0b 100644 --- a/requirements/avg-01-persoonsgegevens-worden-rechtmatig-verwerkt.yaml +++ b/requirements/avg-01-persoonsgegevens-worden-rechtmatig-verwerkt.yaml @@ -40,11 +40,12 @@ lifecycle: links: - urn:nl:ak:mtr:pba-05 - urn:nl:ak:mtr:owp-03 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-30 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-02-beperkte-bewaartermijn-van-persoonsgegevens.yaml b/requirements/avg-02-beperkte-bewaartermijn-van-persoonsgegevens.yaml index 9640b0f..e004c05 100644 --- a/requirements/avg-02-beperkte-bewaartermijn-van-persoonsgegevens.yaml +++ b/requirements/avg-02-beperkte-bewaartermijn-van-persoonsgegevens.yaml @@ -37,12 +37,13 @@ lifecycle: - dataverkenning-en-datapreparatie - uitfaseren links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:dat-04 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:dat-03 +- urn:nl:ak:mtr:uit-01 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-03-minimale-verwerking-van-persoonsgegevens.yaml b/requirements/avg-03-minimale-verwerking-van-persoonsgegevens.yaml index 69bd9a8..ac67e9b 100644 --- a/requirements/avg-03-minimale-verwerking-van-persoonsgegevens.yaml +++ b/requirements/avg-03-minimale-verwerking-van-persoonsgegevens.yaml @@ -34,13 +34,13 @@ lifecycle: - dataverkenning-en-datapreparatie - ontwikkelen links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:dat-05 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:dat-04 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-04-proportionaliteit-en-subsidiariteit.yaml b/requirements/avg-04-proportionaliteit-en-subsidiariteit.yaml index 207fcdf..49500f2 100644 --- a/requirements/avg-04-proportionaliteit-en-subsidiariteit.yaml +++ b/requirements/avg-04-proportionaliteit-en-subsidiariteit.yaml @@ -16,7 +16,7 @@ explanation: "Gegevensverwerking moet in verhouding staan tot het beoogde doel e \ als dit de minst inbreukmakende manier is om het doel te bereiken.\n\nDeze principes\ \ waarborgen dat de privacy van individuen wordt gerespecteerd en dat gegevensverwerking\ \ niet verder gaat dan noodzakelijk is voor legitieme doeleinden.\n\nHet is van\ - \ belang om deze principes te hanteren om te bepalen of en in [welke vorm een algoritmes](../maatregelen/1-pba-03-onderbouwen-gebruik-algoritme)\ + \ belang om deze principes te hanteren om te bepalen of en in [welke vorm een algoritmes](../maatregelen/1-pba-03-onderbouwen-gebruik-algoritme.md)\ \ moet worden toegepast en om tot een passende mate van gegevensverwerking te komen\ \ om het [doel](../maatregelen/1-pba-02-formuleren-doelstelling.md) te bereiken.\n" urn: urn:nl:ak:ver:avg-04 @@ -36,11 +36,12 @@ lifecycle: - dataverkenning-en-datapreparatie links: - urn:nl:ak:mtr:owp-05 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:owk-02 ai_act_profile: - type: [] diff --git a/requirements/avg-05-juistheid-en-actualiteit-van-persoonsgegevens.yaml b/requirements/avg-05-juistheid-en-actualiteit-van-persoonsgegevens.yaml index 07a9b5a..bd23732 100644 --- a/requirements/avg-05-juistheid-en-actualiteit-van-persoonsgegevens.yaml +++ b/requirements/avg-05-juistheid-en-actualiteit-van-persoonsgegevens.yaml @@ -39,13 +39,13 @@ subject: lifecycle: - dataverkenning-en-datapreparatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:dat-01 -- urn:nl:ak:mtr:mon-04 +- urn:nl:ak:mtr:mon-05 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-06-verantwoordingsplicht-rechtmatigheid.yaml b/requirements/avg-06-verantwoordingsplicht-rechtmatigheid.yaml index f9b3fcb..654988c 100644 --- a/requirements/avg-06-verantwoordingsplicht-rechtmatigheid.yaml +++ b/requirements/avg-06-verantwoordingsplicht-rechtmatigheid.yaml @@ -34,11 +34,11 @@ lifecycle: - dataverkenning-en-datapreparatie links: - urn:nl:ak:mtr:owp-01 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-07-transparantie-bij-verwerken-persoonsgegevens.yaml b/requirements/avg-07-transparantie-bij-verwerken-persoonsgegevens.yaml index 59fbad8..8ea44b3 100644 --- a/requirements/avg-07-transparantie-bij-verwerken-persoonsgegevens.yaml +++ b/requirements/avg-07-transparantie-bij-verwerken-persoonsgegevens.yaml @@ -32,15 +32,16 @@ lifecycle: - implementatie - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 - urn:nl:ak:mtr:imp-04 -- urn:nl:ak:mtr:imp-07 +- urn:nl:ak:mtr:imp-06 - urn:nl:ak:mtr:imp-08 ai_act_profile: - type: [] diff --git a/requirements/avg-08-wettelijke-verwerking-van-gevoelige-gegevens.yaml b/requirements/avg-08-wettelijke-verwerking-van-gevoelige-gegevens.yaml index 97294ab..a95e7c9 100644 --- a/requirements/avg-08-wettelijke-verwerking-van-gevoelige-gegevens.yaml +++ b/requirements/avg-08-wettelijke-verwerking-van-gevoelige-gegevens.yaml @@ -35,12 +35,11 @@ lifecycle: - ontwerp - dataverkenning-en-datapreparatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-09-inroepen-privacyrecht-bij-verwerking-persoonsgegevens.yaml b/requirements/avg-09-inroepen-privacyrecht-bij-verwerking-persoonsgegevens.yaml index 0d596f4..3f78269 100644 --- a/requirements/avg-09-inroepen-privacyrecht-bij-verwerking-persoonsgegevens.yaml +++ b/requirements/avg-09-inroepen-privacyrecht-bij-verwerking-persoonsgegevens.yaml @@ -46,14 +46,15 @@ lifecycle: - organisatieverantwoordelijkheden - ontwikkelen links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:imp-06 -- urn:nl:ak:mtr:imp-09 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:imp-07 +- urn:nl:ak:mtr:imp-11 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-10-recht-op-niet-geautomatiseerde-besluitvorming.yaml b/requirements/avg-10-recht-op-niet-geautomatiseerde-besluitvorming.yaml index 2511875..1345d31 100644 --- a/requirements/avg-10-recht-op-niet-geautomatiseerde-besluitvorming.yaml +++ b/requirements/avg-10-recht-op-niet-geautomatiseerde-besluitvorming.yaml @@ -120,13 +120,13 @@ lifecycle: - ontwerp - implementatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 - urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:imp-03 ai_act_profile: - type: [] diff --git a/requirements/avg-11-privacy-bij-ontwerp-bij-verwerking-van-persoonsgegevens.yaml b/requirements/avg-11-privacy-bij-ontwerp-bij-verwerking-van-persoonsgegevens.yaml index c7b4bb6..1f846cc 100644 --- a/requirements/avg-11-privacy-bij-ontwerp-bij-verwerking-van-persoonsgegevens.yaml +++ b/requirements/avg-11-privacy-bij-ontwerp-bij-verwerking-van-persoonsgegevens.yaml @@ -32,14 +32,15 @@ lifecycle: - ontwerp - dataverkenning-en-datapreparatie links: +- urn:nl:ak:mtr:owp-06 - urn:nl:ak:mtr:owp-10 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-32 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-12-beveiliging-van-verwerking.yaml b/requirements/avg-12-beveiliging-van-verwerking.yaml index 5d293d3..91571c8 100644 --- a/requirements/avg-12-beveiliging-van-verwerking.yaml +++ b/requirements/avg-12-beveiliging-van-verwerking.yaml @@ -37,16 +37,21 @@ subject: lifecycle: - organisatieverantwoordelijkheden links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 -- urn:nl:ak:mtr:dat-05 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-36 +- urn:nl:ak:mtr:dat-04 +- urn:nl:ak:mtr:dat-11 +- urn:nl:ak:mtr:dat-12 - urn:nl:ak:mtr:owk-01 +- urn:nl:ak:mtr:owk-09 - urn:nl:ak:mtr:mon-02 - urn:nl:ak:mtr:mon-03 +- urn:nl:ak:mtr:mon-08 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/avg-13-dpia-verplicht.yaml b/requirements/avg-13-dpia-verplicht.yaml index f877a9d..c48ce4d 100644 --- a/requirements/avg-13-dpia-verplicht.yaml +++ b/requirements/avg-13-dpia-verplicht.yaml @@ -49,13 +49,13 @@ lifecycle: - dataverkenning-en-datapreparatie - verificatie-en-validatie links: -- urn:nl:ak:mtr:owp-09 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 - urn:nl:ak:mtr:owp-14 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-17 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:owk-03 ai_act_profile: - type: [] diff --git a/requirements/awb-01-zorgvuldigheidsbeginsel.yaml b/requirements/awb-01-zorgvuldigheidsbeginsel.yaml index 2829caf..05ad224 100644 --- a/requirements/awb-01-zorgvuldigheidsbeginsel.yaml +++ b/requirements/awb-01-zorgvuldigheidsbeginsel.yaml @@ -10,12 +10,12 @@ explanation: "Het zorgvuldigheidsvereiste eist dat een besluit met de nodige zor \ onderzoek naar informatie, feiten, een zorgvuldige beslissingsprocedure en een\ \ deugdelijke besluitvorming. \n\nDit betekent dat bij de ontwikkeling en gebruik\ \ van algoritmes informatie moet worden vastgelegd over het algoritme. Hierbij\ - \ kan worden gedacht aan:\n- Dat het [doel en eventuele subdoelen](1-pba-01-formuleren-probleemdefinitie.md)\ + \ kan worden gedacht aan:\n- Dat het [doel en eventuele subdoelen](../maatregelen/1-pba-01-formuleren-probleemdefinitie.md)\ \ van het algoritme of AI-systeem helder zijn gedefinieerd, ook in relatie tot het\ \ maatschappelijke resultaat (outcome).\n- Een bewuste afweging afmaken en vaststellen\ - \ of het algoritme het [juiste middel is om het probleem](1-pba-01-formuleren-probleemdefinitie)\ + \ of het algoritme het [juiste middel is om het probleem](../maatregelen/1-pba-01-formuleren-probleemdefinitie.md)\ \ op doelmatige en doeltreffende wijze op te lossen.\n- Dat de werking van het algoritme\ - \ is onderzocht en is vastgesteld dat dit [passend is](5-ver-03-functioneren-in-lijn-met-doeleinden.md)\ + \ is onderzocht en is vastgesteld dat dit [passend is](../maatregelen/5-ver-01-functioneren-in-lijn-met-doeleinden.md)\ \ om te gebruiken in een besluitvormingsproces.\n" urn: urn:nl:ak:ver:awb-01 language: nl @@ -34,33 +34,39 @@ lifecycle: - verificatie-en-validatie links: - urn:nl:ak:mtr:org-01 -- urn:nl:ak:mtr:org-04 +- urn:nl:ak:mtr:org-02 - urn:nl:ak:mtr:org-03 - urn:nl:ak:mtr:pba-01 - urn:nl:ak:mtr:pba-02 - urn:nl:ak:mtr:pba-03 - urn:nl:ak:mtr:pba-04 - urn:nl:ak:mtr:pba-05 +- urn:nl:ak:mtr:pba-06 - urn:nl:ak:mtr:owp-01 - urn:nl:ak:mtr:owp-03 - urn:nl:ak:mtr:owp-04 -- urn:nl:ak:mtr:owp-09 - urn:nl:ak:mtr:owp-10 -- urn:nl:ak:mtr:owp-11 - urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-25 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:imp-10 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-31 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 +- urn:nl:ak:mtr:owp-37 - urn:nl:ak:mtr:owk-02 - urn:nl:ak:mtr:ver-01 -- urn:nl:ak:mtr:ver-03 +- urn:nl:ak:mtr:ver-02 +- urn:nl:ak:mtr:ver-05 - urn:nl:ak:mtr:imp-01 - urn:nl:ak:mtr:imp-03 - urn:nl:ak:mtr:imp-04 +- urn:nl:ak:mtr:imp-09 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/awb-02-motiveringsbeginsel.yaml b/requirements/awb-02-motiveringsbeginsel.yaml index 8d53237..37219c2 100644 --- a/requirements/awb-02-motiveringsbeginsel.yaml +++ b/requirements/awb-02-motiveringsbeginsel.yaml @@ -41,15 +41,18 @@ lifecycle: - implementatie - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-23 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-07 -- urn:nl:ak:mtr:imp-10 -- urn:nl:ak:mtr:ver-03 -- urn:nl:ak:mtr:imp-01 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-33 +- urn:nl:ak:mtr:owp-37 +- urn:nl:ak:mtr:ver-05 +- urn:nl:ak:mtr:imp-09 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/bio-01-beveiliging-informatie-en-informatiesystemen.yaml b/requirements/bio-01-beveiliging-informatie-en-informatiesystemen.yaml index 5689840..c2139fe 100644 --- a/requirements/bio-01-beveiliging-informatie-en-informatiesystemen.yaml +++ b/requirements/bio-01-beveiliging-informatie-en-informatiesystemen.yaml @@ -41,20 +41,25 @@ links: - urn:nl:ak:mtr:org-11 - urn:nl:ak:mtr:org-13 - urn:nl:ak:mtr:org-14 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 - urn:nl:ak:mtr:owp-24 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-27 - urn:nl:ak:mtr:owp-28 -- urn:nl:ak:mtr:org-02 +- urn:nl:ak:mtr:owp-29 +- urn:nl:ak:mtr:owp-32 +- urn:nl:ak:mtr:owp-35 +- urn:nl:ak:mtr:owp-36 +- urn:nl:ak:mtr:dat-11 +- urn:nl:ak:mtr:dat-12 - urn:nl:ak:mtr:owk-01 - urn:nl:ak:mtr:owk-04 +- urn:nl:ak:mtr:owk-09 - urn:nl:ak:mtr:mon-01 - urn:nl:ak:mtr:mon-02 - urn:nl:ak:mtr:mon-03 +- urn:nl:ak:mtr:mon-08 ai_act_profile: - type: [] open_source: [] diff --git a/requirements/bzk-01-algoritmeregister.yaml b/requirements/bzk-01-algoritmeregister.yaml index 33596bf..90a3595 100644 --- a/requirements/bzk-01-algoritmeregister.yaml +++ b/requirements/bzk-01-algoritmeregister.yaml @@ -31,11 +31,11 @@ lifecycle: - implementatie - monitoring-en-beheer links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 - urn:nl:ak:mtr:imp-04 ai_act_profile: - type: [] diff --git a/requirements/dat-01-databankenwet.yaml b/requirements/dat-01-databankenwet.yaml index ad95a3b..03b257c 100644 --- a/requirements/dat-01-databankenwet.yaml +++ b/requirements/dat-01-databankenwet.yaml @@ -35,14 +35,14 @@ subject: lifecycle: - dataverkenning-en-datapreparatie links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-27 -- urn:nl:ak:mtr:imp-10 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 +- urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-30 +- urn:nl:ak:mtr:owp-37 - urn:nl:ak:mtr:dat-08 ai_act_profile: - type: [] diff --git a/requirements/grw-01-fundamentele-rechten.yaml b/requirements/grw-01-fundamentele-rechten.yaml index 201f4e2..1f27fe1 100644 --- a/requirements/grw-01-fundamentele-rechten.yaml +++ b/requirements/grw-01-fundamentele-rechten.yaml @@ -38,15 +38,16 @@ lifecycle: links: - urn:nl:ak:mtr:owp-06 - urn:nl:ak:mtr:owp-07 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:owp-08 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-32 - urn:nl:ak:mtr:owk-02 -- urn:nl:ak:mtr:ver-01 +- urn:nl:ak:mtr:ver-03 - urn:nl:ak:mtr:imp-03 ai_act_profile: - type: [] diff --git a/requirements/grw-02-non-discriminatie.yaml b/requirements/grw-02-non-discriminatie.yaml index 095a2e8..2635981 100644 --- a/requirements/grw-02-non-discriminatie.yaml +++ b/requirements/grw-02-non-discriminatie.yaml @@ -42,16 +42,16 @@ lifecycle: - verificatie-en-validatie - monitoring-en-beheer links: -- urn:nl:ak:mtr:imp-10 -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 +- urn:nl:ak:mtr:org-15 +- urn:nl:ak:mtr:owp-15 +- urn:nl:ak:mtr:owp-16 - urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 +- urn:nl:ak:mtr:owp-22 +- urn:nl:ak:mtr:owp-24 - urn:nl:ak:mtr:owp-28 +- urn:nl:ak:mtr:owp-32 - urn:nl:ak:mtr:owk-02 -- urn:nl:ak:mtr:ver-01 +- urn:nl:ak:mtr:ver-03 - urn:nl:ak:mtr:imp-02 - urn:nl:ak:mtr:imp-05 ai_act_profile: diff --git a/requirements/woo-01-recht-op-toegang-tot-publieke-informatie.yaml b/requirements/woo-01-recht-op-toegang-tot-publieke-informatie.yaml index b01bfe5..07dff71 100644 --- a/requirements/woo-01-recht-op-toegang-tot-publieke-informatie.yaml +++ b/requirements/woo-01-recht-op-toegang-tot-publieke-informatie.yaml @@ -60,13 +60,7 @@ subject: lifecycle: - organisatieverantwoordelijkheden links: -- urn:nl:ak:mtr:owp-12 -- urn:nl:ak:mtr:owp-13 -- urn:nl:ak:mtr:owp-18 -- urn:nl:ak:mtr:owp-19 -- urn:nl:ak:mtr:owp-21 -- urn:nl:ak:mtr:owp-25 -- urn:nl:ak:mtr:owp-26 +- urn:nl:ak:mtr:owp-29 ai_act_profile: - type: [] open_source: []