Het identificeren, voorkomen en bestrijden van discriminatie in data-gedreven of (zelf) lerende toepassingen in de publieke sector.

Challenge info

Dagen Uur Minuten

Deadline: 02 maart 2021 voor 17:00
Reward: max €25.000 | Programma | Kans op vervolgopdracht

Upload your pitch!

Share challenge

max €25.000 | Programma | Kans op vervolgopdracht

Nog 2 dagen

De overheid gebruikt en verwerkt veel informatie in het uitvoeren van al haar taken. Algoritmen spelen hierbij een rol om te komen tot een efficiënte en zo goed mogelijke uitkomst op basis van veel, of veel verschillende soorten data. Er kan sprake zijn van intensieve dataverwerking waarbij Artificiële Intelligentie (AI) de volgende stap is, of van data-gedreven of zelflerende toepassingen.

De ondoorzichtigheid van de data die gebruikt en verwerkt worden en algoritmen die tot conclusies komen, kunnen risico’s met zich mee brengen voor discriminatie en daarmee grondrechten van mensen aantasten. Discriminatie betekent dat er een onterecht verschil wordt gemaakt tussen mensen. Data kunnen verwijzen naar wettelijk beschermde persoonskenmerken zoals ras, seksuele geaardheid, geslacht of levensovertuiging.  

Over de problematiek van discriminatie in data-gedreven toepassingen en AI is al veel gezegd en geschreven. Innovatie en het borgen van grondrechten gaan hand in hand samen. Als in de ontwikkeling van data en algoritmische toepassingen grondrechten centraal staan, worden niet alleen de rechten goed geborgd, maar ook de voorwaarden gecreëerd voor systemen waar burgers op kunnen vertrouwen. 

BZK zoekt daarom naar creatieve oplossingen die bijdragen aan het identificeren, voorkomen en bestrijden van ongewenste vormen van discriminatie in data-gedreven of (zelf) lerende toepassingen in de publieke sector. Hebben jullie hiervoor de oplossing? Dan ontvangen wij graag jullie pitch!

Waar zijn we naar op zoek?
Wij zijn op zoek naar oplossingen die bijdragen aan het identificeren, voorkomen en bestrijden van ongewenste vormen van discriminatie in data-gedreven of (zelf) lerende toepassingen in de publieke sector. Dat mag domeinspecifiek zijn, bijv. op het terrein van gezondheidszorg, veiligheid, digitale overheid, verkeer/vervoer, of arbeidsmarkt, etc.

De vorm van de oplossing staat vrij. Het kan een technische oplossing zijn, een tool, een methode, of een product/toepassing, maar ook andere vormen zijn welkom. 

BZK wil de gekozen oplossing binnen het Startup in Residence programma testen op haalbaarheid en vervolgens op potentie voor opschaling in een use case.  

Discriminatie komt in vele vormen voor. Ruwweg kan je het opdelen in directe en indirecte discriminatie. Bij directe discriminatie kan bijvoorbeeld in een vacaturetekst wordt vermeld dat enkel vrouwen in aanmerking komen voor een baan. Dit is discriminatie op grond van geslacht. Dkan ook indirect zijn, bv. een werkgever wil fitte mensen aannemen en besluit daarom alleen mensen die langer zijn dan 1m70 te selecteren. De lengte van de persoon verwjst indirect naar het geslacht want vrouwen zijn minder lang dan mannen en worden nu sneller buitengesloten. Indirecte discriminatie is lastiger te identificeren, maar komt komt vermoedelijk vaak voor in data-gedreven toepassingen.

Waar zijn we niet naar op zoek?
We zijn niet op zoek naar een handleiding voor systeemprincipes non-discriminatie want die is al ontwikkeld. 

Hieraan gelieerd, we zijn niet op zoek naar richtlijnen voor data en algoritme gebruik, of instrumenten die verwijzen naar impacts assessments en audits, want die worden/zijn ook al ontwikkeld. Wel kunnen we ons voorstellen dat in de challenge gebruik wordt gemaakt van al deze type instrumenten. 

Wat is er te winnen?

  • Een innovatiebudget van maximaal €25.000
  • Een kans op een vervolgopdracht bij een succesvolle pilot.
  • Een begeleidingstraject van 5 maanden waarin jullie zowel de oplossing als de onderneming naar een hoger niveau kunnen tillen.
  • Toegang tot het netwerk van de overheid.

 

Informatiebijeenkomst
We organiseren voor deze challenge een online informatiebijeenkomst op 11 februari van 16.00-17.00. Aanmelden kan via onderstaande button tot en met zondag 7 februari om 23:59. Deelname was niet verplicht. Lees de vragen en antwoorden hier terug.

Inschrijven, beoordeling & voorwaarden
Inschrijven doe je door middel van het indienen van een verzoek tot deelneming (hier). Deze mag niet langer zijn dan 6 A4 + 3 A4 bijlage (in hetzelfde document). De offerte mag in vrije vorm worden ingediend (presentatie/slide deck, briefvorm), maar moet als pdf-bestand worden geüpload (max. 30MB). Pitches in English are allowed. Daarnaast moet je een UEA (Uniform Europees Aanbestedingsdocument) invullen. Download hier: Bijlage 2 UEA.pdf (alleen met Adobe Acrobat Reader te openen. - sla het bestand op je eigen pc op en open het dan met de reader).

Waar deze offerte verder aan moet voldoen en hoe hij wordt beoordeeld staat in de formele offerte aanvraag: Offerteaanvraag SIR intergov SZW.pdf. Let op: jouw inzending wordt niet beoordeeld als deze niet voldoet aan de (vorm)eisen. Het is dus belangrijk dat je deze goed doorleest.

 Bij deelname ga je akkoord met de voorwaarden beschreven in de Bijlage A ARVODI 2018.pdf.

Over het SIR Intergrov programma
De geselecteerde startups volgen een op maat gemaakt begeleidingstraject van vijf maanden dat bestaat uit drie onderdelen:

  • Challenge support - Een gekwalificeerde mentor ondersteunt de startup en opdrachtgever tijdens het opzetten van een pilotproject. In ‘deep dive’-sessies leren de startup, mentor en opdrachtgever elkaar kennen. Afspraken en milestones worden bijgehouden en ondertekend door alle partijen.
  • Startup support - We bieden een (optioneel) trainingsprogramma die ondernemingen helpt om zich verder te ontwikkelen. Dit is inclusief de lean startup methode, customer journeys, financiën, juridische structuren, bestuur en een groeistrategie. De trainingen worden verzorgd door professionele trainers, coaches en ondernemers.
  • Overige ondersteuning - Vanuit de overheid worden er diverse optionele trainingen en workshops georganiseerd, zoals ‘hoe werkt de overheid’, ‘data en ethiek’ en ‘financieringsmogelijkheden binnen de overheid’. Het Startup in Residence team heeft een faciliterende rol en zorgt ervoor dat alles soepel verloopt. 

Timeline
Een volledige timeline staat in de offerte aanvraag. De belangrijkste momenten zijn als volgt:

  • Woensdag 20 januari - Lancering challenge
  • Donderdag 11 februari, van 16.00 tot 17.00- Informatie meetup - aanmelden kan tot en met 7 februari 23:59
  • Maandag 15 februari, 12:00 - Deadline vragen stellen
  • Dinsdag 2 maart, 17:00 - Deadline insturen aanmelding
  • Vrijdag 19 maart - Eerste selectiebesluit
  • Tussen maandag 29 maart t/m vrijdag 2 april - Pitchronde
  • Uiterlijk 9 april,  12:00 - Inleveren nieuwe offerte
  • Vrijdag 23 april  - Gunningsbesluit

 

Vragen stellen was mogelijk tot maandag 15 februari 12.00.

De nota van inlichtingen met vragen en antwoorden uit de informatie meetup is gepubliceerd. Bekijk die hier.


anoniem 15-02-2021reageer
Beste SIR, In hoeverre mag het idee in de conceptuele fase zijn? We staan namelijk wel ingeschreven, maar het idee is nog niet doorontwikkeld (geen prototype e.d.). Dank alvast!

Ministerie van BZK 19-02-2021reageer
Het doel van SiR is om in co-creatie aan een idee te werken. Er wordt dus niet gevraagd om een kant-en-klaar product. Zie ook het antwoord op vraag 16 in de nota van inlichtingen.

Nota van inlichtingen gepubliceerd

22 februari 2021

Download hier de Nota van Inlichtingen waarbij de gestelde vragen van geïnteresseerde Inschrijver(s), naar aanleiding van de Offerteaanvraag van 20 januari 2021, beantwoord worden. nota van inlichtingen AI en publieke waarden.pdf
Log in of Registreer om je pitch te uploaden.

Andere challenges

Alle Challenges

Schrijf je in voor de nieuwsbrief, mis nooit een challenge!