Inzicht · juli 2026
Op 15 juli 2026 diende Ramirez BV een bijdrage in bij de stakeholderconsultatie van het Europese AI Office over de ontwerprichtsnoeren voor de classificatie van hoog-risico-AI-systemen onder artikel 6 van de AI Act. De consultatie liep van 19 mei tot 23 juli 2026 en voedt de definitieve richtsnoeren die de Commissie later vaststelt.
Dit artikel vat samen wat wij hebben ingebracht en waarom. De volledige bijdrage, in het Engels zoals ingediend, staat onderaan als download.
Waarom wij deelnamen
De ontwerprichtsnoeren behandelen in sectie IV de leerdomein-toepassingen van bijlage III, waaronder systemen die leerresultaten evalueren. Waar de grens ligt tussen summatieve beoordeling, die telt voor een eindbeslissing, en formatieve feedback, die het leren ondersteunt, bepaalt hoe een hele categorie van systemen geclassificeerd wordt.
Dat raakt ons rechtstreeks. Onze motor draait sinds maart 2026 in productie bij Esmond, ons evaluatieplatform voor hoger onderwijs, actief in drie markten: studenten vragen er op eigen initiatief kritische feedback op een tekst die ze zelf schreven. Het systeem schrijft niets, kent geen cijfer of score toe, en de examinator ziet de output nooit. Precies die categorie, door de student geïnitieerde evaluatieve feedback, is in de ontwerptekst nog onvoldoende zichtbaar.
Onze inbreng
Wij hebben geen bezwaren ingediend maar verduidelijkingen voorgesteld, telkens met verwijzing naar de betrokken paragraaf van de ontwerptekst.
Formatieve feedback op een tekst die de instelling later zelf beoordeelt, bijvoorbeeld een scriptieversie, hoort niet onder de hoog-risico-bepaling te vallen enkel omdat het werk uiteindelijk een beoordeling krijgt. Beslissend is of de instelling de output gebruikt in die beoordeling.
Wij vroegen de richtsnoeren de twee beslissende criteria te benoemen: wie het gebruik initieert, de student of de instelling, en wie de uitkomst bepaalt, de examinator onafhankelijk of het systeem. Elke andere lezing zou ook een spellingchecker hoog-risico maken zodra de tekst ooit een cijfer krijgt. Dat kan de bedoeling niet zijn en zou disproportioneel uitpakken.
De bepaling over profilering hoort pas te werken nadat een systeem binnen het toepassingsgebied valt. Een systeem dat er op basis van de eigen criteria van de richtsnoeren buiten blijft, mag er niet langs een omweg terug in worden getrokken.
Daarnaast stelden wij één concreet voorbeeld voor om aan de richtsnoeren toe te voegen: een systeem dat een student op eigen initiatief en eigen kosten gebruikt voor kritische feedback op een eigen tekst, zonder cijfer of score, onzichtbaar voor de beoordelaars en zonder credential. Zo'n systeem versterkt de eigen capaciteit van de student vóór de beoordeling plaatsvindt.
Voorbij onderwijs
Eén observatie in onze bijdrage reikt verder dan onderwijs. De ontwerptekst stelt terecht dat een beperking die alleen in de gebruiksvoorwaarden staat weinig waard is als de bredere presentatie van een systeem risicovol gebruik toelaat. Wij steunen die strenge lijn, en vroegen de omgekeerde erkenning: een beperking die in het ontwerp van het systeem zelf is afgedwongen, bijvoorbeeld een systeem dat architecturaal geen cijfer of score kán produceren, is een sterker en beter verifieerbaar signaal dan een contractuele bepaling.
Dat is geen juridische spitsvondigheid maar onze bouwdoctrine. Onze systemen kennen geen scores toe, niet omdat een voorwaardenpagina het verbiedt, maar omdat ze er niet voor gebouwd zijn. Wie beperkingen technisch verankert in plaats van ze weg te schrijven, verdient dat de regelgever dat verschil ziet.
Status
De richtsnoeren zijn een ontwerptekst en de consultatie is een werkdocument van het AI Office; de definitieve tekst kan er anders uitzien. Wij publiceren hier onze houding en argumentatie, geen oordeel over de classificatie van welk systeem dan ook.
De bijdrage werd ingediend op naam van Ramirez BV, met instemming voor publicatie door de Commissie.