De voorzitter
– Wegens de coronamaatregelen werd deze vraag om uitleg via videoconferentie behandeld.
De heer De Roo heeft het woord.
Stijn De Roo (CD&V)
Op de VivaTech-conferentie liet de voormalige CEO van Google, Eric Schmidt, zich kritisch uit over de weg die Europa bewandelt op het vlak van regulering van artificiële intelligentie (AI). De ontwerpen van de Europese Commissie zouden te beperkend zijn voor de fase waarin de technologie zich vandaag nog maar bevindt. De heer Schmidt schuwde daarbij de grote woorden niet en sprak over een klassiek Brussels bureaucratisch proces dat tot een ramp heeft geleid. Zijn vrees is dat Europa zich verslikt in overdreven regulering en daarbij het potentieel van een geopolitiek blok Europa-Verenigde Staten van Amerika ondermijnt. Daarmee zou de EU vrij spel geven aan autocratische landen om de AI-wedloop te winnen.
Daarmee gaat de heer Schmidt zelf in tegen zijn eerdere toespraak uit 2018 op dezelfde conferentie, waarbij hij er nog vast van overtuigd was dat technologie uit democratische regimes altijd de bovenhand zou hebben ten opzichte van technologie uit autocratische landen, omdat die tot grotere welvaart en geluk leidt.
Die vaste overtuiging is de voorbije drie jaar dus blijkbaar bijgesteld naar aanleiding van het wetgevend initiatief van de Europese Commissie. De heer Schmidt verwijst onder meer expliciet naar de eis dat het besluitvormingsproces van algoritmen verklaarbaar en transparant moet zijn, terwijl de huidige stand van zaken met betrekking tot neurale netwerken dat niet toelaat.
Beleidsmakers krijgen vaak het verwijt dat ze te ver achterlopen op de technologie, waardoor ze voor voldongen feiten komen te staan. De Europese Commissie lijkt met haar initiatief over dit dossier meer te anticiperen op toekomstige ontwikkelingen, zodat technologieën meer evolueren in lijn met de fundamentele waarden die we in Europa gewaarborgd willen zien. Het risico waar de heer Schmidt voor waarschuwt, omvat vooral de mogelijkheid dat de technologie zich hier helemaal niet ontwikkelt, maar elders en volgens geheel andere normen.
Minister, zijn er in de voorstellen van de Europese Commissie normen waarvan u eveneens vreest dat het risico op overregulering groot is? Of verwacht u eerder dat het voorgestelde kader een duidelijkere richting aan de evolutie van AI zal bieden?
De voorzitter
Minister Crevits heeft het woord.
Minister Hilde Crevits
De Artificiële Intelligentie-Verordening of Artificial Intelligence Act (AIA) is een heel belangrijk voorstel voor de toekomst van AI in Europa. Het valt daarbij te vergelijken met het kader voor de regulering van de GDPR (General Data Protection Regulation of Algemene Verordening Gegevensbescherming). Net zoals de GDPR omvat de AIA potentieel enorm veel materie en is de initiële opzet goed. Er moet wel blijvend gewaakt worden dat het uiteindelijke doel niet voorbijgeschoten wordt.
In België zal deze regelgeving, rekening houdend met de bevoegdheidsverdeling, federaal worden uitgerold, wat niet wegneemt dat Vlaamse stakeholders uit de quadrupel innovatiehelix hier sterk door beïnvloed zouden kunnen worden en dat sommige verantwoordelijkheden in de uitvoering van de verordening zich op regionaal niveau bevinden. Vlaanderen heeft er dus alle belang bij om het debat op regionaal niveau te voeren.
Momenteel staan we vanuit Vlaanderen volmondig achter het opzet van de verordening, namelijk dat sommige toepassingen van AI niet passen binnen onze Europese manier van leven of er een te grote invloed op zouden kunnen hebben. In een aantal gevallen wordt het dus verboden.
Als men gaat kijken naar de zogenaamde AI-systemen met een hoog risico, ziet men vereisten zoals transparantie en verklaarbaarheid terugkomen. Ook deze aanpak lijk ons logisch en wenselijk. De systemen moeten ook robuust genoeg zijn om degelijke keuzes te maken en moeten kunnen verklaren waarom ze deze keuzes hebben gemaakt.
Het is belangrijk te noteren dat we hier spreken over de uitzonderingen. Het merendeel van de toekomstige AI-systemen zal niet onder deze twee categorieën worden geplaatst.
Bij de vraag waar ik risico’s zie voor overregulering moet ik in de eerste plaats denken aan de vage omschrijving van enkele termen en definities in de tekst. Ik geef een aantal voorbeelden.
Wat maakt iets tot een AI-systeem? Wat maakt iets tot een hoog risico? Wat verstaat men juist onder psychologische schade? Dat zijn vragen waarover duchtig zal worden gedebatteerd en die bepalend zullen zijn voor de AI-verordening.
Ik kom tot de bekommernissen. Er bestaat de vrees dat onderzoek naar en de wetenschap van artificiële intelligentie onder de verordening zal vallen. Dat zou heel jammer zijn, want onderzoek naar AI kan natuurlijk nieuwe en maatschappelijk wenselijke innovaties teweegbrengen, en onderzoekers moeten in alle vrijheid hun onderzoek kunnen uitvoeren. Daarnaast bestaat de vrees dat kmo’s niet meer aan de slag zullen durven te gaan met AI-systemen omdat ze vrezen voor eventuele repercussies. Men moet daar dus ook voorzichtig in zijn. Een ander risico op overregulering is uiteraard de handhaving, die het best eenvormig wordt.
Het is op dit moment wel duidelijk dat de discussie nog een lange tijd zal meegaan. Veel zaken moeten nog worden verduidelijkt, maar ik zal me daar vanuit Vlaanderen met veel energie op storten.
De voorzitter
De heer De Roo heeft het woord.
Stijn De Roo (CD&V)
Minister, dank u voor uw antwoord. U haalt een aantal heel terechte zaken aan. Dat laatste, dat die discussie nog wel een tijdje zal meegaan, is zeker relevant. Het verduidelijken van wat AI precies is, wat de hoge risico’s zijn en dergelijke meer is inderdaad nodig. Om eventjes terug te komen op de voormalige CEO van Google, de heer Schmidt, die ook het geopolitieke argument aanhaalt, je zit natuurlijk ook wel met het gegeven dat we hier in Europa tegen het einde van deze eeuw met ongeveer 100 miljoen mensen minder zullen zijn. Als je dan gaat kijken naar wat het Westen zoals we dat vandaag kennen nog zal inhouden, en dat gaat dan over Europa, Noord-Amerika en een stukje Oceanië, vermoed ik, dan is dat iets meer dan 1,2 miljard mensen op een totaal van 11 miljard. Dan is het natuurlijk ook wel verklaarbaar dat een deel van die nieuwe technologie ook vanuit dergelijke landen zal komen, dat die daar zal worden ontwikkeld. Ze zitten daar gewoon met een groter potentieel, ongeveer acht keer groter, ook onder meer om nieuwe talenten aan te trekken. Ter zake moeten we ons ook wapenen. We moeten daar ook op voorbereid zijn. Ik denk dus dat het goed is dat de Europese Unie en de Europese Commissie daarrond een kader willen creëren. Het lijkt me ook van belang dat Vlaanderen erover waakt dat het geheel van die technologie, die we zeker moeten omarmen, ook voldoende ethisch blijft. In de hoorzittingen die we over AI hebben gehad, hebben we kennis kunnen nemen van een suggestie van zeven ethische richtlijnen. Die gaan onder andere over menselijke controle, over technische robuustheid, over transparantie, uitlegbaarheid en communicatie. Ik denk dat we erover moeten waken dat we die ethische richtlijnen kunnen blijven onderschrijven, zowel vanuit Vlaanderen als vanuit Europa, zodat we die technologie op een veilige manier ingang kunnen laten vinden, maar die tegelijkertijd ook niet afstoten.
Ik heb niet meteen bijkomende vragen, maar ik kijk zeker uit naar het vervolg hiervan.
De voorzitter
De vraag om uitleg is afgehandeld.
