EU-wetsvoorstel voor AI in beroering

Tientallen topbestuurders uit Europa verzetten zich tegen een wetsvoorstel van de Europese Unie (EU) over kunstmatige intelligentie (AI).

De voorgestelde wet van de Europese Unie (EU) over kunstmatige intelligentie (AI) zorgt voor veel controverse. (Illustratiefoto)

In een open brief aan EU-wetgevers op 30 juni uitten topbestuurders van bedrijven als Siemens, Carrefour, Renault en Airbus hun ‘ernstige zorgen’ over het wetsvoorstel van de EU over AI. Als dit wetsvoorstel wordt aangenomen, wordt het wereldwijd de eerste alomvattende wet voor AI-technologie.

Onder de ondertekenaars van de brief bevinden zich grote namen uit de technologiesector, zoals Yann LeCun, hoofd AI- wetenschapper bij Meta (Facebook) en Hermann Hauser, oprichter van de Britse chipmaker ARM.

Een groep van meer dan 160 CEO's waarschuwde dat de AI-wet het concurrentievermogen van het EU-blok zou kunnen schaden en een "investeringsvlucht" zou kunnen veroorzaken.

"De wet zou het concurrentievermogen en de technologische soevereiniteit van Europa in gevaar brengen, zonder dat de uitdagingen waarmee we worden geconfronteerd en waarmee we in de toekomst te maken zullen krijgen, effectief worden aangepakt", aldus de onderzoekers.

Zij stellen dat de bepalingen van de wet te ver gaan, met name waar het gaat om het reguleren van AI in het algemeen en de onderliggende modellen van AI, de technologie achter populaire platforms zoals ChatGPT.

De donkere kant

Sinds de AI-gekte dit jaar begon, waarschuwen technologen voor de schaduwzijde van systemen die mensen in staat stellen machines te gebruiken voor het schrijven van scripties, het afleggen van academische toetsen en het bouwen van websites. Vorige maand waarschuwden honderden vooraanstaande experts voor het risico van menselijk uitsterven door AI, en dat het beperken van dat risico "een wereldwijde prioriteit zou moeten zijn, naast andere grootschalige risico's zoals pandemieën en een nucleaire oorlog."

Het EU-voorstel is breed van toepassing op AI, "ongeacht het gebruiksscenario" en zou innovatieve bedrijven en investeerders uit Europa kunnen verdrijven, omdat ze te maken zouden krijgen met hoge nalevingskosten en een "onevenredig aansprakelijkheidsrisico", aldus de leidinggevenden.

“Een dergelijke regelgeving zou ertoe kunnen leiden dat zeer innovatieve bedrijven hun activiteiten naar het buitenland verplaatsen en dat investeerders kapitaal uit de Europese AI-industrie terugtrekken, wat zou kunnen resulteren in een ernstige transatlantische productiviteitskloof”, stellen ze.

De leidinggevenden roepen beleidsmakers op om de voorwaarden van het wetsvoorstel aan te passen. Het wetsvoorstel werd eerder deze maand door het Europees Parlement goedgekeurd en er wordt nu met de EU-lidstaten over onderhandeld.

"In een context waarin we heel weinig weten over de echte risico's, bedrijfsmodellen of toepassingen van AI, zou de Europese wetgeving zich moeten beperken tot het formuleren van algemene principes in een op risico's gebaseerde aanpak", schreef de groep.

Deze leiders uit het bedrijfsleven hebben opgeroepen tot de oprichting van een raad van bestuur met experts die toezicht moet houden op deze principes en ervoor moet zorgen dat zij zich voortdurend kunnen aanpassen aan veranderingen in de snel evoluerende technologie.

De groep drong er ook bij wetgevers op aan om samen te werken met hun Amerikaanse collega's, en merkte op dat er ook in de VS regelgeving wordt voorgesteld met betrekking tot AI. EU-wetgevers zouden moeten werken aan het creëren van "een juridisch bindend gelijk speelveld".

Als dergelijke maatregelen niet worden genomen en Europa wordt beperkt door wettelijke verplichtingen, kan dit de internationale positie van de EU schaden, waarschuwden de CEO's.

"Net als de uitvinding van het internet of de doorbraak van de siliciumchip, is AI de technologie die de prestaties en het belang van deze verschillende gebieden zal bepalen", zeggen ze.

Tech-experts pleiten steeds vaker voor strengere regulering van AI, nu het gebruik ervan steeds wijdverbreider wordt. De afgelopen maanden hebben de VS en China plannen gepresenteerd om de technologie te reguleren. Sam Altman, CEO van ChatGPT-maker OpenAI, reisde de wereld rond om te pleiten voor internationale coördinatie op het gebied van AI.

Volgens het Europees Parlement zijn de EU-verordeningen de ‘eerste poging om’ juridisch bindende regels vast te stellen die van toepassing zijn op verschillende gebieden van AI over de hele wereld.

Veel controverses

Volgens het Europees Parlement is de EU-code ‘s werelds eerste poging om’ juridisch bindende regels vast te stellen die van toepassing zijn op verschillende gebieden van de AI-markt.

Onderhandelaars over de AI-wet hopen voor het einde van het jaar een akkoord te bereiken. Zodra het Europees Parlement en de EU-lidstaten de definitieve regels hebben aangenomen, zal de eerste formele verordening over AI in het Westen van kracht worden.

Het wetsvoorstel zou nu AI-systemen verbieden die als schadelijk worden beschouwd, waaronder gezichtsherkenningssystemen in openbare ruimtes, voorspellende politietools en sociale scoresystemen.

De details van het wetsontwerp die tot hevige discussies leiden, hebben vooral betrekking op de bescherming van de persoonlijke levenssfeer en het auteursrecht, zoals de vraag of AI de bewegingen van personen op openbare plaatsen mag volgen. China doet dit, maar de EU beschouwt dit als een schending van de privacy.

Of dat AI emoties moet kunnen herkennen, nadat Denemarken AI-spraakanalyse gebruikte om te bepalen of noodoproepen tekenen van een dreigende hartstilstand vertoonden.

Het wetsvoorstel stelt ook transparantie-eisen aan AI-systemen. Zo zouden systemen zoals ChatGPT duidelijk moeten maken dat hun content door AI is gegenereerd en waarborgen moeten bieden tegen het creëren van illegale content.

Deelname aan verboden AI-activiteiten kan leiden tot boetes van maximaal € 40 miljoen ($ 43 miljoen) of een bedrag dat gelijkstaat aan 7% van de jaarlijkse wereldwijde omzet van een bedrijf.

Maar de straffen zullen proportioneel zijn en rekening houden met de marktpositie van kleinschalige leveranciers, wat erop zou kunnen wijzen dat er sprake zou kunnen zijn van ‘coulance’ voor startups.

Niet iedereen is tegen dit wetsvoorstel.

Eerder in juli noemde de branchevereniging Digital Europe, waartoe SAP en Ericsson behoren, de conceptregels ‘een document waar we mee aan de slag kunnen’.

"Er zijn nog een aantal gebieden waarop verbetering mogelijk is om ervoor te zorgen dat Europa een concurrerend centrum voor AI-innovatie wordt", aldus Digitaal Europa.

"We zullen naar alle zorgen en belanghebbenden luisteren bij de aanpak van AI-regelgeving, maar we zijn vastbesloten om duidelijke en afdwingbare regels te bieden", vertelde Brando Benifei, een lid van het Italiaanse parlement dat meehielp bij het opstellen van het wetsvoorstel, aan CNN.

"Ons werk kan een positieve invloed hebben op het wereldwijde gesprek en de richting als het gaat om AI en de impact ervan op fundamentele rechten, zonder de noodzakelijke innovatie te belemmeren", aldus hij.

Bron: https://baoquocte.vn/roi-boi-du-luat-ai-cua-eu-233612.html