Onderzoek en ontwikkel verantwoorde systemen voor kunstmatige intelligentie.

Volgens het Ministerie van Wetenschap en Technologie worden, in navolging van de algemene wereldwijde trend, systemen voor kunstmatige intelligentie (AI) geacht grote voordelen te bieden aan mensen, de maatschappij en de Vietnamese economie door het ondersteunen en oplossen van moeilijke problemen waarmee mensen en gemeenschappen worden geconfronteerd. Daarnaast is het noodzakelijk om onderzoek te doen en maatregelen te nemen om de risico's bij de ontwikkeling en het gebruik van AI te minimaliseren en de bijbehorende economische, ethische en juridische factoren in evenwicht te brengen. Daarom moeten gespecialiseerde instanties onderzoek doen en standaarden en richtlijnen ontwikkelen om deze te begeleiden, zelfs als het om zachte en niet-bindende regelgeving gaat.

In de richtlijnen stelt het ministerie van Wetenschap en Technologie negen principes vast voor het onderzoek en de ontwikkeling van verantwoorde kunstmatige intelligentiesystemen.

Ten eerste de geest van samenwerking en het bevorderen van innovatie: Ontwikkelaars moeten rekening houden met de connectiviteit en interoperabiliteit tussen hun AI-systemen en andere AI-systemen door rekening te houden met de diversiteit van de systemen. Zo vergroten ze de voordelen van het systeem en verbeteren ze de coördinatie om risico's te beheersen.

Ten tweede, transparantie: kunstmatige-intelligentiesystemen die aan dit principe voldoen, zijn vaak systemen die het leven, het lichaam, de privacy of de eigendommen van gebruikers of gerelateerde derden kunnen beïnvloeden. In dit geval moeten ontwikkelaars aandacht besteden aan het vermogen om de input en output van het systeem duidelijk te identificeren, evenals de bijbehorende uitlegbaarheid op basis van de kenmerken van de toegepaste technologie en hoe deze wordt gebruikt om het vertrouwen van de maatschappij, inclusief gebruikers, te waarborgen.

Ten derde, controleerbaarheid: Om de risico's te beoordelen die samenhangen met de controleerbaarheid van het systeem, moeten ontwikkelaars een voorbeoordeling uitvoeren om te bepalen of het systeem voldoet aan de relevante technische eisen en normen. Een van de methoden voor risicobeoordeling is om het systeem in een aparte ruimte te testen met beveiligings- en veiligheidsmaatregelen voordat het in de praktijk wordt gebruikt.

Ten vierde het veiligheidsbeginsel: ontwikkelaars moeten ervoor zorgen dat het kunstmatige-intelligentiesysteem geen schade toebrengt aan het leven, het lichaam of de eigendommen van gebruikers of derden, ook niet via tussenpersonen.

5. Beveiligingsprincipes: Naast het naleven van documenten, instructies en het implementeren van informatiebeveiligingsmaatregelen zoals voorgeschreven, moeten ontwikkelaars aandacht besteden aan punten zoals: Betrouwbaarheid en bestendigheid van het systeem tegen fysieke aanvallen of ongelukken; vertrouwelijkheid; integriteit; en beschikbaarheid van noodzakelijke informatie met betrekking tot de informatiebeveiliging van het systeem...

6. Privacy: Ontwikkelaars moeten ervoor zorgen dat AI-systemen de privacy van gebruikers of derden niet schenden. Privacy omvat ruimtelijke privacy (gemoedsrust in het privéleven), informatieprivacy (persoonsgegevens) en vertrouwelijkheid van communicatie. Ontwikkelaars moeten de huidige regelgeving en richtlijnen toepassen; internationale normen en richtlijnen voor privacy kunnen worden geraadpleegd.

Ontwikkelaars dienen een voorafgaande beoordeling van privacyrisico's en privacygevolgen uit te voeren. Neem, voor zover mogelijk, maatregelen die passen bij de kenmerken van de technologie die gedurende het hele systeemontwikkelingsproces wordt toegepast om privacyschendingen bij ingebruikname te voorkomen.

Ten zevende, respect voor mensenrechten en menselijke waardigheid: bij de ontwikkeling van kunstmatige-intelligentiesystemen waarbij mensen betrokken zijn, moeten ontwikkelaars speciale aandacht besteden aan het respecteren van de mensenrechten en de waardigheid van de betrokken personen. Ontwikkelaars moeten, voor zover mogelijk, afhankelijk van de kenmerken van de toegepaste technologie, maatregelen nemen om ervoor te zorgen dat ze geen discriminatie of onrechtvaardigheid veroorzaken door vooringenomenheid in de data tijdens het trainen van het systeem.

Ontwikkelaars moeten voorzorgsmaatregelen nemen om ervoor te zorgen dat het systeem de menselijke waarden en de sociale ethiek niet schendt, overeenkomstig de basisprincipes van Vietnam (bijvoorbeeld waarden zoals patriottisme, solidariteit, zelfredzaamheid, loyaliteit, eerlijkheid, verantwoordelijkheid, discipline, creativiteit, enz.).

8. Gebruikersondersteuning: Om gebruikers te ondersteunen, moeten systeemontwikkelaars aandacht besteden aan punten zoals: het creëren van gebruiksklare interfaces die tijdige en geschikte informatie bieden, zodat gebruikers beslissingen kunnen nemen en het systeem gemakkelijk kunnen gebruiken; het implementeren van maatregelen om het systeem gebruiksvriendelijker te maken voor kwetsbare mensen in de samenleving (ouderen, gehandicapten)...

9. Verantwoording: Ontwikkelaars moeten verantwoording afleggen voor de systemen die ze ontwikkelen om het vertrouwen van gebruikers te behouden. Ze moeten gebruikers met name informatie verstrekken die hen helpt bij de keuze en het gebruik van het systeem. Om de maatschappelijke acceptatie van de systemen te vergroten, zouden ontwikkelaars bovendien meer moeten doen: gebruikers voorzien van informatie en beschrijvingen van de technische specificaties van de systemen die ze ontwikkelen, algoritmen, beveiligingsmechanismen, enz.; luisteren naar meningen en in dialoog gaan met belanghebbenden.

Bron: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html