Een vertrouwde AI (of Betrouwbare AI is een benadering van kunstmatige intelligentie die zich richt op het ontwikkelen van systemen betrouwbaar, ethisch, transparant en respectvol ten opzichte van menselijke waarden. Het maakt deel uit van een kader dat ervoor moet zorgen dat AI-technologieën werken op een manier die veilig, eerlijk en verantwoordelijkdoor hun beslissingen af te stemmen op sociale, wettelijke en ethische normen.
Het concept lijkt op dat van een Verantwoorde AI.
Belangrijkste principes van vertrouwde AI
- Ethiek :
- Respect voor mensenrechten, waardigheid en rechtvaardigheid.
- Vermijd bias discriminerend (bijv. discriminatie op basis van geslacht of etnische afkomst).
- Transparantie (Verklaarbaarheid) :
- Het vermogen om AI-beslissingen uit te leggen (Interpreteerbare AI).
- Duidelijke documentatie van de gebruikte algoritmen en gegevens.
- Robuustheid en veiligheid :
- Weerstand tegen fouten, kwaadaardige aanvallen (bijv. ongunstige verstoringen) en gegevens met veel ruis.
- Gegarandeerd betrouwbare werking onder reële omstandigheden.
- Aansprakelijkheid (Verantwoordingsplicht) :
- Duidelijke definitie van wettelijke verantwoordelijkheden in het geval van fouten of schade veroorzaakt door AI.
- Implementatie van controle- en auditmechanismen.
- Respect voor privacy :
- Bescherming van persoonlijke gegevens (bijv. naleving van RGPD in Europa).
- Gebruik van technieken zoals differentiële vertrouwelijkheid of degefedereerd leren.
- Aandelen (Eerlijkheid) :
- Eliminatie van systemische vooroordelen in gegevens of algoritmen.
- Garantie van gelijke behandeling voor alle gebruikers.
- Menselijke controle :
- Behoud van menselijk toezicht op kritieke beslissingen (bijv. medisch, gerechtelijk).
- Principe van "mens-in-de-lus (mensen in de lus).
Kritische toepassingsgebieden
- Gezondheid medische diagnostiek, chirurgische robots.
- Gerechtigheid hulp bij justitiële besluitvorming (beoordeling van het risico op recidive).
- Financiën : krediet verlenen, fraude opsporen.
- Autonoom vervoer Veiligheid van bestuurderloze voertuigen.
- Werving onbevooroordeelde selectie van kandidaten.
Regelgevende kaders en initiatieven
- Europese AI-verordening (AI-wet) : Classificeert AI-systemen op basis van hun risico (verbiedt toepassingen met een hoog risico).
- EU-richtlijnen voor ethische AI 7 belangrijkste vereisten, waaronder transparantie en diversiteit.
- OESO-beginselen inzake AI innovatieve en betrouwbare AI bevorderen.
- IEEE Ethisch afgestemd ontwerp Technische normen voor verantwoorde AI
Uitdagingen
- Algoritmische vertekeningen Reproductie van sociale ongelijkheden (bijv. AI-werving die vrouwen benadeelt).
- Zwarte doos Complexiteit van modellen zoals diepe neurale netwerken, die moeilijk te interpreteren zijn.
- Beveiliging : Kwetsbaarheid aanvallen (bijv. wijziging van trainingsgegevens).
- Een evenwicht vinden tussen innovatie en regelgeving Risico op vertraging van technologische vooruitgang.
Voorbeelden
- IBM eerlijkheid 360 Een hulpmiddel voor het detecteren en corrigeren van vertekeningen in AI-modellen.
- Google Wat-Als hulpmiddel Gegevensanalyse: analyseert de impact van gegevens op voorspellingen.
- Verklaarbare AI-modellen (Uitlegbare AI - XAI) : Methoden zoals LIME of SHAP voor het interpreteren van beslissingen
