Responsible AI is nodig voor vertrouwen in autonome systemen
26 februari 2018 [03:05], 1702 views
Door Mark Bakker

Responsible AI is nodig voor vertrouwen in autonome systemen

De sterke groei van artificial intelligence en slimme algoritmes maken dat technologie - in bijvoorbeeld de robotica - steeds beter in staat is zelfstandig te leren en daarmee ook meer autonoom gaat opereren. Zelflerende AI roept veel vragen op en vraagt om goede randvoorwaarden, ook wel ‘Responsible AI’ genoemd.

Bovenstaande stelling vormde de aftrap voor de discussie die ik samen met Colin Nugteren van Notilyze leidde tijdens RoboCafé, met als thema Robots meets data science. Het RoboCafé is een initiatief van RoboValley. Het doel is om robotic-wetenschappers samen te brengen met experts, ondernemers en beslissers uit het bedrijfsleven en de publieke sector die zich bezighouden met data science, data analytics en bots.

Praktische toepasbaarheid AI

Veel mensen hebben nog weinig vertrouwen in AI en de bijbehorende geautomatiseerde besluitvorming. Als bijvoorbeeld AI wordt gebruikt om aanvragen voor credit checks te evalueren op basis van tekstherkenning en/of image recognition, hoe kunnen aanvragers dan verzekerd zijn van een eerlijke en onpartijdige beoordeling? Hoe kunnen we erop vertrouwen dat  AI niet gevoelig is voor fouten in de data, fouten in de geautomatiseerde beoordeling of voor foutief getrainde algoritmes? Ze kunnen worden aangepakt door de juiste implementatie van ‘responsible’ AI, zonder dat dit een belemmering vormt voor de verdere ontwikkeling of innovatie van AI.

Vertrouwen

Willen data scientists, eindgebruikers en regelgevers zich prettig voelen bij de nieuwste AI en robotica, dan moeten statistische modellen en beslissingen zo betrouwbaar mogelijk zijn. Data scientists maken modellen met een hoge nauwkeurigheid en willen ook de werking van het model begrijpen zodat ze de bevindingen met de doelgroep kunnen communiceren. Zo willen eindgebruikers graag weten waarop beslissingen uiteindelijk zijn gebaseerd en of deze betrouwbaar zijn. En regelgevers willen eindgebruikers zoveel mogelijk beschermen door te eisen dat beslissingen en modellen eerlijk en transparant zijn.

AI by-design

De uitdaging is dus om uit te zoeken wat de beste manier is om te innoveren en tegelijkertijd oplossingen en producten te ontwikkelen die betrouwbaar en transparant zijn.

Tijdens de discussie In het RoboCafe kwam hoofdzakelijk naar voren dat juist de ontwikkelomgeving van AI-technologie zo betrouwbaar mogelijk moet zijn. Dat wil zeggen dat AI-technologie ‘by-design’ veilig moet zijn en privacy zou moeten waarborgen. Daarbij zou de technologie makkelijk hanteerbaar moeten zijn om te kunnen experimenteren en tegelijkertijd de mogelijkheid moeten bieden om het te introduceren en gebruiken in de praktijk. Als ieder AI-systeem gebruikmaakt van transparant databeheer, transparante modellen en heldere implementaties van analytics kunnen we ons leven echt verbeteren door middel van AI.

Over de auteur

Pre-sales consultant in the field of Business Intelligence / Analytics/ Business Analytics / 'Big Data'/ Visual Discovery / Data Scientist.

Reacties

E-health hub houdt zorg betaalbaar en voorkomt eenzaamheid
13 november 2019 [09:00], 522 views

E-health hub houdt zorg betaalbaar en voorkomt eenzaamheid

E-health hub houdt zorg betaalbaar en voorkomt eenzaamheid.

 

Lees meer  

Meer rendement uit analytics-investering met ModelOps
21 oktober 2019 [10:46], 1226 views

Meer rendement uit analytics-investering met ModelOps

Volgens IDC slaagt slechts 35% van organisaties erin om analytische modellen volledig in productie te nemen. Dit resulteert in onnodige inspanningen en verspilling van gel [...]

 

Lees meer  

Geek blog series - part 3
29 juli 2019 [04:07], 1493 views

Geek blog series - part 3

In this ‘Geek blog series’ these Geeks share their expertise and insights on the latest AI and Analytics topics. Read the third part of this series.

 

Lees meer  

Geek blog series - part 2
22 juli 2019 [03:48], 1996 views

Geek blog series - part 2

In this ‘Geek blog series’ these ‘Geeks’ share their expertise and insights on the latest AI and Analytics topics. Read now the blogs of the second part of this series.

 

Lees meer  

Hoogtepunten van het SAS Analytics Forum ‘Be Curious’
24 juni 2019 [04:53], 1656 views

Hoogtepunten van het SAS Analytics Forum ‘Be Curious’

Op 6 juni stond het NBC Congrescentrum in Nieuwegein bol van Analytics en AI. Met ruim 1.200 bezoekers kijken we terug op een succesvol SAS Analytics Forum 2019.

 

Lees meer  

Geeks of the world: unite!
3 juni 2019 [06:00], 2442 views

Geeks of the world: unite!

Geeks unite at the SAS Analytics Forum and at SAS Curiosity Forum! They will broadcast all their expertise and insights they have gathered from the marvelous world of Mach [...]

 

Lees meer  

Algoritmes, de illusie van objectiviteit
6 mei 2019 [11:30], 3849 views

Algoritmes, de illusie van objectiviteit

Een vooroordeel is een typisch menselijk verschijnsel. We zijn allemaal bevooroordeeld, door onze eigen aard, en elke dag nemen we talloze beslissingen die ge [...]

 

Lees meer  

De impact van AI in de zorg
3 mei 2019 [10:45], 3286 views

De impact van AI in de zorg

Toonaangevende bedrijven in het bankwezen, de gezondheidszorg en andere branches gebruiken de advanced analytics en AI-gedreven mogelijkhed [...]

 

Lees meer  

Blue Jay: je toekomstige drone assistent
16 april 2019 [09:34], 4331 views

Blue Jay: je toekomstige drone assistent

Studententeam Blue Jay Eindhoven, die tot doel heeft om de toekomstige drone assistant te maken, probeert intelligentie te integreren in haar autonome drones.

 

Lees meer  

SAS Analytics Forum 2019: Be Curious
2 april 2019 [01:00], 5987 views

SAS Analytics Forum 2019: Be Curious

Tijdens het SAS Analytics Forum hoor je alles over de nieuwste ontwikkelingen en innovaties op het gebied van analytics, artificial int [...]

 

Lees meer