Responsible AI is nodig voor vertrouwen in autonome systemen
26 februari 2018 [03:05], 788 views
Door Mark Bakker

Responsible AI is nodig voor vertrouwen in autonome systemen

De sterke groei van artificial intelligence en slimme algoritmes maken dat technologie - in bijvoorbeeld de robotica - steeds beter in staat is zelfstandig te leren en daarmee ook meer autonoom gaat opereren. Zelflerende AI roept veel vragen op en vraagt om goede randvoorwaarden, ook wel ‘Responsible AI’ genoemd.

Bovenstaande stelling vormde de aftrap voor de discussie die ik samen met Colin Nugteren van Notilyze leidde tijdens RoboCafé, met als thema Robots meets data science. Het RoboCafé is een initiatief van RoboValley. Het doel is om robotic-wetenschappers samen te brengen met experts, ondernemers en beslissers uit het bedrijfsleven en de publieke sector die zich bezighouden met data science, data analytics en bots.

Praktische toepasbaarheid AI

Veel mensen hebben nog weinig vertrouwen in AI en de bijbehorende geautomatiseerde besluitvorming. Als bijvoorbeeld AI wordt gebruikt om aanvragen voor credit checks te evalueren op basis van tekstherkenning en/of image recognition, hoe kunnen aanvragers dan verzekerd zijn van een eerlijke en onpartijdige beoordeling? Hoe kunnen we erop vertrouwen dat  AI niet gevoelig is voor fouten in de data, fouten in de geautomatiseerde beoordeling of voor foutief getrainde algoritmes? Ze kunnen worden aangepakt door de juiste implementatie van ‘responsible’ AI, zonder dat dit een belemmering vormt voor de verdere ontwikkeling of innovatie van AI.

Vertrouwen

Willen data scientists, eindgebruikers en regelgevers zich prettig voelen bij de nieuwste AI en robotica, dan moeten statistische modellen en beslissingen zo betrouwbaar mogelijk zijn. Data scientists maken modellen met een hoge nauwkeurigheid en willen ook de werking van het model begrijpen zodat ze de bevindingen met de doelgroep kunnen communiceren. Zo willen eindgebruikers graag weten waarop beslissingen uiteindelijk zijn gebaseerd en of deze betrouwbaar zijn. En regelgevers willen eindgebruikers zoveel mogelijk beschermen door te eisen dat beslissingen en modellen eerlijk en transparant zijn.

AI by-design

De uitdaging is dus om uit te zoeken wat de beste manier is om te innoveren en tegelijkertijd oplossingen en producten te ontwikkelen die betrouwbaar en transparant zijn.

Tijdens de discussie In het RoboCafe kwam hoofdzakelijk naar voren dat juist de ontwikkelomgeving van AI-technologie zo betrouwbaar mogelijk moet zijn. Dat wil zeggen dat AI-technologie ‘by-design’ veilig moet zijn en privacy zou moeten waarborgen. Daarbij zou de technologie makkelijk hanteerbaar moeten zijn om te kunnen experimenteren en tegelijkertijd de mogelijkheid moeten bieden om het te introduceren en gebruiken in de praktijk. Als ieder AI-systeem gebruikmaakt van transparant databeheer, transparante modellen en heldere implementaties van analytics kunnen we ons leven echt verbeteren door middel van AI.

Over de auteur

Pre-sales consultant in the field of Business Intelligence / Analytics/ Business Analytics / 'Big Data'/ Visual Discovery / Data Scientist.

Reacties

Innovaties in een data gedreven samenleving
13 juni 2018 [09:00], 285 views

Innovaties in een data gedreven samenleving

Innovaties in een data gedreven samenleving: van een grotere overlevingskans bij vroeggeboortes tot een leven lang genieten van voetbal. Op donderdag 31 mei vond de [...]

 

Lees meer  

Gezondheidszorg is early adopter in toepassen van AI
11 juni 2018 [10:17], 374 views

Gezondheidszorg is early adopter in toepassen van AI

Artificial Intelligence is waarschijnlijk het grootste buzzwoord van 2017 en 2018, en terecht! De gezondheidszorg lijkt echter een sector die, als early adopte [...]

 

Lees meer  

Hoe DHL meer grip krijgt op veranderende omstandigheden
8 mei 2018 [11:26], 606 views

Hoe DHL meer grip krijgt op veranderende omstandigheden

Logistiek dienstverlener DHL onderzoekt de mogelijkheden om data analytics toe te passen op operationeel niveau om direct in te kunnen spelen op veranderende omstand [...]

 

Lees meer  

Fraudebestrijding steeds succesvoller door data-analyse
30 april 2018 [11:16], 763 views

Fraudebestrijding steeds succesvoller door data-analyse

Nieuwe SAS-divisie moet organisaties helpen om verlies van miljarden euro’s te voorkomen. De combinatie van geavanceerde analytics-oplossingen en AI helpt de steeds comple [...]

 

Lees meer  

Consumenten accepteren AI eerder in de gezondheidszorg dan in andere sectoren
24 april 2018 [12:42], 559 views

Consumenten accepteren AI eerder in de gezondheidszorg dan in andere sectoren

Het gebrek aan menselijke interactie wordt gezien als grootste bezwaar tegen kunstmatige intelligentie. Hoewel de buzz rond kunstmatige intelligentie (art [...]

 

Lees meer  

Solide basis voor innovatie
18 april 2018 [08:42], 643 views

Solide basis voor innovatie

Om optimaal te kunnen inspelen op nieuwe technologieën zoals Artificial Intelligence (AI) en Machine Learning heeft elke organisatie een solide dataplatform nodig. Een pla [...]

 

Lees meer  

 West Perth is meest paradijselijke plek ter wereld
28 maart 2018 [08:50], 552 views

West Perth is meest paradijselijke plek ter wereld

West Perth is de beste plaats ter wereld om te wonen, in elk geval vanuit analytisch perspectief. SAS onderzocht ruim 150.000 locaties aan de hand van de analyse van [...]

 

Lees meer  

AI in de praktijk: van voetbal-data tot slimme sluizen
23 maart 2018 [05:16], 779 views

AI in de praktijk: van voetbal-data tot slimme sluizen

Artificial Intelligence (AI) is een onderwerp dat bij veel bedrijven op de agenda staat, maar concrete toepassingen staan vaak nog in de kinderschoenen. Tijdens de sessie [...]

 

Lees meer  

Responsible AI is nodig voor vertrouwen in autonome systemen
26 februari 2018 [03:05], 789 views

Responsible AI is nodig voor vertrouwen in autonome systemen

De groei van zelflerende slimme algoritmes zorgt voor een vraag naar goede randvoorwaarden waaronder deze worden gebruikt. Ofwel het is tijd voor responsible AI. 

 

Lees meer  

Dit zijn de hoogtepunten van de Analytics Experience
31 oktober 2017 [10:05], 2490 views

Dit zijn de hoogtepunten van de Analytics Experience

De oprichter en CEO van SAS, Jim Goodnight, was er duidelijk over tijdens de Analytics Experience: “We leven in een nieuwe democratie van analytics. De macht van dat [...]

 

Lees meer