Responsible AI is nodig voor vertrouwen in autonome systemen
26 februari 2018 [03:05], 1713 views
Door Mark Bakker

Responsible AI is nodig voor vertrouwen in autonome systemen

De sterke groei van artificial intelligence en slimme algoritmes maken dat technologie - in bijvoorbeeld de robotica - steeds beter in staat is zelfstandig te leren en daarmee ook meer autonoom gaat opereren. Zelflerende AI roept veel vragen op en vraagt om goede randvoorwaarden, ook wel ‘Responsible AI’ genoemd.

Bovenstaande stelling vormde de aftrap voor de discussie die ik samen met Colin Nugteren van Notilyze leidde tijdens RoboCafé, met als thema Robots meets data science. Het RoboCafé is een initiatief van RoboValley. Het doel is om robotic-wetenschappers samen te brengen met experts, ondernemers en beslissers uit het bedrijfsleven en de publieke sector die zich bezighouden met data science, data analytics en bots.

Praktische toepasbaarheid AI

Veel mensen hebben nog weinig vertrouwen in AI en de bijbehorende geautomatiseerde besluitvorming. Als bijvoorbeeld AI wordt gebruikt om aanvragen voor credit checks te evalueren op basis van tekstherkenning en/of image recognition, hoe kunnen aanvragers dan verzekerd zijn van een eerlijke en onpartijdige beoordeling? Hoe kunnen we erop vertrouwen dat  AI niet gevoelig is voor fouten in de data, fouten in de geautomatiseerde beoordeling of voor foutief getrainde algoritmes? Ze kunnen worden aangepakt door de juiste implementatie van ‘responsible’ AI, zonder dat dit een belemmering vormt voor de verdere ontwikkeling of innovatie van AI.

Vertrouwen

Willen data scientists, eindgebruikers en regelgevers zich prettig voelen bij de nieuwste AI en robotica, dan moeten statistische modellen en beslissingen zo betrouwbaar mogelijk zijn. Data scientists maken modellen met een hoge nauwkeurigheid en willen ook de werking van het model begrijpen zodat ze de bevindingen met de doelgroep kunnen communiceren. Zo willen eindgebruikers graag weten waarop beslissingen uiteindelijk zijn gebaseerd en of deze betrouwbaar zijn. En regelgevers willen eindgebruikers zoveel mogelijk beschermen door te eisen dat beslissingen en modellen eerlijk en transparant zijn.

AI by-design

De uitdaging is dus om uit te zoeken wat de beste manier is om te innoveren en tegelijkertijd oplossingen en producten te ontwikkelen die betrouwbaar en transparant zijn.

Tijdens de discussie In het RoboCafe kwam hoofdzakelijk naar voren dat juist de ontwikkelomgeving van AI-technologie zo betrouwbaar mogelijk moet zijn. Dat wil zeggen dat AI-technologie ‘by-design’ veilig moet zijn en privacy zou moeten waarborgen. Daarbij zou de technologie makkelijk hanteerbaar moeten zijn om te kunnen experimenteren en tegelijkertijd de mogelijkheid moeten bieden om het te introduceren en gebruiken in de praktijk. Als ieder AI-systeem gebruikmaakt van transparant databeheer, transparante modellen en heldere implementaties van analytics kunnen we ons leven echt verbeteren door middel van AI.

Over de auteur

Pre-sales consultant in the field of Business Intelligence / Analytics/ Business Analytics / 'Big Data'/ Visual Discovery / Data Scientist.

Reacties

SAS Roadshow 2019: van het voorspellen van betaalgedrag tot ons vertrouwen in AI
1 april 2019 [03:10], 5428 views

SAS Roadshow 2019: van het voorspellen van betaalgedrag tot ons vertrouwen in AI

Tijdens dit evenement werden een aantal inspirerende praktijkvoorbeelden van innovatieve AI-projecten gepresenteerd. Daarnaast werden handvatten aangereikt om AI-projecten [...]

 

Lees meer  

Samenwerking met NVIDIA op het gebied van deep learning en computer vision
29 maart 2019 [01:32], 5311 views

Samenwerking met NVIDIA op het gebied van deep learning en computer vision

SAS werkt samen met NVIDIA op het gebied van deep learning en computer vision. Het doel is om klanten te helpen met het toepassen van Artificial Intelligence (AI) bi [...]

 

Lees meer  

Investering van 1 miljard dollar in Artificial Intelligence
26 maart 2019 [01:09], 5274 views

Investering van 1 miljard dollar in Artificial Intelligence

SAS investeert de komende drie jaar $1 miljard in AI door middel van software-innovatie, onderwijs, aanbod van expert services en meer. De investering betreft nieuwe [...]

 

Lees meer  

MWC19: van vouwbare mobieltjes en 5G tot AI
15 maart 2019 [12:21], 7732 views

MWC19: van vouwbare mobieltjes en 5G tot AI

Op het Mobile World Congress in Barcelona werden de laatste innovaties van de nog steeds zeer dynamische telecom industrie getoond.

 

Lees meer  

Laat privacywetgeving je niet verlammen en blijf innoveren met AI
26 februari 2019 [11:33], 4920 views

Laat privacywetgeving je niet verlammen en blijf innoveren met AI

Kunstmatige intelligentie (AI) biedt veel kansen, mogelijkheden en voordelen voor innovatie. Wat is de impact van deze nieuwe privacywetgeving op AI-projecten? 

 

Lees meer  

Online campagnes zijn ok, zolang ze maar transparant zijn!
20 december 2018 [11:32], 2216 views

Online campagnes zijn ok, zolang ze maar transparant zijn!

Artificiële Intelligentie (AI) en analytics worden door de politiek gebruikt om hun boodschap op een gerichte manier bij het juiste kiespubliek te krijgen. 

 

Lees meer  

SAS voor Containers:  snelheid, wendbaarheid en schaalbaarheid voor cloudimplementaties
29 november 2018 [12:22], 4881 views

SAS voor Containers: snelheid, wendbaarheid en schaalbaarheid voor cloudimplementaties

Er is een toenemende belangstelling voor op containers gebaseerde software.

 

Lees meer  

Organisaties innovatiever door inzichten uit analytics
8 november 2018 [10:46], 5798 views

Organisaties innovatiever door inzichten uit analytics

72 procent erkent de voordelen van analytics, maar bij slechts 39 procent is het de kern van hun bedrijfsstrategie

 

Lees meer  

AI-oplossingen dragen bij aan slimmere bedrijfsvoering en innovaties
7 november 2018 [10:34], 2319 views

AI-oplossingen dragen bij aan slimmere bedrijfsvoering en innovaties

Artificial intelligence (AI) helpt organisaties wereldwijd om innovatie te stimuleren. Met de AI-oplossingen van SAS zijn organisaties als Notilyze, Sci [...]

 

Lees meer  

Sports Analytics met SAS
3 oktober 2018 [11:27], 2604 views

Sports Analytics met SAS

Wereldwijd wordt SAS bij vrijwel elke denkbare sport ingezet om trainings- en wedstrijdresultaten te analyseren. Nu richten we ons op een andere wereldsport: darts!< [...]

 

Lees meer