Blog

RobotWise: De inzet van robots in leersituaties

Merel Dorgelo interviewt Tamar Neter-Gans (foto), Amstelveense startup onderneemster van het jaar.

In het eerste deel van het Interview – dat we hier opnemen – legt Tamar Neter-Gans uit hoe door haar bedrijf RobotWise educatieve robots ingezet worden in leeromgevingen van kinderen. De privacy speelt daarin een belangrijke rol. In het tweede deel komt de (toekomstige) relatie robottechnologie en AI aan de orde. Het geheel artikel is doorspekt met juridische aspecten. 

RobotWise is een jonge onderneming van de Amstelveense startup onderneemster van het jaar, Tamar Neter-Gans. RobotWise zet robots in als hulpmiddel om kinderen en volwassenen sociale vaardigheden aan te leren. Zij verzorgen activiteiten voor bijvoorbeeld lagere schoolkinderen waarbij de kinderen robots leren programmeren om deze een taak te laten uitvoeren, zoals het afleggen van een route door een zelf ontworpen doolhof of het geven van een gymles.

Deel 1 Voor onderwijs, bedrijfsleven en de zorg

Leidt dat niet tot gevaarlijke situaties, omdat de robot misschien niet goed geprogrammeerd is om in te grijpen bij gevaarlijke situaties?

“Nee, vooralsnog vervangt de robot de mens niet. De robot mist nog de intuïtie die de mens wel heeft om de juiste beslissingen te nemen.  

Daarnaast zetten wij de robots spelenderwijs in en houden wij goed overzicht over de situaties, met in de meeste settingen één begeleider per tien personen.

ik zie dat alle robots camera’s hebben. Welke privacyproblemen levert dit op?

“Van alle robots die wij inzetten, hebben er eigenlijk maar twee een camera: Zora en Ohbot. 
We hebben alle andere camera’s uitgeschakeld. Van tevoren vragen wij volgens de AVG toestemming aan ouders / voogd voor het maken van foto’s en overig beeldmateriaal en intern of extern gebruik hiervan. Van de kinderen die op camera worden vastgelegd, hebben alle ouders toestemming gegeven voor publicatie van foto’s van hun kinderen aan het werk met de robots. De foto’s en/ of video’s worden alleen door mijzelf of de hoofdbegeleider gemaakt. Met de camera’s op de robots wordt niets opgenomen of opgeslagen. We vertrouwen de leveranciers van de robot nog niet genoeg om zeker te weten dat de data niet wordt hergebruikt, vandaar dat instellingen hiervoor uit staan.“

De kinderen – en andere klanten van RobotWise – programmeren de robots. Wie wordt de eigenaar van deze programmatuur? Zijn daar afspraken over gemaakt?

“Niemand wordt eigenaar van de programma’s (geprogrammeerde codes). De deelnemers (kind of volwassene) programmeren een robot en de output zien zij direct ervan, waardoor zij weer een stap verder gaan of hun huidige code verbeteren. Uiteindelijk is er een programma geprogrammeerd op de robot / tablet, en tegen het einde van de activiteit worden de robots uitgezet en ipads afgesloten. De programma’s worden dan automatisch gewist. De reden hiervan is dat de deelnemers geen persoonlijke accounts kunnen / mogen aanmaken. Hierdoor kunnen de programma’s niet opgeslagen worden.

Het kan zijn dat wij van RobotWise iets voorprogrammeren met behulp van ons RobotWise-account, bijvoorbeeld voor een opening van een event. In dat geval zijn wij zelf dan de eigenaar van het geprogrammeerde.

Regelmatig krijg ik van producenten of distributeurs robots aangeboden, met de vraag deze in te zetten binnen onze activiteiten. Ik accepteer alleen een aanbod wanneer de robot wat toevoegt aan ons bestaande assortiment. Bijvoorbeeld de robotauto, Rugged, die kan geprogrammeerd worden met knopjes op zijn rug of app en door verf, modder en water rijden. De kinderen programmeren door verschillende codes achter elkaar in te voeren, zo ontstaat een ‘programma’. Het programmeren met en van robots is bij ons voornamelijk visueel en intuïtief, met een educatief doel. Zo programmeren we robots om reken- en taalquizzen voor leerlingen met een achterstand bij te spijkeren. Naast het onderwijs en bedrijfsleven werken we sinds kort ook samen met een (jeugd)zorginstelling en een onderzoeksbedrijf. Samen gaan we jeugdhulpverleners helpen om robots in te zetten binnen therapieën.

Denk aan hoe we kinderen met autisme of trauma kunnen helpen om samen te werken of te communiceren met leeftijdgenootjes. Een jongetje dat niet aardde in de klas, is bij ons opgebloeid en socialer in zijn omgang met andere kinderen geworden.”

Deel 2 Robot technologie en AI

Sommige kinderen snappen niet goed wat samenwerken betekent. Ik zet een robot neer en geef aan wat het doel is, bijvoorbeeld de robot van A naar B krijgen binnen een bepaalde tijd, nadat ze eerst 5 obstakels moeten bouwen waar de robot omheen moet. De kinderen gaan dan zelf uitproberen wat de robot kan doen. We zien hoe vindingrijk ze zijn aan hun keuze voor de obstakels. Hoe iemand een opdracht aanpakt laat zien wat er in het hoofd omgaat. Kinderen vinden het ook leuk om hun werk te presenteren, dit is goed voor hun zelfvertrouwen. Vanuit de intrinsieke motivatie voelt het meer als het vertellen van een verhaaltje over iets dat zij willen delen, dan als een presentatie. Dat dit ook geldt voor volwassenen, heb ik ervaren in onze bedrijfstrainingen. Deze ontwikkelingen maken we mogelijk door de inzet van robots. 

Zo hebben we voor de Hogere Hotelschool een Robot Leadership Lab ontwikkeld, een meerdaags leiderschapsprogramma waarbij verschillende robotactiviteiten worden ingezet met het oog op  groepsdynamiek, teamontwikkeling en management vaardigheden. We gebruiken robots ook voor teambuilding activiteiten. In plaats van vlotten bouwen, laten wij mensen robots programmeren en bedienen om problemen op te lossen. 

Robots werken niet altijd. Dat geeft een drempel waardoor de robot vaak weer in de kast verdwijnt. Als een leraar drie keer een kapotte robot tegenkomt, repareert hij hem niet maar zet hem weg en gaat een andere activiteit met de kinderen ondernemen. De robot technologie is nog niet op drempelloos niveau, zo ook voor AI.

Er is veel discussie over AI en robots. Wij werken alleen met sociale, educatieve robots en de technologie is mijns inziens nog niet zover. Een robot met AI zou kunnen worden ingezet als een buddy. Het kind komt thuis en de robot begroet hem en ze ondernemen samen activiteiten, hiervoor moet de robot dan wel geprogrammeerd worden. Dit zou mogelijk zijn, maar in combinatie met het zelflerende vermogen (kunstmatige intelligentie), is dit nog niet mogelijk. Wat ik wel merk is dat de doorontwikkeling snel gaat. Toch heb ik nog geen sociale robot gevonden waarmee je écht interactie kan hebben. Ook Zora, bekend van tv, heeft geen kunstmatige intelligentie (AI). Er zit iemand in de andere kamer heel snel te typen of het is een voorgeprogrammeerd programma dat afgespeeld wordt.

Er is al zoveel data, binnen elke organisatie, school of instelling. Data kan mensen helpen om te beslissen. De mens zal altijd de beslissing moeten nemen, niet de robot. De mens heeft intuïtie, heeft een onderbuikgevoel. De technologie niet. Het lijkt me dat de mens eerder een menselijke fout zal vergeven dan een fout van een robot. Of bestaat er ook zoiets als AI intuïtie?

Voordat we verder gaan met het programmeren en inzetten van robots en artificiële intelligentie moeten we nagaan hoe mensen beslissingen nemen. Laten rechters zich altijd leiden door data? Is er onderzoek gedaan naar de beslissingen van vrouwelijke rechters ten opzichte van mannelijke rechters? Zitten daar verschillen in? Zou het erg zijn dat robots andere beslissingen nemen dan mensen? Welk onderzoek is er gedaan naar data en cultuur? Als wij willen dat AI besluiten neemt dan moeten we onderzoeken welke invloeden bepaalde factoren hebben. Het lijkt me dat de robot gemakkelijker de accountant dan de rechter kan ondersteunen, want de accountant gaat over cijfers.

Bij de World Summit of AI zat ik in het panel en heb ik vastgesteld dat het ook niet zo’n bezwaar is dat de robot nog zo beperkt is. Immers, hoe minder de robot kan, hoe meer de mens creatief moet zijn. Tijd is geld, ook bij de gemeente en de recherche. Misschien dat we robots kunnen inzetten voor repeterende werkzaamheden, bijvoorbeeld gezichtsherkenning bij de paspoortuitgave van de gemeente of gezichtsuitdrukkingen interpreteren en voorgesprekken voeren bij de politie. De vraag is hoe accepteert degene die verhoord wordt de robot, kloppen de conclusies van de robot, wat valt er te manipuleren door de goed acterende burger en hoe ontwikkelt zich het onderbuik gevoel van de robot? 

Merel Dorgelo is NVAIR-bestuurslid en advocaat bij SwitchLegal Advocaten.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *