VRT MAX zendt een documentaire uit die kritisch kijkt naar de Autopilot-functie van Tesla, nu ook in België zelfrijdende wagens de weg op mogen. De film toont hoe de technologie soms ‘hallucineert’ en tot gevaarlijke situaties leidt.
De documentaire ‘Elon Musk unveiled: the Tesla experiment’, te zien op VRT MAX en Canvas, toont de gevaren van Tesla’s zelfrijdende technologie. Insiders, klokkenluiders en slachtoffers getuigen over de manier waarop Tesla de Autopilot-functie, die auto’s deels zelfstandig laat rijden, sturen en remmen, te vroeg op de markt bracht. Dit heeft geleid tot fatale ongevallen en een fenomeen dat ‘spookremmen’ wordt genoemd, waarbij een wagen plotseling afremt voor een niet-bestaand obstakel.
De uitzending van de documentaire valt samen met het moment waarop de eerste zelfrijdende Tesla’s ook in België de weg op mogen. Wij zien hierin een belangrijk signaal, aangezien de veiligheid van deze systemen nog lang niet gegarandeerd blijkt. Het roept de fundamentele vraag op hoeveel fouten van artificiële intelligentie we bereid zijn te aanvaarden wanneer mensenlevens op het spel staan, zeker wanneer een Tesla af en toe ‘spoken’ ziet.
Tesla kreeg schadevergoeding van 243 miljoen dollar opgelegd
De documentaire werpt licht op verschillende incidenten die het risico van de Autopilot-technologie onderstrepen. Zo overleed in mei 2016 Joshua Brown, het eerste bekende dodelijke slachtoffer van de technologie, toen zijn Tesla met ingeschakelde Autopilot onder een vrachtwagenoplegger reed. Ook het verhaal van Naibel Benavides Leon komt aan bod, die in 2019 om het leven kwam bij een ongeval waarbij een Tesla-bestuurder afgeleid was en de wagen mogelijk niet ingreep.
Vorig jaar oordeelde een jury dat Tesla mee aansprakelijk was voor dat laatste ongeval en legde het bedrijf een schadevergoeding van 243 miljoen dollar op, wat neerkomt op ongeveer 210 miljoen euro. Tesla ging echter in beroep tegen deze uitspraak. Deze financiële tegenslag toont aan dat de risico’s niet alleen menselijk zijn, maar ook aanzienlijke operationele kosten en juridische strijd met zich meebrengen, wat de balans en reputatie van het bedrijf onder druk zet.
Klokkenluiders onthullen interne druk
De film onthult ook hoe gewone Tesla-bestuurders jarenlang onbewust als testrijders dienden, waarbij hun ritten stiekem werden gebruikt om het zelfrijdende systeem te trainen. Klokkenluider Lukasz Krupski lekte in 2022 de ‘Tesla Files’, een verzameling van honderden interne documenten met duizenden klachten over op hol geslagen wagens. Voormalige medewerkers getuigen in de documentaire hoe ingenieurs die kritische vragen stelden, onder druk werden gezet of zelfs ontslagen.
Wij lezen dit als een patroon van het verdoezelen van problemen en het negeren van waarschuwingen ten gunste van een snelle marktintroductie, een filosofie die ooit door Facebook werd gepromoot als ‘Move Fast And Break Things’. Hoewel de technologie en AI-systemen in wagens de afgelopen tien jaar aanzienlijk zijn verbeterd en het aantal verkeersdoden op lange termijn mogelijk kan dalen, blijft de vraag cruciaal: hoeveel onzekerheid accepteren we voor technologische vooruitgang als de gevolgen zo ernstig kunnen zijn?