Tech

Het kost zeeën aan data om zelfrijdende auto’s veilig te maken

Door 20 juli 2018 No Comments

De zelfrijdende auto dreigt vast te lopen in een AI-winter, las ik onlangs in een intrigerend verhaal op The Verge. Deze winter staat voor de stagnatie die volgt op de periode van ongekende bloei die kunstmatige intelligentie heeft doorgemaakt. Hierdoor kun je nu tegen je telefoon praten en toont het digitale fotoboek op verzoek alle opnamen van je gerestaureerde rode Renault 4.

Indrukwekkend, maar niet goed genoeg om zelfrijdende auto’s veilig de paden op en de lanen in te sturen. Want AI vergist zich nogal eens, blijkt uit een filmpje dat wetenschappers van de universiteit van Jeruzalem onlangs op YouTube zetten. Daarin zien we een ijsbeer ijsberen, en staat onderaan in staafdiagrammen wat AI denkt te zien. Eerst ziet de intelligente software een ijsbeer (correct), maar enkele beelden later denkt dezelfde AI een stokstaartje waar te nemen, daarna een baviaan en vervolgens een wezel. Gruwel: de dieren wisselen continu stuivertje. Een paar pixels verschil en AI gaat al de mist in.

[embedded content]

Dat is gevaarlijk in het verkeer. Want waar de superslimme software het ene moment denkt van doen te hebben met een voetganger, kan een oogwenk later de conclusie luiden dat dit bewegend object een papieren zak van McDonald’s is. Met mogelijk vreselijke gevolgen, zoals onlangs bleek toen een zelfrijdende Uber een overstekende voetganger niet herkende en haar doodreed.

Dat het niet de goede kant op gaat, blijkt ook uit een recente analyse van het aantal ingrepen door menselijke toezichthouders in zelfrijdende auto’s van Google (tegenwoordig Waymo). Daaruit blijkt dat het aantal ingrepen jarenlang daalde, maar dat nu sprake is van afvlakking. Probleem: de zelfrijdende auto’s zitten vermoedelijk nog niet op het niveau waarop ze minder ongelukken veroorzaken dan menselijke bestuurders – de reden waarom deze onderneming ooit begon.

Het probleem is dat AI binnenzeeën aan data nodig heeft voor ze feilloos werkt. Dat lukt nog wel bij het herkennen van een hortensia (lekker veel voorbeelden op internet), maar is lastiger bij verkeerssituaties, waarvan er nu eenmaal ontelbare zijn. Het is hierdoor nooit zeker of een unieke situatie op de weg juist herkend en geïnterpreteerd wordt.

Sommige experts zijn bang dat het nog jaren en misschien wel decennia gaat duren voor zelfstandig rijdende auto’s veilig de weg op kunnen, iets wat autofabrikanten en techbedrijven een vervelend vooruitzicht vinden, juist nu ze miljarden in de technologie hebben gepompt.

Het grootste probleem is dat niemand weet of de ingeslagen weg de juiste is, of dat we hopeloos zullen vastlopen. Voorlopig lijkt de ontwikkeling van de autonome auto het meest op een trekkertrekrace. Spectaculair, maar ongewis of de finish wordt gehaald.

 

Bron: Volkskrant