Az Amazon tulajdonában lévő Zoox kénytelen volt a teljes flottáját visszahívni egy olyan banálisnak tűnő, mégis életveszélyes probléma miatt, ami szinte teljesen összezavarta a mesterséges intelligenciát.
Az önvezető járművek fejlesztése során a mérnökök számtalan extrém közúti szituációra készítik fel a rendszereket, ám az élet mindig képes olyan forgatókönyvet írni, ami kifog a legfejlettebb mesterséges intelligencián is. Az Amazon tulajdonában álló Zoox nemrégiben kénytelen volt önkéntes visszahívást hirdetni a teljes, 105 darabból álló robotaxi-flottájára.
A radikális lépést szerencsére nem egy halálos gázolás vagy súlyos karambol váltotta ki, hanem az a felismerés, hogy az autók önvezető szoftvere képtelen megfelelően felismerni és lereagálni a vészhelyzetek környékén gomolygó sűrű füstöt. A szövetségi autó biztonsági hivatalhoz, a NHTSA-hoz benyújtott dokumentumok szerint a probléma azokat a járműveket érintette, amelyek az április vége és július közepe között kiadott szoftververziókkal futottak az utakon.
A gyártó elismerte, hogy a sűrű füst okozta korlátozott látási viszonyok jelentősen növelik a balesetek kockázatát, és súlyosan akadályozhatják az elsőként a helyszínre érkező mentőegységek munkáját. A visszahívást egy június huszadikán történt Las Vegas-i eset váltotta ki. Egy utasok nélkül közlekedő Zoox robotaxi egy aktív tűzeset helyszínére tévedt, ahol a sűrű füst teljesen eltakarta a lángokat.
Mivel a területet a tűzoltók még nem zárták le terelőbójákkal, az autó gondolkodás nélkül behajtott a füstfelhőbe, majd bent hirtelen vészfékezett, miközben kétségbeesetten próbált elmanőverezni a veszélyzónából. A jármű végül teljesen elakadt, és csak egy távoli diszpécser külső, manuális beavatkozásával sikerült hátramenetben kimenteni a helyszínről, ami után a tűzoltók azonnal bójákkal zárták le a sávokat.
Bár személyi sérülés nem történt, az eset rávilágított a rendszer kritikus hiányosságára. A Zoox hardveres csere helyett egy vezeték nélküli szoftverfrissítéssel orvosolta a problémát, amely kifejezetten a sűrű füst – beleértve az elektromos autók tüzeit is – felismerését és kezelését hivatott javítani.
A történet időzítése különösen kellemetlen a cég számára, ugyanis a NHTSA nemrégiben küldött hivatalos figyelmeztetést a robotaxi-fejlesztőknek, kiemelve, hogy a sofőr nélküli autók rendszerszintű mintázatot mutatva akadályozzák a mentők és tűzoltók munkáját, mivel képtelenek megfelelően reagálni a villogókra, fáklyákra vagy a terelésekre.
