Tesla ponownie znalazła się w centrum dyskusji o bezpieczeństwie autonomicznej jazdy. Tym razem chodzi o nagranie z Austin w Teksasie, na którym Robotaxi z pasażerem na pokładzie nie rozpoznaje wyznaczonego słupkami odcinka drogi i po prostu przejeżdża przez plastikowe bollardy. Sprawa budzi tym większe emocje, że pojawia się w momencie, gdy firma przygotowuje swój zaprojektowany od podstaw Cybercab do wyjazdu na publiczne drogi.
Nagranie, które obiegło sieć
Film udostępniony w serwisie Reddit pokazuje samochód Tesli poruszający się bardzo ostrożnie, jakby próbował ocenić sytuację przed sobą. Pojazd najpierw delikatnie rusza naprzód, potem cofa, po czym ponownie jedzie do przodu i ostatecznie wjeżdża prosto w plastikowe słupki. Na nagraniu słychać wyraźny huk uderzenia, a pasażer komentuje krótko: „Uderzył w nie, uderzył w nie”.
Najbardziej niepokojące jest to, że w aucie nie było kierowcy bezpieczeństwa. Nie wiadomo również, czy w momencie zdarzenia aktywny był zdalny operator, który mógłby zatwierdzić dalszą jazdę przez oznaczony obszar.
To jeden z tych przypadków, które pokazują, jak cienka jest granica między demonstracją technologii a realnym testem jej dojrzałości. Nawet prosty błąd w pozornie oczywistej sytuacji potrafi mocno podkopać zaufanie do całego systemu. W autonomicznej jeździe liczy się nie tylko postęp, ale też konsekwencja w działaniu.
„Nienaganny” rekord bezpieczeństwa kontra rzeczywistość
Incydent pojawił się niedługo po tym, jak szef sztucznej inteligencji Tesli przekonywał inwestorów, że program Robotaxi ma „nienaganny” bilans bezpieczeństwa i nie odnotował żadnych istotnych zdarzeń. To zestawienie deklaracji z nagraniem z Austin trudno zignorować, zwłaszcza że materiał pokazuje pojazd, który nie potrafi poradzić sobie z prostą przeszkodą terenową.
W praktyce oznacza to kolejne pytania o to, jak Tesla definiuje „incydent” i czy system rzeczywiście jest gotowy na sytuacje, które dla innych autonomicznych pojazdów są już codziennością. Dla opinii publicznej takie nagrania mają ogromne znaczenie, bo to właśnie one budują albo podważają zaufanie do technologii.
Nowy Google Pixel 10a – czy powtórzy słabości poprzednika? To też przykład premiery, przy której szczegóły techniczne mogą zadecydować o odbiorze całego produktu.
Problem z mapowaniem, a nie z samymi sensorami?
Na pierwszy rzut oka można by uznać, że zawiodły kamery lub algorytmy wykrywania przeszkód. Część komentatorów zwraca jednak uwagę, że bardziej prawdopodobny może być błąd w mapowaniu lub interpretacji otoczenia. Redditowicze szybko zidentyfikowali miejsce zdarzenia dzięki widocznemu w kadrze budynkowi Texas Orthopedics, a porównanie z Google Maps i Street View potwierdziło, że słupki stoją tam od dłuższego czasu.
To ważny szczegół, bo Tesla od dawna stawia na system oparty głównie na kamerach i komputerze pokładowym, rezygnując z kosztownego lidaru. Firma twierdzi, że takie podejście jest wystarczające, ale właśnie tego typu sytuacje wzmacniają krytykę przeciwników tej strategii.
Dlaczego Tesla idzie inną drogą niż Waymo
Tesla nie korzysta z własnego, rozbudowanego systemu mapowania HD w takim zakresie, jak robi to Waymo. Oznacza to, że jej pojazdy muszą podejmować więcej decyzji „na żywo”, bazując na tym, co widzą w danej chwili i na mocy obliczeniowej systemu. W teorii ma to dawać większą elastyczność, ale w praktyce może zwiększać ryzyko błędów w trudniejszych warunkach.
Waymo opiera się na bardziej konserwatywnym podejściu, wspieranym przez bardzo szczegółowe mapy i sprawdzone procedury. Tesla z kolei liczy na to, że z czasem jej system nauczy się radzić sobie z coraz szerszym zakresem sytuacji bez dodatkowej infrastruktury. Nagranie z Austin sugeruje jednak, że droga do pełnej niezawodności wciąż jest daleka.
Cybercab coraz bliżej publicznych dróg
Mimo tego typu wpadek pojawiają się doniesienia, że Tesla szykuje się do testów Cybercaba na drogach publicznych już w najbliższym czasie. To specjalnie zaprojektowana autonomiczna taksówka, pozbawiona klasycznych pedałów i kierownicy, w której za wszystko odpowiadają komputery, kamery i zestaw czujników.
Według doniesień pierwszymi testerami mają być pracownicy Tesli. Dopiero później pojazdy mogą trafić do autonomicznej floty w Austin. Problem w tym, że ta flota ma być obecnie mniejsza niż wcześniej i działa w bardzo ograniczonej, geofencowanej strefie, znacznie mniejszej od obszaru, na którym operuje konkurencja.
Co to oznacza dla zaufania do Robotaxi
Każdy system autonomicznego przewozu pasażerów będzie od czasu do czasu zaliczał błędy. Różnica polega na tym, że przy pojazdach bez kierownicy, pedałów i człowieka za kółkiem nawet drobna pomyłka urasta do poważnego problemu wizerunkowego. W takiej sytuacji użytkownicy oczekują nie tylko deklaracji o bezpieczeństwie, ale przede wszystkim dowodów, że technologia naprawdę radzi sobie w realnym świecie.
Wideo z Austin pokazuje, że Tesla nadal ma sporo do udowodnienia. Jeśli firma chce przekonać kierowców do Cybercaba i robotaxi jako codziennego środka transportu, musi najpierw zbudować wiarygodność w sytuacjach znacznie prostszych niż omijanie plastikowych słupków.
Kolejna wtopa Tesli… Zdecydowanie nie ufam ich systemowi autonomicznej jazdy. Jak coś tak prostego jak kartonowy słupek może być problemem? Mówią o idealnym bezpieczeństwie, a tu proszę, dowód na to, że potrafią nie rozpoznać przeszkody. Czekam na ruchy konkurencji, bo na tą chwilę to nie wygląda dobrze.
Ciekawe w jaki sposób będzie wyglądał ten cały Cybercab na drogach publicznych. Powinno być to dokładnie przetestowane, zanim puści się to ludziom. Tesla idzie na łatwiznę z tym mapowaniem. Jak mam jeździć samochodem bez kierownicy, to oczekuję, że algorytmy będą o wiele lepsze niż to co pokazali na nagraniu.
Nie wiem, czy bardziej martwi mnie, że nie rozpoznali słupków, czy to, że tak naprawdę nie było tam kierowcy safety. To wszystko zaczyna wyglądać, jak eksperyment na żywych ludziach. Wolałabym jednak poczekać, aż technologia faktycznie będzie gotowa, zanim siądę w takim pojeździe.
Mam wrażenie, że Tesla tylko kupuje czas i stara się pokazać, że są liderami w autonomicznej jeździe. Po takim incydencie jak ten w Austin, zaufanie do tej technologii maleje. Dobrze, że nie miałem jeszcze okazji jeździć w rodzimym do Robotaxi. Zdecydowanie wolę klasyczne taksówki.
Widzę, że niektórzy komentujący nie zwracają uwagi na to, jak działa system zaprojektowany przez Teslę. Mimo że widzę potencjał, to jednak ich podejście do mapowania może być problemem. To, co inni robią z korzystaniem z lidarów, może mieć sens, a nie mam pewności, że Tesla może wygrać tę walkę z konkurencją.
Dziwi mnie, że Tesla wciąż stawia na to, co robi. Zaletą działania w czasie rzeczywistym jest elastyczność, ale przy takiej liczbie błędów nie wiem, czy to dobry pomysł. Może lepiej, żeby skopiwali trochę od Waymo i zajęli się solidnym mapowaniem? Takie wpadki mogą odbić się na ich reputacji na dłuższą metę.