Självkörande Teslor i EU: var god dröj

[TeslaLeo]

Finland intar ju en mycket mer nykter inställning här jämfört med Sverige:

Hastighetstolerans och bedömning av dess konsekvenser
Det är möjligt att köra för fort i trafiken med vilket fordon som helst, både utan förarassistanssystem och till exempel när farthållaren är i bruk. Motsvarande möjlighet ingår också i Teslas system. Systemet möjliggör en avvikelse på upp till +50 procent i förhållande till den identifierade hastighetsbegränsningen.

Avvikelsen innebär inte att systemet kontinuerligt kör i enlighet med den inställda toleransen, som till exempel en farthållare gör, utan hastigheten anpassas fortfarande efter den aktuella situationen. Anpassningen utesluter dock inte att bilen kan köra över hastighetsgränsen.

Behovet av att bevara denna funktion och dess konsekvenser har bedömts i samarbete med den myndighet som beviljat godkännandet, andra europeiska myndigheter samt tillverkaren. För närvarande motiveras behovet av funktionen med att föraren måste ha tillräcklig flexibilitet i situationer där systemet inte korrekt känner igen hastighetsbegränsningen och fordonet annars skulle kunna köra för långsamt i förhållande till situationen.

Enligt tillverkaren är lösningen nödvändig även därför att ett fordon som strikt följer hastighetsbegränsningen kan orsaka störningar i trafiken i situationer där övrig trafik inte följer hastighetsbegränsningarna.

Toleransen möjliggör en flexibel anpassning av hastigheten i sådana situationer, men samtidigt möjliggör den även avsiktlig fortkörning. Som undantag gäller motorvägsförhållanden, där det dock inte är möjligt att överskrida den högsta tillåtna hastigheten (120 km/h).

[Autonom]

Men vad menas tex 3.5x färre? Det känns ju lite omöjligt. Menar man att utan FSD är det 3.5x fler?
Finns det någon officiell genomgång/ publika siffror där man kan se närmare på de faktiska siffrorna och vilka metoder som använts för att utvärdera effekten av FSD?
Det vore också kul att veta exakt vad FSD gör så mycket bättre.

3.5x kan inte rimligen tolkas som annat än en kvot.

Men du har rådata och viss källhänvisning längst ner i tweetet.

Eftersom svaret på exakt vad FSD gör bättre finns i de miljarder av parametrar som används av inferensmaskinen där alla bidrar med små bäckar så finns inget rimligt svar på frågan.

Men övergripande kan man säga att Tesla lagt 10-tals miljarder dollar på att utveckla detta, och det arbetet resulterar nu i dessa bra resultat.

Tabellen i nedanstående artikel (var en jämförelse av FSD med potentiella konkurrenter) ger en snabb bild av hur mycket jobb som bakom Tesla FSD:

https://x.com/nymbusjp/article/1996897127708909617

G7V4PnhWQAAfIh2.png

[Gustafsson]

Klart att det kan finnas ett rimligt svar på en så enkel fråga som var FSD fungerar bäst.
I tweeten du hänvisar till ser jag inga data, bara en omfattande beskrivning över hur FSD förmodas lösa sin uppgift. Imponerande är det, men svårt att värdera då det inte finns några resultat i form av olyckstal. Man måste ju veta vilka typolyckor som undvikes och vilka evt nya typer av olyckor som lan uppstå vid det här laget.
Risken för bias på olika sätt i resultaten är uppenbar.

[Tomp1337]

[Autonom]

Klart att det kan finnas ett rimligt svar på en så enkel fråga som var FSD fungerar bäst.
I tweeten du hänvisar till ser jag inga data, bara en omfattande beskrivning över hur FSD förmodas lösa sin uppgift. Imponerande är det, men svårt att värdera då det inte finns några resultat i form av olyckstal. Man måste ju veta vilka typolyckor som undvikes och vilka evt nya typer av olyckor som lan uppstå vid det här laget.
Risken för bias på olika sätt i resultaten är uppenbar.

FSD försöker undvika alla olyckor, och till skillnad från äldre system inte bara genom att manövrera sig ur den omedelbara situationen utan till minst lika stor del genom att, precis som en erfaren förare, förutse vad som skulle kunna inträffa och justera körningen/vidta motåtgärder för att det ska bli ett tillbud till att börja med. Så de flesta olyckor som undviks kan du inte se i någon nedbruten statistik, eftersom du inte vet om det skulle blivit något tillbud till att börja med. Du kan däremot se på den totala olycksstatistiken att om inte FSD varit proaktivt och undvikit riskabla situationer så skulle några slutat riktiga olyckor eftersom olycksfrekvensen minskar drastiskt.

Så de där typolyckorna som den undviker finns till stora delar inte, om du inte räknar bristande förutseende av oengagerad förare som en olyckstyp.

De där nya olyckorna som kan uppstå är delvis varför det fortfarande bara är FSD (Supervised) som är släppt än, för det är när föraren gör ett "critical disengagement" som Tesla får information när det kan vara FSD som gör fel (eller mindre bra), och de videoklippen utvärderas av Tesla och används för att förbättra mjukvaran, en process som säkert kommer att fortsätta väldigt länge till för att pressa ner olycksrisken. De svaga punkter som hittas arbetar man på och löser (via riktad träning).

Man ska hålla i minnet att FSD V14 är en levande produkt som hela tiden förbättrats. Min egen bedömning är att olycksrisken minskar minst 10 ggr per år, så om utvecklingen håller i sig är det bara några år innan det bara ser direkt dumdristigt ut att inte använda sig av FSD (unsupervised).

Ett av de knepigaste problemen är smala raka horisontella objekt tvärs över vägbanan som järnvägsbommar utan skyltar och lampor (numera inte ett problem), avspärrningsband och bogserlinor, men det är saker som vanliga förare också kan ha problem med, speciellt i vissa ljussituationer. Jag har själv dragit slutsatsen att komplikationen verkar vara att skilja det från horisonten och vägskarvar. Och samma grundproblem har en del nödbromssystem haft vilket gett upphov till spökbromsningar, men i ett nödbromssystem kan man ställa ner känsligheten på bekostnad av att upptäcka riktiga faror utan att någon märker det.

Så just järnvägskorsningar har varit ett problemområde för FSD, men dessa problemrapporter om detta verkar ha slutat komma på senare tid, de uppgifter som finns hit pieces rör alla V13 eller äldre, detta trots att användningen av FSD exploderat senaste året, så slutsatsen är att järnvägsproblemen i stort sett inte längre finns i verkligheten.

Man ska också komma ha i minnet att olyckor vid järnvägskorsningar är ett verkligt problem även med mänskliga förare.

[Gustafsson]

Håller med dig om att systemet är avsett att minska olyckor av olika orsaker. Vägen dit är nog fortfarande rätt lång då det finns många variabler i trafiken som är svåra eller omöjliga att förutse eller där det finns bättre eller sämre val när en olycka är oundviklig.
Att det inte går att mäta eller studera närmare är ju inte korrekt dock. Eftersom ”varje Tesla” skickar in de data som lär FSD att köra bättre enligt din länk. Det bör gå att få data från bilar som har FSD, bilar som kör på AP och bilar som inte använder något system alls. Om man då jämför antalet olyckor på samma vägsträckor (t.ex. Stockholm med förorter för att få mycket data), under samma tid på dygnet så bör det gå att se efter en fastställd tid hur bra systemet presterar.
Då FSD introducerades i USA fick först bara anställda prova det om jag minns rätt. Därefter personer som uppfyllde vissa kriterier på säkert körande utifrån data från bilarna och sedan en bredare allmänhet. Var det inte så att man blev utkastad ur FSD/AP om man inte skötte sig i trafiken? Data från dessa körda mil är förstås oanvändbara.
Om det nu visar sig att FSD faktiskt räddar liv, minskar lidande och skyddar egendom så måste konsekvensen bli att alla fordon ska förses med systemet utan extra kostnad. Allt annat vore oetiskt.

[martinot]

Om det nu visar sig att FSD faktiskt räddar liv, minskar lidande och skyddar egendom så måste konsekvensen bli att alla fordon ska förses med systemet utan extra kostnad. Allt annat vore oetiskt.

Matrixbelysning, vissa extra krockkuddar (inte så vanligt med finns exempel på det), aktiva förarstödsystem har varit, och är i många fall fortfarande extra hos många Europeiska biltillverkare. Är de alla oetiska enligt dig?

Är det bättre och säkrare enligt dig att förbjuda/försena säkerhetsförbättringar för alla människor, om inte alla får det gratis?

[Gustafsson]

Inget av de enskilda systemen du nämner gör anspråk på att reducera risken för trafikskador lika mycket som FSD.
Jag har inte ens nämnt förbud i sammanhanget. Men det finns ju flera exempel där lagstiftning gått in och försökt påverka säkerheten. Det gäller allt från krav på besiktning, mönsterdjup av däck, hastighetsgränser, bilbältestvång och tvång att använda halvljus/positionsljus även på dagen.
Om det nu kommer ett system som reducerar risken att skadas med 90%, tycker du att trafiksäkerhet ska vara en plånboksfråga?

[Autonom]

Håller med dig om att systemet är avsett att minska olyckor av olika orsaker. Vägen dit är nog fortfarande rätt lång då det finns många variabler i trafiken som är svåra eller omöjliga att förutse eller där det finns bättre eller sämre val när en olycka är oundviklig.
Att det inte går att mäta eller studera närmare är ju inte korrekt dock. Eftersom ”varje Tesla” skickar in de data som lär FSD att köra bättre enligt din länk. Det bör gå att få data från bilar som har FSD, bilar som kör på AP och bilar som inte använder något system alls. Om man då jämför antalet olyckor på samma vägsträckor (t.ex. Stockholm med förorter för att få mycket data), under samma tid på dygnet så bör det gå att se efter en fastställd tid hur bra systemet presterar.
Då FSD introducerades i USA fick först bara anställda prova det om jag minns rätt. Därefter personer som uppfyllde vissa kriterier på säkert körande utifrån data från bilarna och sedan en bredare allmänhet. Var det inte så att man blev utkastad ur FSD/AP om man inte skötte sig i trafiken? Data från dessa körda mil är förstås oanvändbara.
Om det nu visar sig att FSD faktiskt räddar liv, minskar lidande och skyddar egendom så måste konsekvensen bli att alla fordon ska förses med systemet utan extra kostnad. Allt annat vore oetiskt.

Om du tittar på tweetet från Tesla en bit bakåt så redovisar de rådata från Nederländerna FSD vs icke FSD, problemet är att mängden kollisioner är så låg att det är svårt att dra några detaljerade slutsatser:

highway: FSD 16.6M km / 0 collisions - Manual (w/ Active Safety Features) 158.7M km / 33 collisions
non-highway: FSD 7.0M km / 3 collisions - Manual (w/ Active Safety Features) 152.9M km / 109 collisions

Sedan är de kvarstående olyckorna typiskt resultat av udda händelser och har inte så mycket med vilken väg det är. Misstag som att en mänsklig förare kan missbedöma vägen i form av hur fort man kan ta en kurva. skulle jag säga att FSD V14 inte gör, dels för att den räknar på sidoaccelerationer, dels för att den har grundläggande kartdata för kurvan från navigeringen.

Såvitt jag förstått har RDW fått allt data de frågat Tesla om, men det är konfidentiellt och får bara delas till transportmyndigheter eller liknande.

Du kan naturligtvis mäta och studera FSD, men inte på ett enkelt sätt, beskrivet här: https://evwire.com/p/rdw-tesla-fsd-supe ... -explained

Man får strikes om man inte övervakar systemet och ignorerar uppmaningarna att ge livstecken, eller överrider hastigheten och går över 140 km/h.

[martinot]

Om det nu kommer ett system som reducerar risken att skadas med 90%, tycker du att trafiksäkerhet ska vara en plånboksfråga?

Du har fortfarande inte svarat på om du tycker andra biltillverkare, som inte erbjuder säkerhetshöjande produkter som standard/gratis i alla deras bilmodeller, också är "oetiska" enligt dig?

Eller gäller din kritik enbart emot Tesla och enbart emot FSDs?

[Gustafsson]

Jag tycker inte att jag behöver svara på det, frågan är dels för tidigt ställd och dessutom förutsätter den att FSD när den finns verkligen är bättre på ett otvetydigt vis. Det kanske den är.
Men man kan kanske jämföra den etiska frågan med t.ex. cancerbehandling. Om en behandling som tillhandahålls av företag X är 3 gånger bättre på att rädda liv än en äldre behandling från företaget Y som har nästan hela marknaden. Då är det rimligt att börja använda den behandling som företag X tillhandahåller.
Om man ser dödsfall och skador i trafiken som ett folkhälsoproblem, vilket jag tycker man kan göra, så bör myndigheterna ta ett ansvar för att ett sånt system skall komma fler tillgodo. Men som sagt där är vi inte än. Själv hoppas jag på ett användbart FSD light till min FSD kapabla HW3-bil.

[martinot]

Jag tycker inte att jag behöver svara på det,

Kan självklart inte tvinga dig, och du har (precis som många politiker ofta väljer att göra) självklart rätt i att avböja att svara på den frågan. Det står dig absolut helt fritt om du enbart vill ge Tesla kritik för detta, men inte andra biltillverkare

[Gustafsson]

Jag har svårt att förstå att säkerhetsdata som används för marknadsföring och framförallt myndighetsbeslut kan vara konfidentiella.
Nu diskuteras ju Teslas system i den här tråden, Andra får väl jämföra med vilket bilmärke man vill, Rimligt att ha en saklig diskussion, Jag retar mig på attityde ”Tesla säger att….” . Efter alla år tycker jag att det finns skäl att vara skeptisk emot det.
Om ett oberoende välrenommerat forskningsinstitut har fått data och publicerat sina slutsatser så OK.
Ställ frågan
Har teslas självkörande teknik utvärderats vetenskapligt av oberoende forskare?
i chat GPT.
Inte så mycket skrivet av oberoende m.a.o.

[Autonom]

Tror du verkligen att ChatGPT berättar sanningen? Den berättar vad den tror du vill höra.

Utöver RDW så har även Lemonade och NTHSA fått ta del av konfidentiellt data från Tesla (utöver att de alla antagligen gjort egna efterforsningar), så man skulle nog kunna påstå att oberoende forskare på åtminstone NTHSA redan tittat på det. Det skulle mycket väl kunna vara så att någon av dessa anlitat externa oberoende forskare för utvärdering.

Sedan så har jag svårt att tro att Tesla ljuger om rådata, speciellt sådan som de är skyldiga att rapportera in till myndigheter som just de Nederländska olyckssiffrorna som redovisades i tweetet.

[Gustafsson]

Berättar chat GPT sanningen? Well hittar den vad jag letar efter så gör den väl det. Vad menar du att den inte hittar i det här fallet?
Jag tycker det är ett bra verktyg för orienterande sökningar. Självklart är jag mycket väl medveten om begränsningarna.
Varför är en AI modell som Chat GPT dålig samtidigt som en annan (FSD) är bra ?
Har svårt att förstå varför det är dåligt att visa hur jag hittat artiklar av intresse, det är väl hederligt nog?
Innan vi hamnar i religiöst grubbel om huruvida det ena eller andra är framtiden, tror jag att jag ligger lågt med fler kommentarer.

PS Ett exempel på att AI kan ha fel kommer från appen SEEK som jag av och till använder för att identifiera insekter och växter.
Jag riktade kameran förra veckan mot en mjölkko och SEEK påstod att det var en häst. Upprepade gånger...
DS

[Autonom]

ChatGPT är inte en sökmotor, när den saknar information så hallucinerar den istället för att säga att den inte vet.

I senare versioner av FSD har de en sidokanal där den utvärderar hur säker den är på svaret, vilket styr när FSD påkallar extra uppmärksamhet eller ber föraren ta över.

En AI blir heller inte bättre än den data den tränats med, där finns också en stor skillnad mellan ChatGPT och FSD.

[Gustafsson]

ChatGPT fungerar alldeles utmärkt att söka information på nätet. Om den därmed även kan kallas för sökmotor eller inte är ointressant tycker jag. Jag använder den ofta för andra uppgifter t.ex. för att skriva programkod, men också för att sammanfatta texter mm mm.
Om koden fungerar så kan jag lita på resultatet. Som vanligt finns det ju utrymme att tänka själv, vilket jag försöker göra av och till, men det gäller ju allt mänskligt.
Ibland ger gemini bättre svar och Grok har lärt mig hur jag ska byta säkringen till värmeelementet till min 2018 S.
Hallucinationer kan jag stå ut med, systemen förbättras förbaskat snabbt.
Grundfrågan om man kan ta Teslas egna data som ”god fisk” eller inte kvarstår och där tycker vi väldigt olika.

[Sportbilsentusiasten]

ChatGPT fungerar alldeles utmärkt att söka information på nätet. Om den därmed även kan kallas för sökmotor eller inte är ointressant tycker jag. Jag använder den ofta för andra uppgifter t.ex. för att skriva programkod, men också för att sammanfatta texter mm mm.
Om koden fungerar så kan jag lita på resultatet. Som vanligt finns det ju utrymme att tänka själv, vilket jag försöker göra av och till, men det gäller ju allt mänskligt.

Det du beskriver är helt andra Use Case och kan inte tas som intäkt för att AI-motorer svarar korrekt.

Läs vad Autonom skriver, han har rätt.

PS
Vårt företag utvecklar med AI, som alla verktyg är de bra på olika saker.
AI är skitbra på det är bra på, kass på annat

[Gustafsson]

Är det inte det jag säger?