FSD Beta är imponerande!

[spacecoin]

Damn!

Bilkörning i kinesiska städer är definitivt en utmaning. Fsd verkar klara sig helt ok!

Det jag undrar över är två saker:

1. Vad händer här:

Jag gissar att detta är "take over immedateley" som föraren ignorerar och sedan återhämtar sig systemet.

2. Varför klipper man filmen i korsningnen/högersvängen till en annan situation?

Slutsats: Cherrypickade korta klipp (både bra och dåliga) är bra för sociala medier. Statistik över miljontals mil är bra om man vill visa att systemet är säkert.

[manneson]

Damn!

Bilkörning i kinesiska städer är definitivt en utmaning. Fsd verkar klara sig helt ok!

Det jag undrar över är två saker:

1. Vad händer här:
Screenshot 2025-04-13 at 14.01.55.png

Jag gissar att detta är "take over immedateley" som föraren ignorerar och sedan återhämtar sig systemet.

2. Varför klipper man filmen i korsningnen/högersvängen till en annan situation?

Slutsats: Cherrypickade korta klipp (både bra och dåliga) är bra för sociala medier. Statistik över miljontals mil är bra om man vill visa att systemet är säkert.

Antagligen för att man står stilla en bra stund och det är inte särskilt underhållande.
Det finns många långa klipp på YouTube där FSD kör utan problem i timmar i sträck.

[spacecoin]

Damn!

Bilkörning i kinesiska städer är definitivt en utmaning. Fsd verkar klara sig helt ok!

Det jag undrar över är två saker:

1. Vad händer här:
Screenshot 2025-04-13 at 14.01.55.png

Jag gissar att detta är "take over immedateley" som föraren ignorerar och sedan återhämtar sig systemet.

2. Varför klipper man filmen i korsningnen/högersvängen till en annan situation?

Slutsats: Cherrypickade korta klipp (både bra och dåliga) är bra för sociala medier. Statistik över miljontals mil är bra om man vill visa att systemet är säkert.

Antagligen för att man står stilla en bra stund och det är inte särskilt underhållande.
Det finns många långa klipp på YouTube där FSD kör utan problem i timmar i sträck.

Ja, du har antagligen rätt om (2) men eftersom videon var så kort efteråt undrar man ju. Efter kurvan står bilen mitt emellan två filer så det talar väl för att du har rätt.

Det finns många klipp på Youtube när det går åt skogen med.

Återigen, det kvittar i det stora. Ska Tesla bli autonoma behöver man 100x:a MTBF. En människa kör många tusen timmar utan att köra på saker eller att be någon annan "ta över omedelbart". Så länge alla fattar att FSD inte är säkrare än en människa över tid så är jag nöjd med det.

Jag skulle personligen inte använda något system som inte kör helt autonomt (dvs kräver övervakning) i denna typ av miljö. Det känns inte realistiskt att man skulle hinna att stoppa systemet från att göra fel. Och går det åt helvete är det då människans fel. Det känns varken vettigt eller rätt.

Det ska bli spännande att se hur dessa system utvecklas och om de någonsin godkänns i EU.

[manneson]

En människa kör många tusen timmar utan att köra på saker

Gå runt på valfri parkering och inspektera lite bilar(hint: så gott som samtliga har märken lite överallt...)

[spacecoin]

En människa kör många tusen timmar utan att köra på saker

Gå runt på valfri parkering och inspektera lite bilar(hint: så gott som samtliga har märken lite överallt...)

Jag förstår inte vad du vill ha sagt med detta. Det finns gott om statistik som visar att människor i genomsnitt är otroligt bra förare och förolyckas sällan - speciellt med personskador.

Om du tar 10000 timmar Smart summon på valfri IKEA-parkering vs 10000 timmar mänskliga förare så tror jag resultatet blir minst 100x i människans favör. Samma logik gäller för FSDS och andra L2++ system. Annars vore de inte L2 längre.

[manneson]

En människa kör många tusen timmar utan att köra på saker

Gå runt på valfri parkering och inspektera lite bilar(hint: så gott som samtliga har märken lite överallt...)

Jag förstår inte vad du vill ha sagt med detta. Det finns gott om statistik som visar att människor är otroligt bra förare och förolyckas sällan - speciellt med personskador.

Om du tar 10000 timmar Smart summon på valfri IKEA-parkering vs 10000 timmar mänskliga förare så tror jag resultatet blir minst 100x i människans favör. Samma logik gäller för FSDS och andra L2++ system. Annars vore de inte L2 längre.

Poängen var att folk kör på saker konstant.

[Fredrik j]

En människa kör många tusen timmar utan att köra på saker

Gå runt på valfri parkering och inspektera lite bilar(hint: så gott som samtliga har märken lite överallt...)

Jag förstår inte vad du vill ha sagt med detta. Det finns gott om statistik som visar att människor är otroligt bra förare och förolyckas sällan - speciellt med personskador.

Om du tar 10000 timmar Smart summon på valfri IKEA-parkering vs 10000 timmar mänskliga förare så tror jag resultatet blir minst 100x i människans favör. Samma logik gäller för FSDS och andra L2++ system. Annars vore de inte L2 längre.

Poängen var att folk kör på saker konstant.

Det mesta är ju sannolikt diverse parkeringsskador. Det behövs ingen FSD för att undvika sånt. Det räcker ju långt med en bra parkeringsvarning.

Det haltar ju lite när man jämför skaderisken mellan FSD och fysisk förare. En fysisk förare kan ju inte lämna över till någon. Ska det gå att jämföra behöver ju varje överlämning registreras som en olycka.
Som förare kan man ju också påverka risken man utsätter sig för. Dom som tar störst risker tippar ju statistiken.

[spacecoin]

På det här ämnet så tycker jag att denna inlaga från NL, NO, SE, UK på det senaste DCAS-mötet i januari var mycket bra och tänkvärt:

Request for experience from current deployed and developed systems
We have raised our concerns, and we are looking for detailed evidence and data to support the safety assumptions made for hands-free systems combined with system-initiated manoeuvres (SIM) for highway driving. The technological advancements in these systems are promising, but there remain concerns about their impact on driver behaviour, situational awareness, and overall safety.
The inclusion of hands-free operation and SIM introduces complexities that alter the driver’s interaction with the vehicle. These systems often utilize advanced technologies, including AI and simulation-based development, aligning closely with autonomous driving systems (ADS). With these changes, it is critical to assess whether such systems still qualify as advanced driver assistance systems (ADAS) and whether drivers can be expected to maintain effective control in all scenarios.

We must establish a baseline of the driver’s behaviour when they are not using the system and compare it to when they are using the system with an equivalent level of driving monitoring system. To address these concerns, we request possible evidence addressing the following points, which should ideally involve the noted metrics:

1. Driver Response in Real Traffic Conditions:
Evidence about drivers’ ability to take control during system misinterpretations or unexpected situations. With system misinterpretations and unexpected situations we refer to when the system continues to attempt to perform the DDT but with a limited or incorrect situational awareness (such as trying to drive the wrong way down a one-way road) or a sudden unmanageable change in the DDT (such as avoiding a fallen tree), both requiring the driver to take control.

2. Driver Behaviour Over Extended Use in a single journey:
Evidence about drivers' ability to respond to critical events after prolonged use of hands-free systems, including things like:
a. Jerk patterns when taking back control
b. Distribution and mean response times to DCA’s and distribution and mean time when warning cascades are stopped
c. Distribution and mean duration of glances to non-driving related areas
d. How often drivers engage in non-driving related activities (NDRA) as a % of their journeys.

3. Skill Retention:
Evidence about how regular use of a hands-free system over extended time (e.g. multiple months) affects drivers' retention of manual driving skills over time.

4. Control Interactions:
Insights on drivers’ ability to manage secondary controls relevant to the driving task (if applicable) while hands-free.

5. Override Capabilities:
Evidence demonstrating drivers' ability to cancel or override SIM safely, especially in situations where the driver disagrees with the manoeuvre, including:
a. % of rejected system initiated maneouvres (SIM);
b. Distribution of rejection time occuring before initiation of SIM and;
c. % of interventions during SIMs
d. Distribution of intervention time occuring during a SIM

6. Situational Awareness:
Evidence showing that drivers remain engaged and situationally aware during SIM, during long trips and over a long period of frequent system usage, including:
a. Studying patterns of gaze, what is the % of driver’s gaze to driving relevant areas vs non-relevant areas (<2s) before a lane change
b. Number of HOR’s, EOR’s and DCA’s issued to the driver shown as a distribution and mean per journey and every 1,000 miles

7. Crash Analysis: Evidence showing that crashes involving these systems are not predominantly caused by controllability issues, misuse, or overreliance.

We request any available data or comparisons related to hands-free systems and SIM on highways with conditions preferably similar to European roadways. The metrics listed here must:
a) Break the data down according to the different road types these have occurred on (highway, inter urban, rural etc.)
b) Have been collected through a large and diverse data set, incorporating experienced and novice drivers, drivers who like and dislike the technology and varying journey times etc.
c) Show how these metrics change from before using these types of technology to over time through extended use
d) Support claims that hands-free + SIM systems are “as safe as” other configurations with each configuration having the same level of driver monitoring system, such as
- Hands-on driving without SIM.
- Hands-on driving with driver-initiated/confirmed lane changes.
- Hands-off systems with driver initiated/confirmed manoeuvres.

[spacecoin]

Det känns osannolikt att man skulle tillåta L2 på stadsgator i en första SIM-release om man nu tillåter SIM. Jag har svårt att tro att industrin kan visa upp någon data överhuvud taget som gör att de framstår "bra".

Det känns troligt att det antingen inte blir SIM alls eller så blir det SIM bara på motorväg om jag får gissa.

SIM = system-initiated manoeuvres.

[Maetlarv]

På det här ämnet så tycker jag att denna inlaga från NL, NO, SE, UK på det senaste DCAS-mötet i januari var mycket bra och tänkvärt:

Request for experience from current deployed and developed systems
We have raised our concerns, and we are looking for detailed evidence and data to support the safety assumptions made for hands-free systems combined with system-initiated manoeuvres (SIM) for highway driving. The technological advancements in these systems are promising, but there remain concerns about their impact on driver behaviour, situational awareness, and overall safety.
The inclusion of hands-free operation and SIM introduces complexities that alter the driver’s interaction with the vehicle. These systems often utilize advanced technologies, including AI and simulation-based development, aligning closely with autonomous driving systems (ADS). With these changes, it is critical to assess whether such systems still qualify as advanced driver assistance systems (ADAS) and whether drivers can be expected to maintain effective control in all scenarios.

We must establish a baseline of the driver’s behaviour when they are not using the system and compare it to when they are using the system with an equivalent level of driving monitoring system. To address these concerns, we request possible evidence addressing the following points, which should ideally involve the noted metrics:

1. Driver Response in Real Traffic Conditions:
Evidence about drivers’ ability to take control during system misinterpretations or unexpected situations. With system misinterpretations and unexpected situations we refer to when the system continues to attempt to perform the DDT but with a limited or incorrect situational awareness (such as trying to drive the wrong way down a one-way road) or a sudden unmanageable change in the DDT (such as avoiding a fallen tree), both requiring the driver to take control.

2. Driver Behaviour Over Extended Use in a single journey:
Evidence about drivers' ability to respond to critical events after prolonged use of hands-free systems, including things like:
a. Jerk patterns when taking back control
b. Distribution and mean response times to DCA’s and distribution and mean time when warning cascades are stopped
c. Distribution and mean duration of glances to non-driving related areas
d. How often drivers engage in non-driving related activities (NDRA) as a % of their journeys.

3. Skill Retention:
Evidence about how regular use of a hands-free system over extended time (e.g. multiple months) affects drivers' retention of manual driving skills over time.

4. Control Interactions:
Insights on drivers’ ability to manage secondary controls relevant to the driving task (if applicable) while hands-free.

5. Override Capabilities:
Evidence demonstrating drivers' ability to cancel or override SIM safely, especially in situations where the driver disagrees with the manoeuvre, including:
a. % of rejected system initiated maneouvres (SIM);
b. Distribution of rejection time occuring before initiation of SIM and;
c. % of interventions during SIMs
d. Distribution of intervention time occuring during a SIM

6. Situational Awareness:
Evidence showing that drivers remain engaged and situationally aware during SIM, during long trips and over a long period of frequent system usage, including:
a. Studying patterns of gaze, what is the % of driver’s gaze to driving relevant areas vs non-relevant areas (<2s) before a lane change
b. Number of HOR’s, EOR’s and DCA’s issued to the driver shown as a distribution and mean per journey and every 1,000 miles

7. Crash Analysis: Evidence showing that crashes involving these systems are not predominantly caused by controllability issues, misuse, or overreliance.

We request any available data or comparisons related to hands-free systems and SIM on highways with conditions preferably similar to European roadways. The metrics listed here must:
a) Break the data down according to the different road types these have occurred on (highway, inter urban, rural etc.)
b) Have been collected through a large and diverse data set, incorporating experienced and novice drivers, drivers who like and dislike the technology and varying journey times etc.
c) Show how these metrics change from before using these types of technology to over time through extended use
d) Support claims that hands-free + SIM systems are “as safe as” other configurations with each configuration having the same level of driver monitoring system, such as
- Hands-on driving without SIM.
- Hands-on driving with driver-initiated/confirmed lane changes.
- Hands-off systems with driver initiated/confirmed manoeuvres.

Jo, man kan förstå att DCAS-människorna är lite oroade över trenden att låta ”datorn” köra och människan övervaka när all forskning visar att ”datorn” är bra på att övervaka och människan helt värdelös på det.
Säkerhetsmässigt vore det bättre att göra tvärt om men vi människor vill väl bara betala för system som höjer vår bekvämlighet antar jag, och penningen brukar ju styra…..

[spacecoin]

Jo, man kan förstå att DCAS-människorna är lite oroade över trenden att låta ”datorn” köra och människan övervaka när all forskning visar att ”datorn” är bra på att övervaka och människan helt värdelös på det.
Säkerhetsmässigt vore det bättre att göra tvärt om men vi människor vill väl bara betala för system som höjer vår bekvämlighet antar jag, och penningen brukar ju styra…..

Ja precis. Jag har för mig att det fanns något citat i protokollet eller någon korrespondens i stil med att de var beredda att överväga viss del convenience över säkerhet om de kunde kvantifiera och riskbedöma.

Grundproblemet är att Tesla och flera andra tillverkare genom åren lovat autonomi, men tekniken är inte där. Då låtsas man att det är Waymo fast det är långt därifrån. Det kallas "autonowashing" (från green-washing).

Kvar blir en tekniskt demo/marknadsförings-vänlig lösning som tyvärr riskerar att öka trafikolyckorna. Det är lite ointuitivt, men ju bättre systemen blir ju osäkrare blir dem eftersom människan blir sämre och sämre på övervakning av system som blir bättre och bättre.

Jag tror ju folk skulle vilja kunna ta en tupplur på motorvägen eller i alla fall jobba hellre än att leka trafikskollärare för en dator i stan. Men tekniken är inte där än och då säljer Elon och andra drömmen istället och når halvvägs.

[HerrNilsson]

Det här är så jäkla häftigt! Inte bara FSD utan tunneln man gjort, tillverkningen osv.
Tesla levererar framtiden, nu!

[spacecoin]

Det här är så jäkla häftigt! Inte bara FSD utan tunneln man gjort, tillverkningen osv.
Tesla levererar framtiden, nu!

Det där är väl ingenting jämfört med vad man kunde redan för 8 år sedan?

[Remuz]

Kontentan är att på 8år har man i princip inte kommit nånstans, eller misstolkar jag filmerna ovan?

[-AG-]

”Tesla (TSLA) has to replace the ‘self-driving’ computer inside about 4 million vehicles or likely compensate the owners of those vehicles.
The liability could be more significant than the largest automotive recall in terms of cost.”

https://electrek.co/2025/04/14/tesla-ts ... ir-owners/

[spacecoin]

”Tesla (TSLA) has to replace the ‘self-driving’ computer inside about 4 million vehicles or likely compensate the owners of those vehicles.
The liability could be more significant than the largest automotive recall in terms of cost.”

https://electrek.co/2025/04/14/tesla-ts ... ir-owners/

Kommer aldrig att hända

[spacecoin]

Verkar som att Tesla (och andra) får byta namn på produkten igen i Kina efter en uppsjö olyckor (inte främst Tesla så vitt jag förstår).

[Fredrik j]

Är nere i tyskland och åker lite.
Kommer till ett vägarbete där vänsterfilen leds över i motgående körbana men är separerad med en tillfällig barriär.
Dock har man missat att det sitter en skylt för enkelriktat kvar. Eller högst troligt så bryr man sig inte.
Samtliga bilister tolkade förmodligen situation rätt, det vill säga att det inte är någon fara.
Hur skulle FSD i level4 hantera det tro?
Skulle det bli tvärstopp på motorvägen?
Har AI möjligheten att dra samma slutsats som vi enkelt gör?

Min polestar fick spelet och varnade för faran men lät mig fortsätta men den är ju inte självkörande på något sätt.

[HerrNilsson]

Detta är imponerande av FSD. Två olika hinder som alla märken utom Tesla misslyckas med.

[BrooklynS]

Är nere i tyskland och åker lite.
Kommer till ett vägarbete där vänsterfilen leds över i motgående körbana men är separerad med en tillfällig barriär.
Dock har man missat att det sitter en skylt för enkelriktat kvar. Eller högst troligt så bryr man sig inte.
Samtliga bilister tolkade förmodligen situation rätt, det vill säga att det inte är någon fara.
Hur skulle FSD i level4 hantera det tro?
Skulle det bli tvärstopp på motorvägen?
Har AI möjligheten att dra samma slutsats som vi enkelt gör?

IMG_1523.png

Min polestar fick spelet och varnade för faran men lät mig fortsätta men den är ju inte självkörande på något sätt.

Sannolikt skulle det kopplas ur med hänvisning till extraordinära omständigheter.


Skickat från min iPhone med Tapatalk

[spacecoin]

Är nere i tyskland och åker lite.
Kommer till ett vägarbete där vänsterfilen leds över i motgående körbana men är separerad med en tillfällig barriär.
Dock har man missat att det sitter en skylt för enkelriktat kvar. Eller högst troligt så bryr man sig inte.
Samtliga bilister tolkade förmodligen situation rätt, det vill säga att det inte är någon fara.
Hur skulle FSD i level4 hantera det tro?
Skulle det bli tvärstopp på motorvägen?
Har AI möjligheten att dra samma slutsats som vi enkelt gör?
IMG_1523.png
Min polestar fick spelet och varnade för faran men lät mig fortsätta men den är ju inte självkörande på något sätt.

Sannolikt skulle det kopplas ur med hänvisning till extraordinära omständigheter.

En självkörande (dvs autonom - L4) bil kan inte "kopplas ur" och man får inte stanna på motorväg. Ska man köra på motorväg måste man hantera motroväg inklusive det här.

[spacecoin]

Detta är imponerande av FSD. Två olika hinder som alla märken utom Tesla misslyckas med.

Lidar har man inte för att inte köra in i tydligt synliga träd mitt på dagen. Tesla har en bra L2, men är den 60kSEK bättre än konkurrenterna verkligen? Vad är ens poängen med att köra med ADAS på den där gatan?

[Fredrik j]

Är nere i tyskland och åker lite.
Kommer till ett vägarbete där vänsterfilen leds över i motgående körbana men är separerad med en tillfällig barriär.
Dock har man missat att det sitter en skylt för enkelriktat kvar. Eller högst troligt så bryr man sig inte.
Samtliga bilister tolkade förmodligen situation rätt, det vill säga att det inte är någon fara.
Hur skulle FSD i level4 hantera det tro?
Skulle det bli tvärstopp på motorvägen?
Har AI möjligheten att dra samma slutsats som vi enkelt gör?
IMG_1523.png
Min polestar fick spelet och varnade för faran men lät mig fortsätta men den är ju inte självkörande på något sätt.

Sannolikt skulle det kopplas ur med hänvisning till extraordinära omständigheter.


Skickat från min iPhone med Tapatalk

En level4 kan inte bara ”koppla ur”.
Bilen behöver kunna hantera såna här situationer. Det enda acceptabla är väl att AI hade uppfattat situationen precis som samtliga bilister som körde förbi. När all information sammanställts drar en människa lätt slutsatsen att det blivit fel och skylten skulle vänts.
Till datorn fixar sånt är inte level4/5 möjligt.
Alternativ 2 är att bilen hade slagit på varningsblinkers och stannat där på motorvägen vilket ju hade blivit farligt.
Möjligen skulle man kunna ha ett ”cerifieringssystem” för vägsträckor där dom först måste ha analyserats och godkänts innan autonom trafik tillåts köra där.

[T4s]

Är nere i tyskland och åker lite.
Kommer till ett vägarbete där vänsterfilen leds över i motgående körbana men är separerad med en tillfällig barriär.
Dock har man missat att det sitter en skylt för enkelriktat kvar. Eller högst troligt så bryr man sig inte.
Samtliga bilister tolkade förmodligen situation rätt, det vill säga att det inte är någon fara.
Hur skulle FSD i level4 hantera det tro?
Skulle det bli tvärstopp på motorvägen?
Har AI möjligheten att dra samma slutsats som vi enkelt gör?
IMG_1523.png
Min polestar fick spelet och varnade för faran men lät mig fortsätta men den är ju inte självkörande på något sätt.

Kört vidare försiktigt. Glöm inte context. Det kan ha varit skyltar tidigare eller trafikmönster innan eller framåt som påverkar modellens val.

[Fredrik j]

Är nere i tyskland och åker lite.
Kommer till ett vägarbete där vänsterfilen leds över i motgående körbana men är separerad med en tillfällig barriär.
Dock har man missat att det sitter en skylt för enkelriktat kvar. Eller högst troligt så bryr man sig inte.
Samtliga bilister tolkade förmodligen situation rätt, det vill säga att det inte är någon fara.
Hur skulle FSD i level4 hantera det tro?
Skulle det bli tvärstopp på motorvägen?
Har AI möjligheten att dra samma slutsats som vi enkelt gör?
IMG_1523.png
Min polestar fick spelet och varnade för faran men lät mig fortsätta men den är ju inte självkörande på något sätt.

Kört vidare försiktigt. Glöm inte context. Det kan ha varit skyltar tidigare eller trafikmönster innan eller framåt som påverkar modellens val.

Ja, det är ju det man förväntar sig av en AI som ska sköta bilkörningen. Att den drar samma slutsatser som en människa även om det finns vägmärken som säger annorlunda. Här fanns det ingen som helst tvekan för oss människor.
Vi räknar ut hur det förhåller sig. Inte minst genom avsaknaden av kaos i motgående körfält vilket ju hade varit fallet om det varit enkelriktat på riktigt.