FSD Beta är imponerande!

[Jordad]

Lugn? Vad är det för härskarteknik? Den kan du ta och använda på frugan istället.

Du är rolig du. Menar du att HW4 är klart eftersom Tesla sa att det skulle vara klart ungefär nu för två år sedan? Var är robotaxiflottan i så fall? Läste du ens vad Elon sa i Q4-transcriptet?

Detta handlar inte heller om "3d-labling" eller vad nu du menar att Tesla gjort länge...

Eller som Elon säger i citatet från januari i år: "Getting the software to work and getting all the neural nets to be video, that's the game changer." Detta är alltså någon man börjat med i närtid (källa samma citat, och även ett Elon-tweet den 25/1 2021: "Tesla is steadily moving all NNs to 8 camera surround video. This will enable superhuman self-driving.")

Att det kräver mycket mer compute, än att titta på stillbilder är självklart för mig i alla fall. Om 12-24 månader så har Elon någon ny idé om vad som är "sista pusselbiten för FSD". Det är ju i princip ett löst problem, och Level 5 kommer "i år"... /s

Jag är inte över huvudtaget imponerad av varken David Lee eller James Douma. Dom har ju inte mer insikt i detta än någon annan.

HW3.2 vet egentligen ingen vad det innebär. Det kan vara nya moderkortet för semin eller någon annan kostnads/energibesparing.

Man behöver inte använda sådant överdrivet språk och gå till personangrepp eller använda ord som "skitsnack". Därför sa jag "lugn". Ingen vettig människa tar dig på allvar när du skriver på det sätt som du gör.

Ja 3d labeling är en första del i det som har lett till 4d eller det som Elon kallar video här. Tesla påbörjade en större omskrivning av autopiloten förra året:

Självklart ska man inte lita på någon helt men jag har inte hittat någon annan med den mängden insikt som James Douma delar med sig av. Lex Fridmans många intervjuer är en annan bra källa.

[spacecoin]

Personangrepp? Kom igen! Verkligen?

När du hittar på grejer utan rimliga underlag får du räkna med att jag eller någon annan kallar det för skitsnack. Jag förväntar mig att du gör detsamma.

När du själv helgarderar och säger att dels allt är lugnt och dels att HW4 kanske krävs för robotaxi, så undrar jag vad du tror om tidslinjen.

Kommer fsd betan att släppas till alla som köpt FSD i USA i år? När kommer ”hw4”? Tesla robotaxi?

Mina gissningar är nej, inom 24 mån, efter 2030.

[Jordad]

Personangrepp? Kom igen! Verkligen?

När du hittar på grejer utan rimliga underlag får du räkna med att jag eller någon annan kallar det för skitsnack. Jag förväntar mig att du gör detsamma.

När du själv helgarderar och säger att dels allt är lugnt och dels att HW4 kanske krävs för robotaxi, så undrar jag vad du tror om tidslinjen.

Kommer fsd betan att släppas till alla som köpt FSD i USA i år? När kommer ”hw4”? Tesla robotaxi?

Mina gissningar är nej, inom 24 mån, efter 2030.

Vad vi själva här tror spelar ingen roll över huvudtaget för utvecklingen av autonomi. Tur är väl det

Tesla utvecklar antagligen HW4 dels som en helgardering. Jag tror att den kanske kan behövas för robotaxi och det har jag skrivit tidigare i den här tråden. Men vad jag tror spelar som sagt ingen roll.

Det du nämnde tidigare om att: "Tesla is steadily moving all NNs to 8 camera surround video. This will enable superhuman self-driving." är som sagt inget man påbörjat i år utan det är en utveckling som har skett under flera år. Att Tesla släppte FSD beta är ett resultat av det arbetet. Även Waymo gör väl något liknande med 4d och 3d labeling.

[spacecoin]

Kom igen nu! Live a little! Våga stå för en gissning!

Det är så roligt på det här forumet. Folk spenderar hela dagarna med att spekulera och när man ber någon att precisera lite eller att sticka ut hakan, så säger man att det inte spelar någon roll vad vi tror eller tycker. Lite att fega ur tycker jag. Varför då ens skriva här från början?

[spacecoin]

I cannot get into too many details, but basically for a while it was observed how Tesla keeps dropping NNs from running roster e.g. when at high speed and then altogether (like object detections on pillar cams recently and drivable space detection on side cameras on highways and such). the NNs are getting big and even jimmy_d noted how they are too big to run in real time on available compute. The FPS are low too if you remember

Then they added "Extended compute" recently which is a way to run code on two SoCs at the same time to sidestep some of the above issues. And have been chipping at it since. It coincided with general stability reduction on my unit at least, but mostly when the B node is shutting down so likely nobody cares yet. All the city streets and such are done in such a way that they now absolutely require this extended compute mode. And cross node synchronisation/communication is no easy thing.

> theoretically, everything should be able to run on a single node, with the second node done for redundancy

That was teh original stated goal, but the shipped NNs already cannot do it. Sure they can reduce them and the resolution and still fit, but at expense of accuracy.

> You are seeing all the city and streets on this extended compute mode, but I assume you do not have the FSD beta?

Yes, BUT the NNs are still there. There's also summon that requires taht, a few highway modes added that require that and so on. This i the direction they are moving to. Meanwhile to cope with extended compute mode not really working well they are turning off less critical NNs in those modes.

> This would seem like an easy problem to anticipate by an army of engineers, no? Did they just not anticipate this happening?

While it's easy to anticipate that no matter the compute you throw at the big complex task, you'll run out eventually - what did you expect them to do back then? They had a particular envelope they could fit stuff into and they fit however much they could. Remember that on autonomy day after there was a question what would hw4 be for somebody whispered to Elon "safety" or some such (at least that's my recollection)?

> I guess the real question is, what comes next? A bigger computer is essential for further progress or this not happening, basically?

Well, it's pretty clear they are just spilling workload to the second node that originally was declared as "this is just for redundancy". But now it's not and that allows them extra headroom in compute to have more stuff running. Will they eventually run out of that too? Sure! Also two nodes don't perform at double the speed of one due to all the overheads and in general it's much harder to do cross node multitasking like that - something they are discovering now apparently (this is an area I work in so I am intimately familiar btw).

The initial effect is the redundancy claims would be curtailed for now I would guess. And then once HW4 or whatever it'd be called is out - the "redundancy" is going to be again front and center and that's when we'd hear confirmations of how they run out of compute and to have true redundancy you'd need hw4. But likely coupled with how it's a non-event because the system is super robust anyway and if one node dies it could still limp to a shoulder or stop in lane at least.

Finally do remember that actual unbounded autonomy was not yet solved so nobody knows what's needed for it. So multiple generations of hardware will pass until it's realized assuming it's even possible. Tesla only getting their feet wet a bit in perception too. Perception IS important but there's a lot more stuff left even after that's solved. There's a bunch of people (and I tend to agree with them) that fully generic "L5" autonomy required general level of intelligence to understand all the nuances and context.

Om inte det där får ner FSD-believers på jorden så kan man ju alltid lyssna på avsnitt 13 av The Robot Brains Podcast "Missy Cummings asks: should the US Military user AI weapons?", som trots titeln handlar mycket om självkörning.

[Reconnnn]

I cannot get into too many details, but basically for a while it was observed how Tesla keeps dropping NNs from running roster e.g. when at high speed and then altogether (like object detections on pillar cams recently and drivable space detection on side cameras on highways and such). the NNs are getting big and even jimmy_d noted how they are too big to run in real time on available compute. The FPS are low too if you remember

Then they added "Extended compute" recently which is a way to run code on two SoCs at the same time to sidestep some of the above issues. And have been chipping at it since. It coincided with general stability reduction on my unit at least, but mostly when the B node is shutting down so likely nobody cares yet. All the city streets and such are done in such a way that they now absolutely require this extended compute mode. And cross node synchronisation/communication is no easy thing.

> theoretically, everything should be able to run on a single node, with the second node done for redundancy

That was teh original stated goal, but the shipped NNs already cannot do it. Sure they can reduce them and the resolution and still fit, but at expense of accuracy.

> You are seeing all the city and streets on this extended compute mode, but I assume you do not have the FSD beta?

Yes, BUT the NNs are still there. There's also summon that requires taht, a few highway modes added that require that and so on. This i the direction they are moving to. Meanwhile to cope with extended compute mode not really working well they are turning off less critical NNs in those modes.

> This would seem like an easy problem to anticipate by an army of engineers, no? Did they just not anticipate this happening?

While it's easy to anticipate that no matter the compute you throw at the big complex task, you'll run out eventually - what did you expect them to do back then? They had a particular envelope they could fit stuff into and they fit however much they could. Remember that on autonomy day after there was a question what would hw4 be for somebody whispered to Elon "safety" or some such (at least that's my recollection)?

> I guess the real question is, what comes next? A bigger computer is essential for further progress or this not happening, basically?

Well, it's pretty clear they are just spilling workload to the second node that originally was declared as "this is just for redundancy". But now it's not and that allows them extra headroom in compute to have more stuff running. Will they eventually run out of that too? Sure! Also two nodes don't perform at double the speed of one due to all the overheads and in general it's much harder to do cross node multitasking like that - something they are discovering now apparently (this is an area I work in so I am intimately familiar btw).

The initial effect is the redundancy claims would be curtailed for now I would guess. And then once HW4 or whatever it'd be called is out - the "redundancy" is going to be again front and center and that's when we'd hear confirmations of how they run out of compute and to have true redundancy you'd need hw4. But likely coupled with how it's a non-event because the system is super robust anyway and if one node dies it could still limp to a shoulder or stop in lane at least.

Finally do remember that actual unbounded autonomy was not yet solved so nobody knows what's needed for it. So multiple generations of hardware will pass until it's realized assuming it's even possible. Tesla only getting their feet wet a bit in perception too. Perception IS important but there's a lot more stuff left even after that's solved. There's a bunch of people (and I tend to agree with them) that fully generic "L5" autonomy required general level of intelligence to understand all the nuances and context.

Intressant. Dock håller jag inte med om att det är ett säkerhets problem att använda båda processorerna samtidigt. Dör den ena så borde det viktigaste inte vara att köra på som om inget har hänt utan att ha tillräckligt mycket kraft för att sätta bilen i säkerhet (stanna längs vägen och sätta på blinkers). Vilket gör att bilen har bättre redundancy även om man i normalfallet använder båda processorerna.

Men det är klart att HW4 kommer någongång.

[themax]

Diskussionen här om HW3, HW4, redundans och alla möjliga eventualiteter fick mig att minnas något som jag hörde Nathan Myhrwold nämna på en konferens i Atlanta på 90-talet:

”Software is a gas! It expands to fit the container it is in!”

Så min känsla är att vi får vänta på alla fina ord. I alla fall några år till. Tills vi har HW5. Eller HW6. Eller så kommer de på ett sätt att använda Dojo för real-time-beräkningar. Då behövs åtminstone 5G i alla bilar …

[spacecoin]

Dock håller jag inte med om att det är ett säkerhets problem att använda båda processorerna samtidigt. Dör den ena så borde det viktigaste inte vara att köra på som om inget har hänt utan att ha tillräckligt mycket kraft för att sätta bilen i säkerhet (stanna längs vägen och sätta på blinkers). Vilket gör att bilen har bättre redundancy även om man i normalfallet använder båda processorerna.

Det här beror ju helt på hur mycket overhead man får kvar i HW3. Dvs finns det ens någon plats för redundans, eller ens för att komma vidare helt utan redundans. Det viktiga är ju att bilen kan "lägga av" på ett säkert sätt, men det kanske är för svårt. Att bara stanna i befintlig fil på motorväg med blinkers, nej tack.

Diskussionen här om HW3, HW4, redundans och alla möjliga eventualiteter fick mig att minnas något som jag hörde Nathan Myhrwold nämna på en konferens i Atlanta på 90-talet:
”Software is a gas! It expands to fit the container it is in!”

Håller helt med. Man har ju sett detta över 30-40 år... Någon på reddit liknade det vid den där lådan man stoppar grejer i som alltid fylls upp även om man rensar den regelbundet...

[Reconnnn]

Det här beror ju helt på hur mycket overhead man får kvar i HW3. Dvs finns det ens någon plats för redundans, eller ens för att komma vidare helt utan redundans. Det viktiga är ju att bilen kan "lägga av" på ett säkert sätt, men det kanske är för svårt. Att bara stanna i befintlig fil på motorväg med blinkers, nej tack.

Att stanna i befintlig fil är såklart inte acceptabelt men så länge den klarar av att köra in till kanten kanske till och med hitta ett ställe med bredare kant så tycker jag det vore acceptabelt. Vi vet ju att Navigate on Autopilot funkar på en processor idag så borde inte vara något problem för dem att köra igång någon from av nöd NN som kan klara sig på en processor.

Detta fel verkar ju dessutom ytterst ovanligt jämför med exempelvis punktering då åtminstone jag aldrig hört det hända.

[Jordad]

Kom igen nu! Live a little! Våga stå för en gissning!

Det är så roligt på det här forumet. Folk spenderar hela dagarna med att spekulera och när man ber någon att precisera lite eller att sticka ut hakan, så säger man att det inte spelar någon roll vad vi tror eller tycker. Lite att fega ur tycker jag. Varför då ens skriva här från början?

Jag tycker inte jag har tillräcklig kunskap för att bidra med någon meningsfull gissning. Men det jag tror utifrån det lilla jag vet är:

Fler och fler utvecklare kommer börja med begränsad testverksamhet de närmaste åren liknande den som Waymo och en del andra har nu. Men det är ännu osäkert om Tesla kommer göra det. Jag tolkar det som att Tesla istället vill göra en stor lansering när de har myndigheters godkännande. Tesla behöver inte heller testverksamhet i samma utsträckning när de har kunder som bidrar.

Det som jag tycker är svårast att få inblick i är myndigheters attityd och vad som krävs för ett godkännande. Det kommer garanterat skilja mycket mellan olika regioner. Tesla har inte produktionskapacitet för ett världsomspännande nätverk ännu så det räcker om de bara får tillstånd i någon enstaka storstadsregion i början.

Jag bryr mig inte om nätverket kommer anses vara någon siffra på en definerad skala. Det enda jag bryr mig om är om robotaxis har tillräckligt hög tillförlitlighet för godkännande, hur stor efterfrågan de skapar och vinstmarginalen.

Som jag har sagt flera gånger tidigare i den här tråden tror jag att Tesla behöver minst ett år med Dojo innan de kan nå tillräcklig tillförlitlighet. Teslas mål med Dojo och operation vacation låter lovande men jag skulle inte bli förvånad om det krävs flera år och mer därtill för regioner som är extra problematiska pga extremväder, komplicerade trafiksystem, krångliga myndigheter och annat strul.

Det som har varit lite förbryllande här är att så många verkar ifrågasätta Dojos prestanda. Det man istället bör ifrågasätta är varför det bara är Tesla som bygger en kraftfull superdator för träning. Alla utvecklare kommer tvingas bygga en förr eller senare. Det är som med batterifabrikerna. Alla större tillverkare av elbilar tvingas till slut investera i batterifabriker för att säkra tillgången. Det är ofrånkomligt.

[Jordad]

I cannot get into too many details, but basically for a while it was observed how Tesla keeps dropping NNs from running roster e.g. when at high speed and then altogether (like object detections on pillar cams recently and drivable space detection on side cameras on highways and such). the NNs are getting big and even jimmy_d noted how they are too big to run in real time on available compute. The FPS are low too if you remember

Then they added "Extended compute" recently which is a way to run code on two SoCs at the same time to sidestep some of the above issues. And have been chipping at it since. It coincided with general stability reduction on my unit at least, but mostly when the B node is shutting down so likely nobody cares yet. All the city streets and such are done in such a way that they now absolutely require this extended compute mode. And cross node synchronisation/communication is no easy thing.

> theoretically, everything should be able to run on a single node, with the second node done for redundancy

That was teh original stated goal, but the shipped NNs already cannot do it. Sure they can reduce them and the resolution and still fit, but at expense of accuracy.

> You are seeing all the city and streets on this extended compute mode, but I assume you do not have the FSD beta?

Yes, BUT the NNs are still there. There's also summon that requires taht, a few highway modes added that require that and so on. This i the direction they are moving to. Meanwhile to cope with extended compute mode not really working well they are turning off less critical NNs in those modes.

> This would seem like an easy problem to anticipate by an army of engineers, no? Did they just not anticipate this happening?

While it's easy to anticipate that no matter the compute you throw at the big complex task, you'll run out eventually - what did you expect them to do back then? They had a particular envelope they could fit stuff into and they fit however much they could. Remember that on autonomy day after there was a question what would hw4 be for somebody whispered to Elon "safety" or some such (at least that's my recollection)?

> I guess the real question is, what comes next? A bigger computer is essential for further progress or this not happening, basically?

Well, it's pretty clear they are just spilling workload to the second node that originally was declared as "this is just for redundancy". But now it's not and that allows them extra headroom in compute to have more stuff running. Will they eventually run out of that too? Sure! Also two nodes don't perform at double the speed of one due to all the overheads and in general it's much harder to do cross node multitasking like that - something they are discovering now apparently (this is an area I work in so I am intimately familiar btw).

The initial effect is the redundancy claims would be curtailed for now I would guess. And then once HW4 or whatever it'd be called is out - the "redundancy" is going to be again front and center and that's when we'd hear confirmations of how they run out of compute and to have true redundancy you'd need hw4. But likely coupled with how it's a non-event because the system is super robust anyway and if one node dies it could still limp to a shoulder or stop in lane at least.

Finally do remember that actual unbounded autonomy was not yet solved so nobody knows what's needed for it. So multiple generations of hardware will pass until it's realized assuming it's even possible. Tesla only getting their feet wet a bit in perception too. Perception IS important but there's a lot more stuff left even after that's solved. There's a bunch of people (and I tend to agree with them) that fully generic "L5" autonomy required general level of intelligence to understand all the nuances and context.

Om inte det där får ner FSD-believers på jorden så kan man ju alltid lyssna på avsnitt 13 av The Robot Brains Podcast "Missy Cummings asks: should the US Military user AI weapons?", som trots titeln handlar mycket om självkörning.

Du och Greentheonly har åsikter som gör att ni övertolkar information. Andrej Karpathy delade precis med sig hur aggressivt Tesla använder shadow mode. Greentheonly har ingen möjlighet att särskilja vad hans FSD computer används till. Tesla testar hela tiden massa icke optimerade NNs i shadow mode och det påverkar på ett sätt som gör att man inte kan dra några som helst slutsatser.

Tesla har även designat en FSD computer med två processorer som tillsammans ger 144 tops. Vill du verkligen att man halverar värdefull prestanda för att köra exakt samma sak på båda? Är det inte bättre att ha redundans som alltid är direkt tillgängligt att köras på en processor om den ena skulle få problem men att man under tiden utnyttjar båda processorerna. Att en processor slutar fungera är antagligen oerhört ovanligt i en Tesla.

[spacecoin]

Som jag har sagt flera gånger tidigare i den här tråden tror jag att Tesla behöver minst ett år med Dojo innan de kan nå tillräcklig tillförlitlighet. Teslas mål med Dojo och operation vacation låter lovande men jag skulle inte bli förvånad om det krävs flera år och mer därtill för regioner som är extra problematiska pga extremväder, komplicerade trafiksystem, krångliga myndigheter och annat strul.

Vad menar du det är att Dojo löser för problem åt Tesla?

Det är en snabb dator för träning av Neurala nätverk. Det innebär att dom kan få ned träningstiderna (snabbare iterationer, med någon slags multipel). Det är inte en trollstav som fixar alla Teslas problem och utmaningar. Det fixar inte bristande compute på bilarna.

Det som har varit lite förbryllande här är att så många verkar ifrågasätta Dojos prestanda. Det man istället bör ifrågasätta är varför det bara är Tesla som bygger en kraftfull superdator för träning. Alla utvecklare kommer tvingas bygga en förr eller senare.

Det verkar som att du behöver lära dig skilja på vad som är marknadsföring och hype, och vad som är verklighet. Tror du på allvar att ingen annan aktör har en lika snabb eller snabbare träningsdator än Tesla? Fråga dig istället varför det är så viktigt för Tesla att tala om att dom har en dator som är snabb, och att dom ska bygga en snabbare (sa dom för två år sedan, hur svart kan det vara???). Och att du och halva Internet vet namnet på projektet.

[spacecoin]

Du och Greentheonly har åsikter som gör att ni övertolkar information.

Till skillnad från dig?

Tesla har även designat en FSD computer med två processorer som tillsammans ger 144 tops. Vill du verkligen att man halverar värdefull prestanda för att köra exakt samma sak på båda? Är det inte bättre att ha redundans som alltid är direkt tillgängligt att köras på en processor om den ena skulle få problem men att man under tiden utnyttjar båda processorerna. Att en processor slutar fungera är antagligen oerhört ovanligt i en Tesla.

För mig spelar det ingen roll hur Tesla löser FSD. Jag sa att det inte låter bra alls (att cpu är en trång sektor) och att parallelism är supersvårt. Men du hade åsikter om detta nyss när jag nämnde att green hade sagt det:

Att Tesla skulle slopa redundans är inte troligt. De rankar säkerhet för högt för att någonsin göra något sådant.

Teslas version var att man hade två för redundans när man lanserade HW3. Det hade även du IGÄR. Nu har du, och tydligen även Tesla, en annan uppfattning då eller?

Din kompis James Douma tycker ju även han att näten håller på att bli för komplexa för att kunna köras i realtid på HW3. Att Tesla håller på att bollar ut och in olika aktiva nät i olika hastigheter och drar ned fps:en känns ju inte superstabilt, när man har så pass långt kvar till målet.

[Jordad]

Det fixar inte bristande compute på bilarna.

Det verkar som att du behöver lära dig skilja på vad som är marknadsföring och hype, och vad som är verklighet. Tror du på allvar att ingen annan aktör har en lika snabb eller snabbare träningsdator än Tesla? Fråga dig istället varför det är så viktigt för Tesla att tala om att dom har en dator som är snabb, och att dom ska bygga en snabbare (sa dom för två år sedan, hur svart kan det vara???). Och att du och halva Internet vet namnet på projektet.

Än en gång måste du börja uttrycka dig sakligt. Du har bara åsikter och inga argument baserade på fakta. Hur vet du att HW3 inte räcker till? Obekräftade uppgifter från någon på twitter med begränsad inblick och som dessutom inte har en aning om vad det är han bedömer är inte fakta. Det är intressant men man kan inte basera en bedömning på det.

Om nu alla utvecklare har så fantastiska superdatorer med NN-acceleratorer, var kommer de ifrån? Har alla byggt hemliga superdatorer med hemliga chip som inte finns att köpa någonstans? Hur har det gått till?

Lista istället de superdatorer som har byggts. Det finns säkert en hel del okända superdatorer men de är inte tillgängliga för de som utvecklar självkörande teknik kommersiellt. Den enda utvecklare förutom Tesla som har tillgång till en större superdator enbart byggd för AI-träning är Waymo. Däremot delar de den med hela Alphabet. Tesla håller på att bygga en dator som är 10x snabbare än Alphabets dator. Det är ändå värt att notera. Att bara avfärda det som en bagatell utan att basera den åsikten på fakta är helt fel.

Snabbar man upp träningen avsevärt så leder det självklart till bättre resultat. Det är också fel att att förneka.

[spacecoin]

Än en gång måste du börja uttrycka dig sakligt. Du har bara åsikter och inga argument baserade på fakta. Hur vet du att HW3 inte räcker till? Obekräftade uppgifter från någon på twitter med begränsad inblick och som dessutom inte har en aning om vad det är han bedömer är inte fakta. Det är intressant men man kan inte basera en bedömning på det.
Om nu alla utvecklare har så fantastiska superdatorer med NN-acceleratorer, var kommer de ifrån? Har alla byggt hemliga superdatorer med hemliga chip som inte finns att köpa någonstans? Hur har det gått till?
Snabbar man upp träningen avsevärt så leder det självklart till bättre resultat. Det är också fel att att förneka.

Teslas nuvarande träningsdator har väl standardchip. Det är inga hemligheter där så vitt jag vet.

Om du inte tror på vad jag sammanfattar här så prata med computer-vision-experter eller spendera några dagar på t ex /r/SelfDrivingCars så lär du hittar några fler skeptiker. Robot Brains podden med Missy Cummings, kanske? De allra flesta tror inte att hårdvaran på en konsumentprodukt från 2019 kommer att ens vara i närheten för att nå autonomi som är så bra så att man kan köra utan förare 2025, eller när nu man kommer att nå dit i mjukvaran.

Om nu Dojo är lösningen på nästan alla problem, varför kan dom bara inte femdubbla sin nuvarande träningsdator om dom behöver en snabbare dator? Det låter som en no brainer.

Jo, för i verkligheten är det dataset-kvalitet och framför allt uppfinningar/genombrott inom AI-computer vision som kommer att lösa autonomi, inte en snabbare dator för träning.

Teslas "fake it 'til you make it" kommer inte att vara lika sexigt längre när Elon fyller 60 år.

[Matte]

En sak med Dojo och varför det faktiskt kan hjälpa är att om de har möjlighet att träna nätverken snabbare kan de finna arkitekturer som är mindre lättare/snabbare. Tror man att det är lösningen på alla/flera av Teslas problem med FSD tre ror man dock fel. Största problemet de har och kommer att ha är (som i all machine learning)

1. Corner cases.
2. Naturligt noise (regn, smuts, damm, mörker, solljus etc)

Inget av dessa problemen löses av en snabbare dator att träna med, men det kan underlätta när man väl samlat in data/händelser (men när det väl är klart kommer man säkert att uppdatera kameror etc och måsta samla in igen).

[spacecoin]

En sak med Dojo och varför det faktiskt kan hjälpa är att om de har möjlighet att träna nätverken snabbare kan de finna arkitekturer som är mindre lättare/snabbare. Tror man att det är lösningen på alla/flera av Teslas problem med FSD tre ror man dock fel. Största problemet de har och kommer att ha är (som i all machine learning)

1. Corner cases.
2. Naturligt noise (regn, smuts, damm, mörker, solljus etc)

Inget av dessa problemen löses av en snabbare dator att träna med, men det kan underlätta när man väl samlat in data/händelser (men när det väl är klart kommer man säkert att uppdatera kameror etc och måsta samla in igen).

Håller med till 100%. Och gapet från där Tesla är nu med FSD-beta 8.2 (den är en riktigt bra driving assist), till att man ska kunna köra utan ens en människa i bilen, är enormt.

Waymo var ungefär där Tesla är nu för tio år sedan (med ett tiotal test-loopar i SFO, fast men en annan approach, helt klart). Med det menar jag att det är svårt för en lekman att se skillnad på hur bra dom kör. Man kan bara konstatera att ta sig den sträckan som Waymo gjort de senaste tio åren (som knappt märks i en demovideo, men är helt nödvändig) inte går lika snabbt.

[Jordad]

En sak med Dojo och varför det faktiskt kan hjälpa är att om de har möjlighet att träna nätverken snabbare kan de finna arkitekturer som är mindre lättare/snabbare. Tror man att det är lösningen på alla/flera av Teslas problem med FSD tre ror man dock fel. Största problemet de har och kommer att ha är (som i all machine learning)

1. Corner cases.
2. Naturligt noise (regn, smuts, damm, mörker, solljus etc)

Inget av dessa problemen löses av en snabbare dator att träna med, men det kan underlätta när man väl samlat in data/händelser (men när det väl är klart kommer man säkert att uppdatera kameror etc och måsta samla in igen).

Självklart är inte en snabbare träningsdator lösningen på allt men de exempel du nämner är ju själva anledningen till att Tesla bygger Dojo. Problemet Tesla har är att de har 1 miljon bilar med HW3 som samlar in oerhörda mängder data. Settet med träningsdata växer hela tiden när fler och fler av det du kallar corner cases och noice identifieras. Träningstiden blir ohanterlig och därför behövs mer datorkraft.

Anledningen till att Tesla bygger en superdator i den här storleken först är en direkt följd av att de har flest bilar för datainsamling. Teslas strategi är ohanterlig egentligen. Att bygga en superdator är inte svårt som sagt. Det är att se till att den åstadkommer något meningsfullt som är utmaningen. Återstår att se om Tesla lyckas med operation vacation. Waymo har påbörjat något liknande med 3d auto labeling. Spännande att följa.

Det ska ändå bli spännande att se vad Dojo innehåller för hårdvara. Om den bygger på Nvidiagrejer så är den galet stor. Antagligen använder Tesla egna mer optimerade chip.

Jag skulle även rekommendera att titta på Dave Lees intervju med James Douma angående skillnaden på Tesla FSD chip jämfört med Nvidia. Tesla gör inget magiskt som inget annat företag kan göra. Skillnaden är att Tesla tar fram chip som är optimerade för en enda sak. Man är hittils ensamma om det då inget annat företag har tagit fram så specialiserade chip ännu. Länk:

[spacecoin]

Tesla är ju inte varken först eller ensam med SoC (system on a chip)-konceptet så att det skulle vara en unfair advantage håller jag inte med om.

Vi får väl se vad t ex EyeQ v6 levererar i form av autonomikapabilitet.

Det alla håller på med just nu är att få ML som är på forskningsstadiet till olika konsumentprodukter (TaaS och DaaS). Utöver detta har Tesla har valt billigast möjliga sensorer för att lösa problemet och samtidigt valt den största ODD:n.

Bland forskare är det stor koncensus att att det är närmast omöjligt att lösa problemet självkörning med dagens kända ML-tekniker i en så enorm ODD med bara kameror.

Det är inte omöjligt, men högst osannolikt att Tesla kommer i mål med något som kan sägas vara något annat än drivning assist med den ML-teknik som är känd idag, med billigast möjliga sensorer från 2019 i bilarna.

Om man nu är CPU:n constrained, och ändå väljer att lägga CPU-resurser på att räkna ut avstånd med ML (istf radar) känns för mig som att kasta in handduken, i alla fall vad avser ”L5” (L4 med stor ODD) på HW3.

[Jordad]

Tesla är ju inte varken först eller ensam med SoC (system on a chip)-konceptet så att det skulle vara en unfair advantage håller jag inte med om.

Vi får väl se vad t ex EyeQ v6 levererar i form av autonomikapabilitet.

Det alla håller på med just nu är att få ML som är på forskningsstadiet till olika konsumentprodukter (TaaS och DaaS). Utöver detta har Tesla har valt billigast möjliga sensorer för att lösa problemet och samtidigt valt den största ODD:n.

Bland forskare är det stor koncensus att att det är närmast omöjligt att lösa problemet självkörning med dagens kända ML-tekniker i en så enorm ODD med bara kameror.

Det är inte omöjligt, men högst osannolikt att Tesla kommer i mål med något som kan sägas vara något annat än drivning assist med den ML-teknik som är känd idag, med billigast möjliga sensorer från 2019 i bilarna.

Om man nu är CPU:n constrained, och ändå väljer att lägga CPU-resurser på att räkna ut avstånd med ML (istf radar) känns för mig som att kasta in handduken, i alla fall vad avser ”L5” (L4 med stor ODD) på HW3.

Det är ingen som säger att Tesla har unfair advantage. Teslas strategi kräver större investeringar och det är heller ingen annan som matchar de investeringarna hittils.

Eyeq6? Mobileye skulle ju leverera L5-autonomi med Eyeq5 år 2020. Ska vi inte låta dem försöka börja med att leverera det?

Stor konsensus? Har du gjort en gallup? Teslas strategi är extrem så det kan kanske stämma men forskarvärlden är naturligt disparat och att det skulle finnas en stor tydlig konsesus kring något som ännu är så outforskat som autonomi är inte troligt. Det låter snarare som något man hävdar i en debattartikel.

Angående kameror så är det ett enkelt problem om Tesla i värsta fall behöver uppgradera dem. Det samma gäller datorn. Det är mjukvaran som är utmaningen.

Vem säger att Tesla behöver lägga mer datorresurser på att räkna ut avstånd utan radar? Det borde snarare vara tvärtom. Enligt Tesla var problemet med radarn att den ofta gav motsägelsefull information. Informationen kan bara vara motsägelsefull om FSD datorn redan gjorde avståndbedömning genom kameror och den informationen inte överensstämde med information från radarn. Att eliminera radarn borde då frigöra resurser.

[spacecoin]

Det är ingen som säger att Tesla har unfair advantage. Teslas strategi kräver större investeringar och det är heller ingen annan som matchar de investeringarna hittils.

Jasså, siffror på det?

Angående kameror så är det ett enkelt problem om Tesla i värsta fall behöver uppgradera dem. Det samma gäller datorn. Det är mjukvaran som är utmaningen.

Jag håller med om att det är mjukvaran som avgör. Att det är "enkelt" att uppgradera kameror håller jag inte med om. Byter man upplösning blir det ett litet helvete med dataset:et. 4k kommer ju att kräva 4x mer datakraft att bearbeta dessutom. När det gäller att byta ut datorn i bef bilar så går det säkert, men det är fler saker som kan påverkas, t ex säkringar och evt kablage. WLTP/EPA ratings kanske. Tror du Tesla kommer att göra en retrofit på befintlig flotta? Jag tror inte man kommer att göra det. Men hatten av om om skulle krypa till korset och göra detta när behovet skulle uppstå. Det lär väl kosta dem ca 4 servicetimmar och flera hundra dollar i hw per bil.

Vem säger att Tesla behöver lägga mer datorresurser på att räkna ut avstånd utan radar? Det borde snarare vara tvärtom. Enligt Tesla var problemet med radarn att den ofta gav motsägelsefull information. Informationen kan bara vara motsägelsefull om FSD datorn redan gjorde avståndbedömning genom kameror och den informationen inte överensstämde med information från radarn. Att eliminera radarn borde då frigöra resurser.

AK höll ju ett helt föredrag nyligen om de nya NN som gör detta, så att det skulle vara mer avancerade (ha högre precision), och därmed ta mer kraft, än de gamla verkar rimligt, men teoretiskt är det möjligt att du inte har fel

När det gäller beräknings-kraft, för att förtydliga, så har Tesla 2xSoC på ett PCB. Det är inte "två cpu:er" i ett system.

Varje SoC är ett separat Linuxsystem som har 12st A72 arm64 cores, 8G RAM och 32G permanent storage, samt två NPU:er och en GPU (ja, vissa NN körs på GPU:n). SoC:arna har en 4-vägs PCI-expressbuss emellan sig.

Så för att använda bägge SoC-arna för prestanda-boost (så som man enligt Green gör i FSD-betan)...

All the city streets and such are done in such a way that they now absolutely require this extended compute mode. And cross node synchronisation/communication is no easy thing.

...så är det alltså "distributed computing" som höjer komplexiteten rejält jämför med ett single-nod-system. Plötsligt har man ett datorkluster att hantera, och inte bara failover.

Jag skulle tro att man kanske får ut 30-50% extra kraft genom att köra bägge i ett kluster. Det är definitivt inte 100% extra på grund av den synkronisering som krävs. Ska man ha någon form av redundans måste ju även flera av näten köra på bägge noderna, men dom kanske inte behöver synkas då i alla fall.

[Hertsh]

Nu vet jag inte om jag är ensam, men jag tycker nog att ni kan fortsätta ert eviga debatterande i sovrummet eller via DM.

[spacecoin]

Du får göra en poll på det.

[backe]

Du får göra en poll på det.

Jag gillar att få läsa er diskussion

[Jordad]

[
Jasså, siffror på det?

AK höll ju ett helt föredrag nyligen om de nya NN som gör detta, så att det skulle vara mer avancerade (ha högre precision), och därmed ta mer kraft, än de gamla verkar rimligt, men teoretiskt är det möjligt att du inte har fel

När det gäller beräknings-kraft, för att förtydliga, så har Tesla 2xSoC på ett PCB. Det är inte "två cpu:er" i ett system.

...så är det alltså "distributed computing" som höjer komplexiteten rejält jämför med ett single-nod-system. Plötsligt har man ett datorkluster att hantera, och inte bara failover.

Jag menade att Tesla har investerat i att utveckla och masstillverka kraftfulla datorer som de sedan monterar i över 1 miljon bilar trots att majoriteten av kunderna inte har bidragit till den kostnaden genom att köpa FSD. Det är inget annat företag som är i närheten av sådana investeringar i datainsamling ännu. Men det har jag sagt tidigare här och det behöver vi inte dra fler gånger nu. Däremot finns de andra som Mobileye och Cruise som istället har investerat i skapandet av HD-kartor. Det är värt att nämna med.

Förbättringarna som Karpathy talade om var man ändå tvungna att göra för att öka FSD-betans tillförlitlighet eftersom radarn inte alltid går att lita på. FSD-beta måste även kunna bedöma avstånd till korsande bilar lika bra som till bilar framför. Ett av de största problemen med FSD-beta har varit att den har tvekat i korsningar. Bristande avståndsbedömning sidledes har garanterat bidragit till det. När Tesla tvingades förbättra avståndsbedömningen där ledde det till att man insåg att radarn framåt var överflödig. Så tolkar jag det iaf.

Än en gång så kan man inte dra så långtgående slutsatser utifrån vad Greentheonly delar med sig. Han har inte FSD beta. Varför skulle Tesla köra så omfattande processer på hans dator när han bara använder vanlig autopilot? Den enda förklaring som jag tycker känns rimlig är att Tesla testar icke optimerade NNs i shadow mode. Man gjorde tex 7 vändor med shadow mode innan man tog bort radarn. Första vändorna kan ha varit rätt råa NNs bara för att testa funktionen. Undan för undan optimerade man sedan NNs tills dess att man har något som går att släppa.