Autonoma fordon

[spacecoin]

Vad är det som säger att om man kan skapa ett NN med samma antal neuroner och synapser som vår hjärna och sedan utsätter det för 60miljoner 10 sekunders klipp med data , som då representerar en människas uppväxt, inte kan återskapa samma egenskaper?

Du behöver förstå att det inte är samma sak bara för att det heter samma sak.

Ett NN är i grunden ett sammansatt system av matematiska modeller - det är inte en hjärna. Vi har egentligen ingen större aning om hur vår hjärna funkar.

"Many scientists agree that artificial neural networks are a very rough imitation of the brain’s structure, and some believe that ANNs are statistical inference engines that do not mirror the many functions of the brain. The brain, they believe, contains many wonders that go beyond the mere connection of biological neurons."

https://bdtechtalks.com/2020/06/22/dire ... -networks/
https://analyticsindiamag.com/neural-ne ... bunk-myth/

[spacecoin]

Tycker inte ni också det är lite lustigt att dom där kontrollfrågorna som ska säkerställa att man inte är en robot ofta innehåller trafikrelaterade situationer.

Jo det är kul. Kanske hjälper vi till att förbättra något dataset hos Google när vi gör det där.

Någon skrev härom dagen, apropå fördelar med att kunna samla in data, att YouTube är en läskigt bra källa för detta potentiellt sätt för alla möjliga användningsområden...

[RagWal]

Som människa behöver man inte ha sett alla situationer i världen för att kunna klara av det mesta. Som människa VET man vad som kan hända eftersom en människa kan resonera. Det kan inte ett ML-program..

Jag tror inte du har riktig koll på ML när du skriver aåhär. Inte heller när du påstår att ML är brute force. Det är något helt annat.

Det som exekveras i ett upplärt NN (i fordonet) är en optimerad modell som har skapats med träningsdata och mycket datakraft i en serverhall.

Sen åtgår en hel del kraft för att från videostreams skapa en mer modellerad värld till själva självkörningsdelen som fattar beslut om styrning av fordonet.

Du framställer det som ett alldeles oöverstigligt problem även i teorin.

Många delar för optimering trafikregler etc kommer säkert att vara progammerade även långt fram. Allt behöver inte vara ML. Jag tycker du framställer det för svart och vitt.

[[JM]]

Vad är det som säger att om man kan skapa ett NN med samma antal neuroner och synapser som vår hjärna och sedan utsätter det för 60miljoner 10 sekunders klipp med data , som då representerar en människas uppväxt, inte kan återskapa samma egenskaper?

Du behöver förstå att det inte är samma sak bara för att det heter samma sak.

Ett NN är i grunden ett sammansatt system av matematiska modeller - det är inte en hjärna. Vi har egentligen ingen större aning om hur vår hjärna funkar.

"Many scientists agree that artificial neural networks are a very rough imitation of the brain’s structure, and some believe that ANNs are statistical inference engines that do not mirror the many functions of the brain. The brain, they believe, contains many wonders that go beyond the mere connection of biological neurons."

https://bdtechtalks.com/2020/06/22/dire ... -networks/
https://analyticsindiamag.com/neural-ne ... bunk-myth/

Nu var det några år sen jag läste kurserna på KTH om NN, datorseende, robotik och autonoma system och forskningen har säkert kommit långt sen dess men vi kan väl säga att våra åsikter går isär i den här frågan.

[Jordad]

Vår hjärna består av ett fixt/begränsat antal neuroner och synapser som under vår uppväxt lär sig "omvärlden".
Den bakgrundsinformationen gör att det bara räcker med dina påstådda 100 timmar för att lära en människa att köra bil.
Vad är det som säger att om man kan skapa ett NN med samma antal neuroner och synapser som vår hjärna och sedan utsätter det för 60miljoner 10 sekunders klipp med data , som då representerar en människas uppväxt, inte kan återskapa samma egenskaper?

Vad vi lär oss uppväxten är en försvinnande liten del av de färdigheter vi använder vid bilkörning. Vårt beteende är framförallt baserat på perceptionsförmåga och instinkter som har frammanats under 4 miljarder år av evolution på jorden. Trafiksystemet är mycket ett resultat av vår perceptionsförmåga och instinkter, inte av vad vi lär oss.

Man kan inte jämföra NNs med människor någonstans även om det finns vissa likheter i hur man tränar. Teslas utmaning är att skapa NNs som har färdigheter för att klara tillräckligt många situationer för att vara kommersiellt gångbart. Det betyder inte att FSD kommer klara alla situationer och det betyder definitivt inte att FSD kommer köra som en människa. FSD och andra autonoma system kommer ha övermänskliga egenskaper i vissa avseenden men de kommer också vara nästan hjälplöst dåliga jämfört med oss i andra avseenden. Frågan är vid vilken tidpunkt det övermänskliga är tillräckligt för att täcka upp för det hjälplösa.

När det gäller träningsdata så klarar FSD-beta idag situationer som den inte är tränad för. Med tanke på det gigantiska området FSD-beta körs i idag och den mängden av uppenbara problem som Tesla håller på och åtgärda så kan man inte dra några vettiga slutsatser ännu om hur möjlig eller omöjlig en lösning är. Man får helt enkelt vänta och se.

[spacecoin]

Som människa behöver man inte ha sett alla situationer i världen för att kunna klara av det mesta. Som människa VET man vad som kan hända eftersom en människa kan resonera. Det kan inte ett ML-program..

Jag tror inte du har riktig koll på ML när du skriver aåhär. Inte heller när du påstår att ML är brute force. Det är något helt annat.

När jag säger brute-force så menar jag ML-arbetet som krävs för att hitta data, kurera och träna NN.

Många delar för optimering trafikregler etc kommer säkert att vara progammerade även långt fram. Allt behöver inte vara ML. Jag tycker du framställer det för svart och vitt.

Jag är medveten om detta. Jag menar delarna som är eller behöver vara ML.

[spacecoin]

Vår hjärna består av ett fixt/begränsat antal neuroner och synapser som under vår uppväxt lär sig "omvärlden".
Den bakgrundsinformationen gör att det bara räcker med dina påstådda 100 timmar för att lära en människa att köra bil.
Vad är det som säger att om man kan skapa ett NN med samma antal neuroner och synapser som vår hjärna och sedan utsätter det för 60miljoner 10 sekunders klipp med data , som då representerar en människas uppväxt, inte kan återskapa samma egenskaper?

Vad vi lär oss uppväxten är en försvinnande liten del av de färdigheter vi använder vid bilkörning. Vårt beteende är framförallt baserat på perceptionsförmåga och instinkter som har frammanats under 4 miljarder år av evolution på jorden. Trafiksystemet är mycket ett resultat av vår perceptionsförmåga och instinkter, inte av vad vi lär oss.

Man kan inte jämföra NNs med människor någonstans även om det finns vissa likheter i hur man tränar. Teslas utmaning är att skapa NNs som har färdigheter för att klara tillräckligt många situationer för att vara kommersiellt gångbart. Det betyder inte att FSD kommer klara alla situationer och det betyder definitivt inte att FSD kommer köra som en människa. FSD och andra autonoma system kommer ha övermänskliga egenskaper i vissa avseenden men de kommer också vara nästan hjälplöst dåliga jämfört med oss i andra avseenden. Frågan är vid vilken tidpunkt det övermänskliga är tillräckligt för att täcka upp för det hjälplösa.

När det gäller träningsdata så klarar FSD-beta idag situationer som den inte är tränad för. Med tanke på det gigantiska området FSD-beta körs i idag och den mängden av uppenbara problem som Tesla håller på och åtgärda så kan man inte dra några vettiga slutsatser ännu om hur möjlig eller omöjlig en lösning är. Man får helt enkelt vänta och se.

Jag håller med om allt som du skriver ovan, med reservationen att FSD-betan kanske kan köra nästan överallt, men inte i närheten av tillräckligt säkert någonstans.

Jag menar att utmaningen främst ligger i att använda ML i kontexter som är för stora pga exponentiell påverkan på tränings-settets storlek. Jag tror att avgränsningar är nödvändiga för att minska problemrymden och kryckor som HD-kartor, exakt avståndsbedömning och parallella system är toppen om man prioriterar att komma i mål med säkehetsmarginaler i närtid över kostnaden per bil.

Säkerhets-kritiska och tidskritiska tillämpningar är tuffa. Failure = död och lidande.

Verkligheten är AI:s akilleshäl brukar man säga.

Ska vi diskutera Optimus nu?

[[JM]]

Vår hjärna består av ett fixt/begränsat antal neuroner och synapser som under vår uppväxt lär sig "omvärlden".
Den bakgrundsinformationen gör att det bara räcker med dina påstådda 100 timmar för att lära en människa att köra bil.
Vad är det som säger att om man kan skapa ett NN med samma antal neuroner och synapser som vår hjärna och sedan utsätter det för 60miljoner 10 sekunders klipp med data , som då representerar en människas uppväxt, inte kan återskapa samma egenskaper?

Vad vi lär oss uppväxten är en försvinnande liten del av de färdigheter vi använder vid bilkörning. Vårt beteende är framförallt baserat på perceptionsförmåga och instinkter som har frammanats under 4 miljarder år av evolution på jorden. Trafiksystemet är mycket ett resultat av vår perceptionsförmåga och instinkter, inte av vad vi lär oss.

Man kan inte jämföra NNs med människor någonstans även om det finns vissa likheter i hur man tränar. Teslas utmaning är att skapa NNs som har färdigheter för att klara tillräckligt många situationer för att vara kommersiellt gångbart. Det betyder inte att FSD kommer klara alla situationer och det betyder definitivt inte att FSD kommer köra som en människa. FSD och andra autonoma system kommer ha övermänskliga egenskaper i vissa avseenden men de kommer också vara nästan hjälplöst dåliga jämfört med oss i andra avseenden. Frågan är vid vilken tidpunkt det övermänskliga är tillräckligt för att täcka upp för det hjälplösa.

När det gäller träningsdata så klarar FSD-beta idag situationer som den inte är tränad för. Med tanke på det gigantiska området FSD-beta körs i idag och den mängden av uppenbara problem som Tesla håller på och åtgärda så kan man inte dra några vettiga slutsatser ännu om hur möjlig eller omöjlig en lösning är. Man får helt enkelt vänta och se.

Själva ursprungsiden med NN i datorer är ju ett försöka att modellera vår egen hjärna och hur neuroner och synapser interagerar och på så sätt lagrar minnen och skapar funktioner.
4 miljoner år av evolution har förkonditionerat strukturen i vårt eget NN så att det ska gå fortare att lära upp. Det är ju därför alla våra hjärnor fungerar på ungefär samma sätt. Vissa delar jobbar primärt med syn andra med tal osv.
Spacecoin skrev:

Jag anser att man är fruktansvärt naiv om man tror några miljoner 10s videoklipp kan ge ett dataset som är säkert nog kör att representera vad som kan hända när man kör i t ex USA på ett sånt sätt att man kan göra L4 av det trots att problemet i princip kan uttryckas som "kör där man kan köra, följ trafikregler och kör inte på något".

Min poäng var att om vi kan träna upp vårt eget NN med ungefär den datamängden så är det inte orimligt att tro att liknande storlek på datamängd men med fokus på självkörande bilar borde räcka till eftersom den problemrymden borde kräva ett avsevärt mindre NN än ett NN för generell intelligens som tex vi besitter.

[spacecoin]

Spacecoin skrev:

Jag anser att man är fruktansvärt naiv om man tror några miljoner 10s videoklipp kan ge ett dataset som är säkert nog kör att representera vad som kan hända när man kör i t ex USA på ett sånt sätt att man kan göra L4 av det trots att problemet i princip kan uttryckas som "kör där man kan köra, följ trafikregler och kör inte på något".

Min poäng var att om vi kan träna upp vårt eget NN med ungefär den datamängden så är det inte orimligt att tro att liknande storlek på datamängd men med fokus på självkörande bilar borde räcka till eftersom den problemrymden borde kräva ett avsevärt mindre NN än ett NN för generell intelligens som tex vi besitter.

Det vore ju underbart om det vore fallet, men det är tyvärr ett felaktigt antagande. Det spelar ingen roll hur många böcker man läser om man inte förstår innehållet. ML kan lära sig alla orden i Hamlet, utan att förstå poängen eller historien. Och sedan kan den i bästa fall skapa liknande, fast dåliga, berättelser i samma stil.

Det finns helt enkelt väldigt få likheter mellan hur ML och vår hjärna fungerar. Det är därför jag undviker att kalla något "AI". Det finns absolut ingen intelligens i dagens "AI-system". Mönster-igenkännare är mer rättvist men inte lika bra för marknadsavdelningen.

NLP är ett område där AI/ML är bra för, då det är varken tids- eller säkerhetskritiskt.

Du kan läsa om GPT-3 här:
https://en.wikipedia.org/wiki/GPT-3
https://www.technologyreview.com/2020/0 ... i-opinion/

"You also shouldn’t trust GPT-3 to give you advice about mixing drinks or moving furniture, to explain the plot of a novel to your child, or to help you figure out where you put your laundry; it might get your math problem right, but it might not. It’s a fluent spouter of bullshit, but even with 175 billion parameters and 450 gigabytes of input data, it’s not a reliable interpreter of the world."

[spacecoin]

Den här sajten är rolig om man gillar nördhumor och AI:
https://www.aiweirdness.com/

Jag kan rekommendera hennes bok också:
"You Look Like a Thing and I Love You: How Artificial Intelligence Works and Why It’s Making the World a Weirder Place"
https://www.janelleshane.com/book-you-look-like-a-thing

[spacecoin]

“We urge investors to dial-back expectations of autonomous car/robotaxi commercialization at scale over the next 5 years at least.” Morgan Stanley’s Adam Jonas on the hype surrounding self-driving vehicles.

Känns som en passning direkt till Tesla.

[spacecoin]

Liten inblick i "nya" Jaggorna som Waymo kör med:

[spacecoin]

Har spenderat lite tid att lyssna igenom NeurIPS 2021 - Machine Learning for Autonomous Driving presentationer.

Här är lite godbitar (enl mig).

Obs! Presentationerna beskriver forskning, förhoppningar och inte verkliga produkter. De flesta presentationerna belyser kvarvarande problem.

Den första rekommenderas för alla:
RL for Self-driving cars (prof Jeff Schneider, Carnegie Mellon) https://slideslive.com/38969354/reinfor ... iving-cars
No nosense-genomgång av läget. Intressant diskussion om vision vs lidar i frågestunden.
Jeff anser att Lidar behövs inte (oftast) för körning (i framtiden) men Jeff tror att Lidar-tillverkarna kommer ner i pris innan CV-lösningarna blir tillräckligt bra. Min tolkning är att de kommer att användas på bilar även på sikt för att de löser ett problem billigt/billigare och kompletterar kameror (t ex i mörker, motljus). Det tycker jag att vi redan ser i 2023 års modeller.

Dessa rekommenderas för riktiga nördar:
Waymo: Learning Driving Agents from Simulation: https://slideslive.com/38969365/learnin ... simulation
Waymo: Robotics for an ML-Driven World https://slideslive.com/38970641/robotic ... iven-world

Wayve (E2E ML/RL)- AV2.0 (Lite för mycket pitchning i början men intressant) https://slideslive.com/38969355/av20-le ... telligence
Intressant resonmang från 16 min.

[spacecoin]

Cruise and GM seeking approval from the National Highway Traffic Safety Administration (NHTSA) to build and put the Cruise Origin into commercial service:

https://www.getcruise.com/news/seeking- ... the-origin

[spacecoin]

Ytterligare en populärvetenskaplig källa (7 min):
"The biggest problem in AI? Machines have no common sense."

https://bigthink.com/the-present/how-sm ... -robots-ai

Bra och saklig.

[spacecoin]

VW ryktas vara sugna på att köpa upp Huaweis AV-division:
https://techcrunch.com/2022/02/18/volks ... it-report/

[frippan]

Tvungen att bryta spacecoins monopol han har just nu i denna tråd

Känns som comma sätter ett lagom mål för 2022.

[spacecoin]

Tvungen att bryta spacecoins monopol han har just nu i denna tråd
Känns som comma sätter ett lagom mål för 2022.

Härligt! Och ang commas mål, tycker jag det är superbra! Inget idiotiskt snack om att ta bort säkerhetsföraren och ett bra, realistiskt och mätbart mål.

[spacecoin]

Mycket balanserad och intressant diskussion kring Lidar, Kamera, Thermal, Radar i senaste Autonocast-podden:
http://www.autonocast.com/blog/2022/2/1 ... mpound-eye

Mörker inte ett jätteproblem. Värre med motljus. Jason Devitt menar att det är troligt att Teslas problem med blåljusfordon på natten kan vara pga bländade kameror. Det har skett massor av framsteg med HDR de senaste åren och olika bländarnivå i olika delar av bilden. Lidar, thermal kan vara bra komplement.

Han menar att Tesla skulle behöva parallax-based depth sensing framåt. Nu har Tesla i huvudsak semantic cues.

Deras tech: https://www.compoundeye.com/

[spacecoin]

Ytterligare ett inslag, denna gång från CBS, där man sågar autonowashingen som pågår:
(vänta, det börjar det börjar efter reklamen)

Testaren från CR tror på 2050 i konsumentbilar.

[spacecoin]

Waymo listar ut vad fotgängare ska göra med key points och detektering av gester. Ett nödvändigt område för att kunna köra bra och säkert i stan!
https://blog.waymo.com/2022/02/utilizin ... ation.html

[spacecoin]

MobileEye kör på tre kontinenter:

[spacecoin]

Robot Brains intervjuar Alex Kendall, VD för Wayve.

Man brukar ju ofta säga att Cruise/Waymo och Tesla är på olika sidor av spektrumet. Wayve är dock långt mer extrema än Tesla och använder bara kameror (just nu) och ETT enda stort NN (från sensor till styrning, detta kallas end-to-end ML) och inga detaljerade kartor.

Det är en hel del hype här, och Wayve har varit ute och letat pengar nyligen. $200M blev det.


Det är inte första gången folk använder ren end-to-end RL för att köra. Vi får se hur långt Wayve kommer.

[spacecoin]

[spacecoin]

Inte självkörande bilar men ändå intressant för en del kanske:
Lex Fridman modererar ett samtal om intelligens mellan Yann LeCun och Yoshua Bengio. Båda två är Turing award winners ("nobelpriset för datornördar") och har arbetat med ML sedan slutet av 80-talet.

Länk till eventet:

(Ca 1:18:30 in)