Tesla rör om i AP2-toppen

[blincoln]

(Igen, tips från Reddit)
Intressant intervju med Andrej Karpathy som numera leder AP2-arbetet om hur han tror att en komplex uppgift ska lösas med neurala nätverk:

Han tycker att man ska ge nätverket hela uppgiften och inte dela upp det i komponenter som man sätter ett vanligt datorprogram på att styra från. För AP2 innebär det alltså att han tycker man ska koppla kameror och andra sensorer direkt till ett nätverk och sedan få rattrörelse, gas och broms ut från nätet utan att styra mellanleden. Det normala för oss kontrollfreaksprogrammerare är ju att man skulle vilja veta var vägen går från bildtolkningen och sedan para ihop det med en karta och diverse trafikregler för att bestämma var den ska styra, gasa och bromsa.

Jag skulle gissa att Andrej har rätt i att det ger bättre prestanda med direkt styrning från det neurala nätverket, men oj vad jobbigt att försöka få det att göra rätt i en massa konstiga situationer... "Öh, ja, den krocken var ju APns fel, vi ska bara träna den lite till så hoppas vi att det inte händer igen. Oh, ny trafikregel, ska bara träna lite..."

[mati]

Det blir i alla fall ett helvete att felsöka. Eller vad händer om den har lärt sig fel? Jobbigt.

[blincoln]

Eller, ett tydligen inte helt ovanligt beteende, att nätverket glömmer bort saker det kunde tidigare när man lär det något nytt. Det kommer bli ett j-la curlande av nätet för att få den att hålla sig på banan under all inlärning

Men, som alltid i fallet Tesla, det är otroligt spännande och underhållande att stå på sidlinjen och titta på när de faktiskt försöker göra det som ingen annan vågar!

[bjornlilja]

Jag har en känsla av att vi inte kan förvänta oss några större Ap2-framgångar de närmsta månaderna. Även om detta chefsbyte antagligen är tänkt att förbättra AP2-utvecklingen så får man se det som ett långsiktigt mål. På kort sikt brukar ett sådant steg resultera i ett uppehåll eller åtminstone en fördröjning i utvecklingsarbetet. Så brukar det vara. Nu är Tesla inget företag som alla andra, jag kan alltså ha fel.

Jag tror som du att det är den konkreta effekten av bytet. I bästa fall kan man hoppas på att det är två team som jobbar separat, ett på mer kortsiktiga och "tillfredsställande" uppdateringar som vi efterfrågar och ett som jobbar på den långsiktiga lösningen. Men bara Elon vet.