Haha, den var bra och hög igenkänningsfaktor!
Det är ett av problemen med neurala nätverk förresten. Det finns inget sätt i dagsläget att upptäcka eller förstå varför dom gör fel i en viss korsning var 100:e gång när solen är i en viss vinkel (eller andra "long tail events"). Grundforskning pågår. Givetvis är verifiering enormt viktigt i säkerhetskritiska tillämpningar, och heuristisk kod är bra där, men otillräcklig för att kunna fixa bilkörning. Därav NN vilket leder till ett problem pga av det förstnämnda.
Det är därför många är skeptiska till end-to-end NN-lösningar i dagsläget.
En annan grej är att NN-lösningar lär sig mönster genom att sortera bort ovanliga händelser. Det är ju i grunden ett avancerat matrisbaserat statistiksystem. så man måste ha speciella rutiner för att få den att ta hänsyn till long-tail-grejer. Och att ens hitta long tail exempel i tillräckligt stor omfattning är jättesvårt, så då behöver man ofta simulering.