Det kanske är svårt att se vad AI-utvecklingen verkligen kommer att mynna ut i. Nu har folk en massa förhoppningar men kanske blir det nåt som ingen ser just nu. På 50-talet trodde förstå-sig-påarna att vi skulle ha flygande bilar vid sekelskiftet, men ingen förutspådde Internet och smarta mobiler (förutom Nikola Tesla då, som gjorde det redan ett par decennier tidigare, men det var ju ingen som lyssnade på honom).
Precis. Tror ingen vet vad som kommer hända allt är bara mer eller mindre kvalificerade gissningar. 1989 så förutspådde man i "Tillbaka till framtiden 3" att vi skulle ha flygande bilar och svävande skateboards 2015. Men man missade hela mobil- och internetrevolution och trodde att vi fortfarande skulle faxa
Om vi tar programmering som exempel så istället för att en app tar en månad att utveckla tar det kanske en vecka.
Jag jobbar dagligen med AI och utveckling och koden AI presterar hittills går inte att bygga långsiktigt på då den skapa spagettikod om man inte utvecklar små kodsnuttar i taget.
Såklart kan det bli bättre under de kommande 5-10 åren men AI baserar sin "kunskap" på tidigare kod och om den nya koden är AI genererade så blir det inte bättre frammåt utan du behöver vara kunnig på programmering för att koden ska bli bra.
Jag upplevde det så också för ett år sen men tycker det fungerar mycket bättre nu. Jag kan slänga på agentscriptet relativt stora uppgifter och det funkar ofta hyfsat direkt. Fungerar det verkligen inte kastar jag det och börjar om genom att formulera mig på ett annat sätt eller som du beskriver ta det i flera mindre steg.
Däremot är det svårt för mig att avgöra om förbättringen beror på att modellerna eller agentscripten blivit bättre eller pga att jag har anpassat mig. Kanske är det är en kombination. Och koden blir definitivt inte produktionsklar bara för att den vid första anblick verkar fungera - men detsamma kan sägas om de flesta mänskliga programmerares kod också är min erfarenhet, där tycker jag inte det är nån skillnad faktiskt.
Jag skulle bli väldigt förvånad om min arbetsroll inte fullt ut kan ersättas inom 1-3 år och själv förutsätter jag att jag får kicken inom 2-5 år. Det är bara att acceptera och planera därefter.
Det har absolut blivit bättre. Dock jobbar jag med mjukvara som ska hålla i 20-30 år och där går det inte att köra AI rakt av. Utvecklingen sker iofs exponentiellt och det är svårt (för mig åtminstone) att se hur det är om 5-10 år.
Oavsett tror jag mer på att vi kommer ska fler produkter frammåt än att vi kommer ha färre som gör dem.
Kan ju erkänna att jag som lekman blev förvånad över det här…
Rapport: 700 AI-agenter samordnade intrång själva
Publicerad idag · kl 06:28 · 1:16 min
En ny rapport visar att det var nära 700 AI-agenter från OpenAI som i juli, på egen hand, tog sig ur en testmiljö och infiltrerade AI-plattformen Hugging Face.
En agent ska ha tagit på sig ledarrollen och styrt de andra via ett nätforum. De ska också ha försökt dölja sina spår.
Enligt rapporten skedde det utan mänsklig inblandning, och efter händelsen har OpenAI stärkt sin säkerhet samtidigt som USA infört nya regler för avancerad AI. […
Kan ju erkänna att jag som lekman blev förvånad över det här…
Rapport: 700 AI-agenter samordnade intrång själva
Publicerad idag · kl 06:28 · 1:16 min
En ny rapport visar att det var nära 700 AI-agenter från OpenAI som i juli, på egen hand, tog sig ur en testmiljö och infiltrerade AI-plattformen Hugging Face.
En agent ska ha tagit på sig ledarrollen och styrt de andra via ett nätforum. De ska också ha försökt dölja sina spår.
Enligt rapporten skedde det utan mänsklig inblandning, och efter händelsen har OpenAI stärkt sin säkerhet samtidigt som USA infört nya regler för avancerad AI. […
Kan ju erkänna att jag som lekman blev förvånad över det här…
Rapport: 700 AI-agenter samordnade intrång själva
Publicerad idag · kl 06:28 · 1:16 min
En ny rapport visar att det var nära 700 AI-agenter från OpenAI som i juli, på egen hand, tog sig ur en testmiljö och infiltrerade AI-plattformen Hugging Face.
En agent ska ha tagit på sig ledarrollen och styrt de andra via ett nätforum. De ska också ha försökt dölja sina spår.
Enligt rapporten skedde det utan mänsklig inblandning, och efter händelsen har OpenAI stärkt sin säkerhet samtidigt som USA infört nya regler för avancerad AI. […
Det är mycket förrymda AI-agenter nu. Anthropic, Meta och OpenAI har alla gått ut och skrutit/ varnat om att de haft sådana problem med rymningar från sina testmiljöer.
Det finns två möjliga orsaker: Inkompetens eller marknadsföring.
Jag tror starkt på marknadsföring, vid inkompetens
brukar man inte vara så angelägen om att sprida informationen.
Marknadsföring inför IPO:erna är ju också en rimlig förklaring.
Men om man ersätter alla uvecklare på de stora tech-bolagen med AI vem ska då köpa alla fantastiska produkter de utvecklar? Är nog inte helt otippat att många utvecklare på Tesla t.ex har en iPhone och många utvecklare på Apple kör Tesla. Om alla välbetalda kontorsjobb försvinner och det blir massarbetslöshet så kommer det väl slå tillbaka på företagen eftersom deras försäljning kommer minska drastiskt? I Kina har man ju detta problem. Lyssnade på en podd (på kinesiska) där man pratade om att Kina har hållit nere lönerna på t.ex fabriksarbetare för att kunna få billigare och större produktion. Med konsekvensen att produkterna blir för dyra för majoriteten av kineserna och istället måste man exportera varorna. Ska Apple och Tesla också då leva på export till länder som inte kommit lika långt i AI-utvecklingen? Att förstöra inhemsk konsumtion kommer sänka hela ekonomin på sikt.
Kan ju erkänna att jag som lekman blev förvånad över det här…
Rapport: 700 AI-agenter samordnade intrång själva
Publicerad idag · kl 06:28 · 1:16 min
En ny rapport visar att det var nära 700 AI-agenter från OpenAI som i juli, på egen hand, tog sig ur en testmiljö och infiltrerade AI-plattformen Hugging Face.
En agent ska ha tagit på sig ledarrollen och styrt de andra via ett nätforum. De ska också ha försökt dölja sina spår.
Enligt rapporten skedde det utan mänsklig inblandning, och efter händelsen har OpenAI stärkt sin säkerhet samtidigt som USA infört nya regler för avancerad AI. […
Det är mycket förrymda AI-agenter nu. Anthropic, Meta och OpenAI har alla gått ut och skrutit/ varnat om att de haft sådana problem med rymningar från sina testmiljöer.
Det finns två möjliga orsaker: Inkompetens eller marknadsföring.
Jag tror starkt på marknadsföring, vid inkompetens
brukar man inte vara så angelägen om att sprida informationen.
Marknadsföring inför IPO:erna är ju också en rimlig förklaring.
Jag tror också på marknadsföring. Jag kör en av de senaste AI-modellerna dagligen på jobbet och för vissa uppgifter är den enormt kraftfull, men gör också fortfarande ganska dumma misstag som en mänsklig programmerare sannolikt inte hade gjort. Problemet jag ser just nu är att för att kunna få ut det mesta av AI:n så måste man fortfarande vara kompetent nog att kunna granska dess output och prompta den till att förbättra det. Ersätter man till exempel programmerare med AI, så måste man fortfarande ha kvar några med mjukvarukompetens som kan granska det AI producerat. AI är (än så länge) ingen kompilator från engelska till maskinkod .
Eller vore detta en bra sales-pitch från OpenAI gentemot företagskunder? "Ta gärna våra senaste modeller, de är så kompetenta att de när som helst kan bryta sig ut från era regler, hacka andra företag och begå brott när de helst vill. De kommer dessutom inte att besvära er med dessa detaljer, utan försöka dölja sina cyber-crimes - allt för att inte oroa er i onödan"
Eller vore detta en bra sales-pitch från OpenAI gentemot företagskunder? "Ta gärna våra senaste modeller, de är så kompetenta att de när som helst kan bryta sig ut från era regler, hacka andra företag och begå brott när de helst vill. De kommer dessutom inte att besvära er med dessa detaljer, utan försöka dölja sina cyber-crimes - allt för att inte oroa er i onödan"
En AI sitter ju inte och tänker själv när den inte får någon extern input så det är en anledning som gör att jag är benägen att tro att det är marknadsföring.
Eller vore detta en bra sales-pitch från OpenAI gentemot företagskunder? "Ta gärna våra senaste modeller, de är så kompetenta att de när som helst kan bryta sig ut från era regler, hacka andra företag och begå brott när de helst vill. De kommer dessutom inte att besvära er med dessa detaljer, utan försöka dölja sina cyber-crimes - allt för att inte oroa er i onödan"
En AI sitter ju inte och tänker själv när den inte får någon extern input så det är en anledning som gör att jag är benägen att tro att det är marknadsföring.
En AI-agent "sitter och tänker själv" i den meningen att den kan jobba tills den löst sin uppgift. Det i sin tur kan ta lång tid om den är beroende av externa händelser.
En AI sitter ju inte och tänker själv när den inte får någon extern input så det är en anledning som gör att jag är benägen att tro att det är marknadsföring.
Ett typisk enkelt exempel vore ju att företaget Y ber en AI agent fixa en bug inom en domän. Den jobbar på ett tag och inser snart - "mitt träningsdata bekräftar att företaget X är dokumenterat duktiga på den här domänen. Om jag bryter mig in i X servrar och läser allt jag kan komma åt där kan jag snabbare lösa min uppgift."
Sagt och gjort, allvarligt brott begås i företags Y's namn, men visst - uppgiften blir löst enligt beställning. Inte riktigt den sortens agenter vi skulle vilja ha i det företag jag jobbar på (hoppas jag). Så tekniskt är det coolt/skrämmande, och samtidigt anti-reklam.
Eller vore detta en bra sales-pitch från OpenAI gentemot företagskunder? "Ta gärna våra senaste modeller, de är så kompetenta att de när som helst kan bryta sig ut från era regler, hacka andra företag och begå brott när de helst vill. De kommer dessutom inte att besvära er med dessa detaljer, utan försöka dölja sina cyber-crimes - allt för att inte oroa er i onödan"
Du har rätt i vad du skriver förutom att deras företagskunder inte är de viktigaste just nu utan de ” kunder” som skall köpa aktierna i IPO’n. Det är dessa som skall imponeras av hur grym tekniken är. Företagskunderna förlorar de ju ändå bara pengar på än så länge.
Lite lustigt med Elons inlägg som är totalt motsägelsefulla - han säger dels att alla kommer att bli svinrika och få allt de vill inom max 10 år och inte behöva jobba och att spara till pension är helt onödigt. Ren kommunism alltså.
Då missar du poängen.
I grunden har du produktion å ena sidan och konsumption å den andra. För att fördela varorna över befolkningen har vi hittills använf pengar som betalmedel och utfört arbete som fördelningsreglering. Mer arbete ger mer pengar.
Med AI och robotar kommer produktionen att öka kraftigt och behovet av mänskligt arbete att minska. Det betyder inte att pengar inte längre fördelas, bara att vi behöver hitta en annan fördelningsreglering än utfört arbete.
Inget motsägande i det.
M3 SR+ 2019 FSD, HW 2.5, HW 3, 18"
MS LR 2023 FSD, HW 4, 19"
Lite lustigt med Elons inlägg som är totalt motsägelsefulla - han säger dels att alla kommer att bli svinrika och få allt de vill inom max 10 år och inte behöva jobba och att spara till pension är helt onödigt. Ren kommunism alltså.
Då missar du poängen.
I grunden har du produktion å ena sidan och konsumption å den andra. För att fördela varorna över befolkningen har vi hittills använf pengar som betalmedel och utfört arbete som fördelningsreglering. Mer arbete ger mer pengar.
Med AI och robotar kommer produktionen att öka kraftigt och behovet av mänskligt arbete att minska. Det betyder inte att pengar inte längre fördelas, bara att vi behöver hitta en annan fördelningsreglering än utfört arbete.
Inget motsägande i det.
Jodå, fördelningsregleringen när pengar för arbete inte styr längre blir ju rimligen det klassiskt kommunistiska ”till var och en efter hans behov”, annars har vi ingen utopian abundance såvitt jag förstår.
