Johan Jenny Ehrenberg skriver en text om AI, att det är en teknik som kan användas på bra sätt (modellering inom medicin) eller dåligt sätt (desinformation).
Många bra poänger.
I nuläget presenteras nästan all AI som något gratis. Det är riskkapitalet som matar in miljarder dollar, men inte för att det är kul att mänskligheten får ny kunskap, utan för att få monopol över de tjänster som ges till företag och individer.
Precis som Spotify söker dominans för att ge miljarder till ägarna, inte till musikerna, kommer Open AI, företaget bakom Chat GPT, kräva betalning – i alla dess former – från medier och enskilda användare.
När tekniken väl förändrat hur vi söker information, ny kunskap och kommunicerar problem så kommer räkningen dimpa ner i varje användares konto.
Ett system av monopoliserande megaföretag med övervakning av varje individ är nu fullt möjlig, men den fascistiska drömmen kan motas genom att AI används till motsatsen.
Precis som AI kan göra massarbetslöshet till ett vapen för ägare kan den tidsbesparing tekniken innebär användas som ett medel för fyratimmarsdag åt alla. Det är ett vägval. Makten över tekniken avgör allt. Men att inget göra leder till samma vanliga underläge för de som inte äger
Vad tänker ni?
Jag har inte Etc och kan inte läsa hela artikeln, men baserat på det du skrivit låter det som att hen (hittar inget föredraget pronomen när jag googlar, men baserat på det jag läser online låter hen som en rimlig gissning, om någon vet så rätta gärna!) missar de tekniska problemen med LLMer och köper för mycket av säljtugget.
Generativ AI (d.v.s. bildgenerering och LLMer) är samhällsfarliga ur några hänseenden. Citaten ovan fokuserar på monopoltendenserna, och de ett problem men inte de jag ser som de största problemen. Det riktigt stora problemet som jag ser det är att det inte är skillnad på AI för desinformation eller för “information” eftersom systemet genererar sannolik output utan hänsyn till något annat. Som jag ser det genererar den bara desinformation (eller snarare bullshit, se podcasten Better Offline om det), men i vissa fall råkar den av slump/sannolikhetsskäl vara sann.
Det generativ AI – både för bilder och för text – optimerar är just att se övertygande ut. Det gör att det skalar förskräckligt illa eftersom systemet inte har en riktning det kan gå i för att bli bättre på något. Det finns inget i AI att förbättra, annat än att hälla in mer data i matrismaskinen eller accelerera inferensen. Det är där problemen med monopol, insamling av stora datamängder, utnyttjande av små independentkonstnärer osv kommer in.
Det jag ser som samhällsfarligt med generativ AI är dels hypen, som jag tror är farlig i sig för att den kostar energi och resurser som leder in i en teknisk återvändsgränd med väldigt begränsade tillämpningar, dels att den är så lovande för att tillverka informationssopor att förgifta webben med. Inte så mycket desinformation som massor av kopior med lågkvalitativt innehåll, spam, med mera. Jag ser redan nu hur kollegor börjar rikta om sin forskning mot saker som låter AI för att kunna få forskningsmedel, och det är ju idiotiskt.
Hypen kan också användas som murbräcka mot vissa yrken (callcenterarbetare, supportpersonal, osv) och leda till mycket sämre kundservice mer eller mindre överallt, inklusive för viktiga samhällsfunktioner där klåfingriga politiker fått veta att vi kan “lösa det billigare med AI”. Den värsta formen av det vore förstås om den sortens åtgärder nästlade sig hela vägen in i Försäkringskassan Powered By AI osv (jag började skriva en dystopisk novell om det här som jag aldrig orkade klart med). Förmodligen kommer det aldrig att bli så illa att en AI ofiltrerat fattar beslut, men jag är nästan övertygad om att AI redan används för att sammanfatta material, formulera brev, med mera och att det redan nu påverkar beslut. Hotet är nog inte så mycket “massarbetslöshet” som “nu kan du ju jobba 20 gånger snabbare när du är Powered By AI”.
Sant, det är mycket säljtugg kring generativ AI.
Håller helt med om din kritik. Det som hen tar upp som exempel på AI som hjälper till är inom medicin
Medicin är också det exempel som kommer upp allt oftare som många verkar tycka att AI hjälper med. Och då är det ju vanlig maskininlärning om jag fattat det rätt och rätt långt från generativ AI som ChatGPT.
Själv ser jag stora risker med AI som bara dka användas som underlag (för t.ex. beslut i Försäkringskassan eller ekonomiskt bistånd), men att överarbetade handläggare kommer använda det som facit istället pga tidsbrist.
Så jag slits mellan att jag ogillar skräpet från AI i form av alla exempel du ger men också att jag är orolig för att om tekniken kommer dominera (kanske med mindre kasshet och i andrasammanhang), så vill jag inte den ska kontrolleras av några enstaka storföretag.
Det stora problemet med att diskutera ”AI” är väl vad man menar med begreppet. Jag tycker inte att man får räkna in maskininlärning eller all statistisk analys som ”AI”. Det förvånar mig inte ett ögonblick att typ statistisk analys eller t.o.m. deep learning för bildanalys skulle kunna användas inom medicin, men det är ju också ett område som specifikt inte har alla de andra problemen, förutom att möjligen behöva ganska mycket datakraft. Men för medicinska tillämpningar använder vi ju redan allt möjligt dyrt, typ radioaktiv strålning osv.
Monopol och centralisering finns ju redan där och måste redan lösas med typ förstatligande och/eller upphävande av patent, men det blir knappast värre av lite datta.
Jepp, det är en fråga om vad man menar.
Om man bara menar varianter av ChatGPT, ja, då ser jag mycket färre fördelar med “AI”. Finns dock vissa bra grejer men som alltid kräver mänsklig koll. Att t.ex. använda GPT för att ställa frågor som man manuellt enkelt kan kontrollera. Jag vet dock inte vilken fördel det skulle ge kontra en klassisk sökmotor.