Jag har börjat använda betalversionen av Anthropics Claude rätt frekvent i mitt arbete. När jag är klar med en YH-ansökan så tänker jag gå över till att testa Mistrals LeChat för att slippa betala för en US of A - tjänst.
Jag har användning för AI-verktygen. Det jag använder dem till är:
- Att korrläsa text
- Att omformulera text till social media inlägg
- Research
- Att generera ansökningstexter
Det finns flera risker med att förlita sig till och använda LLMer. Några konkreta risker jag ser är:
- Anthropic och ChatGPT kan mycket väl gå omkull vilken minut som helst. Verksamhet som förlitar sig på dessa får i så fall stora problem.
- Förskitligande av botarna. Botarna är inte finansiellt gångbara, för att få kalkylen att gå ihop så är det knappast osannolikt att de snart börjar serva oss med reklam.
- Hallucinationer och fake news är fortsatt ett problem som kräver ständig vaksamhet.
- Att förlita oss på AI riskerar nog att accellerera trender mot allmän fördumning av mänskligheten.
- Tillgång till de bästa verktygen riskerar att bli riktigt dyrt och är kanske redan idag en klassfråga.
En potentiell lösning som löser en del av problemen är kanske att hosta egna botar. Det finns en del lovande initiativ där öppna modeller släppts. https://www.ai.se/ En del av dessa har kanske tillräcklig kvalitet för att kunna vara ett gångbart alternativ till kommersiella aktörer men det verkar kräva riktigt dyr hårdvara.
Det finns etiska dilemman kring plagiat m.m. men då jag har användning för LLM har jag svårt att vifta bort frågan. Jag tror det behövs ingående strukturell analys om hur LLM:er påverkar maktförhållanden på arbetsmarknaden och i samhället samt hur den tekniska utvecklingen kan bidra till frihet, fred och allmänn välfärd.
Språkbanken håller på med något sånt, kanske värt att kolla på: https://www.sprakbanken.se/aktuellt/nyheter/2021-06-23-superlim-ska-forbattra-svenska-sprakmodeller
Annars är en rätt stor invändning jag har mot alltihopa att maskiner som genererar text riskerar att leda till att väldigt mycket mer text skapas, så att man inte mäktar med att läsa allt, så att man måste ha maskiner för att försöka processa all text som skickas till en, så att vi får maskiner som skickar en massa text till andra maskiner fram och tillbaka. Jag skulle önska mig motsatsen, att mindre mängd text och istället högre kvalitet och mer fokus på det som faktiskt spelar roll.
Jag tänker att det finns större etiska dilemman än plagiat. Några andra konkreta problem:
- Hela miljögrejen: det är extremt energikrävande att både samla in data för, träna, och köra modellerna
- Datainsamlingen: en mängd open source-projekt har gått ut och sagt att en klar majoritet av trafiken till deras sidor utgörs av bottar som samlar in data till de här modellerna. Bottarna respekterar inte robots.txt, och identifierar sig inte som bottar. Det här innebär stora kostnader för alla som driver en egen hemsida, inte minst för open source-projekt. Det här är potentiellt slutet för det öppna internet.
Jag tänker också att fördumningen du nämner behöver beskrivas ytterligare. Det handlar inte bara om att studenter inte lär sig saker, eller om att folks kritiska tänkande urholkas, det handlar också om att vi urvattnar våra källor till information i precis alla led, och överväldigar de system som finns för att sålla fram trovärdig information. Forskarvärlden har under lång tid kämpat mot ett hav av undermålig forskning, och nu är det plötsligt i princip gratis att producera skräpartiklar. Flera open source-projekt har stängt ner sina bug bounty-program eller har behövt börja sålla hårdare när folk försöker bidra kod pga stora mängder spam genererat av LLMer.
Något kan vara användbart för enskilda men ha såpass negativa effekter på samhället att det ändå inte är något vi borde ägna oss åt. Min känsla inför LLMer att de är ett sådant fenomen.
