- cross-posted to:
- world@lemmy.world
- world@lemmy.world
- cross-posted to:
- world@lemmy.world
- world@lemmy.world
Det finns mycket att säga om det vidriga som händer nu när Israel bombar Gaza urskillningslöst. Men en sak som jag fastnat för är teknikanvändningen och då speciellt AI och ansiktsigenkänning.
Den israeliska tidningen 972 magazine har gjort ett väldigt bra reportage om Israels användning av AI-verktyget Lavender
The Israeli army has marked tens of thousands of Gazans as suspects for assassination, using an AI targeting system with little human oversight and a permissive policy for casualties
Artikeln är lång och värd en läsning. Men det jag vill föra vidare här är att exakt samma sak tror jag kommer hända med i princip all AI-användning som ger rekommendationer i verksamheter som har pressad personal. Tänk er en överarbetad socialarbetare i en kommun som ska handlägga bistånd. Hur ofta kommer hen att gå igenom och granska underlaget till det föreslagna avslagsbesluter som AI-verktyget gör när hen använt verktyget i mern ett år?
Jag tror att digitalisering och automatisering är väldigt bra för att förenkla för arbetare. Och det är stor skillnad på ett automatiskt system som visar “personen har ännu inte fyllt i blankett X eller lämnat in intyg Y” utan att hitta på grejer. Med AI så ökar riskerna enormt.
Vad tror ni om AI? När och hur kan man använda AI så att arbetarnas arbete förenklas utan att försämra kvaliteten?
När spamfilter först kom var jag ganska noga med att ändå nån gång i månaden ögna igenom spamkorgen för att se om roboten hade filtrerat bort nåt viktigt av misstag. Men med tiden föll det bort. Och det har ibland lett till totala katastrofer. Ändå är det inte speciellt ofta jag kollar där och när jag gör det så är det med grep.
Vi har en trasig ekonomi, ekonomi i ordets vidare betydelse (“hushållslära”). Kompromisser och genvägar som egentligen inte funkar så bra.
If X is less than the cost of a recall, then we don’t recall. Everywhere I go, there’s the burned-up wadded-up shell of a car waiting for me. I know where all the skeletons are.
Ser fram emot att se fler personer börja anamma en mer medveten och kritisk inställning till teknik och till emergenta konsekvenser av samhällets processer. 👍🏻
Mycket bra exempel med spamkorgen!