‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza
www.972mag.com
The Israeli army has marked tens of thousands of Gazans as suspects for assassination, using an AI targeting system with little human oversight and a permissive policy for casualties, +972 and Local Call reveal.

Det finns mycket att säga om det vidriga som händer nu när Israel bombar Gaza urskillningslöst. Men en sak som jag fastnat för är teknikanvändningen och då speciellt AI och ansiktsigenkänning.

Den israeliska tidningen 972 magazine har gjort ett väldigt bra reportage om Israels användning av AI-verktyget Lavender

The Israeli army has marked tens of thousands of Gazans as suspects for assassination, using an AI targeting system with little human oversight and a permissive policy for casualties

Artikeln är lång och värd en läsning. Men det jag vill föra vidare här är att exakt samma sak tror jag kommer hända med i princip all AI-användning som ger rekommendationer i verksamheter som har pressad personal. Tänk er en överarbetad socialarbetare i en kommun som ska handlägga bistånd. Hur ofta kommer hen att gå igenom och granska underlaget till det föreslagna avslagsbesluter som AI-verktyget gör när hen använt verktyget i mern ett år?

Jag tror att digitalisering och automatisering är väldigt bra för att förenkla för arbetare. Och det är stor skillnad på ett automatiskt system som visar “personen har ännu inte fyllt i blankett X eller lämnat in intyg Y” utan att hitta på grejer. Med AI så ökar riskerna enormt.

Vad tror ni om AI? När och hur kan man använda AI så att arbetarnas arbete förenklas utan att försämra kvaliteten?

  • laxsillASvenska
    4·
    9 months ago

    Jag tänker ofta på Israel som en försmak av vad som kommer hända i världen i övrigt. Landet tillåts bete sig som ett undantag, praktikerna bygger upp tolerans, och sedan flyttar taktikerna “hem”. På liknande sätt som kolonierna användes och används än idag. Sven Lindqvists skriver rätt mycket om det senare i sin bok om bombningens historia, “Nu dog du”. Alltså hur man först flygbombade i kolonierna och ingen kunde tänka sig att sådana grymheter skulle kunna användas “hemma i Europa”. Sedan kom världskrigen. Nu tar vi bomberna för givet i krigföringen. Ge det några år så kommer polisen här börja använda det. Först Israel, sedan USA, sedan Europa.

    • samuelOPMSvenska
      4·
      9 months ago

      Ja, det ligger mycket i det. Det finns många startups i Israel också som kan testa sin teknik på palestinier och säga att den är “testad i fält”. Mycket av övervakningen är så.

      Det är bra att kolla utvecklingen i Israel och USA för som du säger, sen kommer sakernan hit om vi inte bjuder motstånd.

      Tamsons (M) sjuka förslag om ansiktsigenkänning i tunnelbanan är ju ett färskt exempel. Inte heller svårt att se att han skulle vilja använda även mot plankare på samma sätt som “jay walkers” upptäcks automatiskt i Kina eller kvinnor utan hijab upptäcks i Iran.