- 14 Posts
- 20 Comments
3·7 months agoBra video för att introducera mutlimodala modeller! Men även ett kul papper/resultat. Man kan särskilt fokusera på “related work” delen i pappret för att snabbt förstå att forskningssamfundet inom AI i stort, iaf. lever jag i den föreställningen, har lämnat tanken om välpresterande stora nollförsöks fundamentalmodeller. Ett annat sätt att uttrycka det är att man redan insett att framtiden inte ligger i att bara skala upp allt (dataset/parametermängd/beräkningskraft). Dessa saker är ju viktiga om man skall finjustera modeller gentemot någon specifik uppgift eller domän men att satsa på att skapa “ett AI” som i “en modell” för att klara allt är det nog svårt att hitta någon som eftersträvar (utanför OpenAI). Det finns även flertalet “AI ofullständighetsbevis” som detta papper sällar sig till, det skall bli kul att se detta papper efter att det blivit accepterat någonstans och fått sin tillbörliga “peer review”.
Denna typ av tankar brukar dyka upp när forskare diskuterar mutlimodala modeller som nyckeln till att skapa “allmänna världsmodeller” som en väg til AGI (vad man nu tänker att just AGI skall vara)… Personligen är jag övertygad om att det är i motsatta ansatser framtiden ligger, tänk på att hjärnan populärt bara kräver 20W för allt fantastiskt den är kapabel till. Andra detaljer som ofta ignoreras är att hjärnan inte lär sig genom bakpropagering samt att den är uppdelad i flertalet dedikerade domänkomponenter, alltså inte bara en stor parametermodell.
Lite upprepande emellanåt, ibland får den referenshallisar (rökri och rysk twittervalpåverkan), så man får nog dubbelkolla alla påståenden. Inget som den breda vänstern inte redan känner till eller kanske förstår rent intuitivt kring källkritik eller nazismen men endå enligt mig kul nog att nämna här. Jag glömde referenslistan:
@article{10.1093/qje/qjv030, author = "Adena, Maja and Ениколопов, Рубен and Petrova, Maria and Santarosa, Veronica and Zhuravskaya, Ekaterina", doi = "10.1093/qje/qjv030", title = "Radio and the Rise of the Nazis in Prewar Germany *", journal = "The Quarterly Journal of Economics", year = "2015" } @article{10.2139/ssrn.2603589, author = "Adena, Maja and Enikolopov, Ruben and Petrova, Maria and Santarosa, Veronica and Zhuravskaya, Ekaterina", doi = "10.2139/ssrn.2603589", title = "Radio and the Rise of the Nazis in Prewar Germany", journal = "SSRN Electronic Journal", year = "2015" } @article{10.2139/ssrn.2242446, author = "Adena, Maja and Ениколопов, Рубен and Petrova, Maria and Santarosa, Veronica and Zhuravskaya, Ekaterina", doi = "10.2139/ssrn.2242446", title = "Radio and the Rise of Nazis in Pre-War Germany", journal = "SSRN Electronic Journal", year = "2013" } @article{10.4236/ahs.2018.71001, author = "Nicolaides, Angelo", doi = "10.4236/ahs.2018.71001", title = "Anti-Semitic Propaganda and the Christian Church in Hitler’s Germany: A Case of Schr\&\#246;dinger’s Cat", journal = "Advances in Historical Studies", year = "2018" } @article{10.18196/jiwp.v6i2.16115, author = "Aminulloh, Akhirul and Qorib, Fathul and Fianto, Latif and Setiamandani, Emei Dwinanarhati", doi = "10.18196/jiwp.v6i2.16115", title = "Propaganda and Political Memes on Social Media in the 2019 Indonesian Presidential Election", journal = "Journal of Islamic World and Politics", year = "2022" } @article{10.1177/1750481307088480, author = "Barbe, Katharina", doi = "10.1177/1750481307088480", title = "Propaganda in the Trivial: Puzzles in the Women's Section of the Völkischer Beobachter", journal = "Discourse \& Communication", year = "2008" } @article{10.18860/lilics.v2i1.2856, author = "Salsabila, Arih", doi = "10.18860/lilics.v2i1.2856", title = "The Historical Criticism in the Women in the Castle by Jessica Shattuck", journal = "Journal of Literature Linguistics \& Cultural Studies", year = "2023" } @article{10.1017/s0008938911000392, author = "Guse, John C.", doi = "10.1017/s0008938911000392", title = "<i>Volksgemeinschaft</I>Engineers: The Nazi “Voyages of Technology”", journal = "Central European History", year = "2011" } @article{10.14569/ijacsa.2019.0101132, author = "Ahmad, Siti Rohaidah and Zakwan, Muhammad and Syafira, Nurlaila and Moziyana, Nurhafizah and Ismail, Suhaila", doi = "10.14569/ijacsa.2019.0101132", title = "A Review of Feature Selection and Sentiment Analysis Technique in Issues of Propaganda", journal = "International Journal of Advanced Computer Science and Applications", year = "2019" } @article{10.1109/asonam.2018.8508646, author = "Badawy, Adam and Ferrara, Emilio and Lerman, Kristina", doi = "10.1109/asonam.2018.8508646", title = "Analyzing the Digital Traces of Political Manipulation: The 2016 Russian Interference Twitter Campaign", year = "2018" } @article{10.1177/1750635215618619, author = "Buscemi, Francesco", doi = "10.1177/1750635215618619", title = "Edible Lies: How Nazi Propaganda Represented Meat to Demonise the Jews", journal = "Media War \& Conflict", year = "2016" } @article{10.1007/s10552-012-9914-0, author = "Lee, Sungkyu and Ling, Pamela M. and Glantz, Stanton A.", doi = "10.1007/s10552-012-9914-0", title = "The Vector of the Tobacco Epidemic: Tobacco Industry Practices in Low and Middle-Income Countries", journal = "Cancer Causes \& Control", year = "2012" } @article{10.1257/pol.20130223, author = "Akbulut-Yuksel, Mevlude and Yuksel, Mutlu", doi = "10.1257/pol.20130223", title = "The Long-Term Direct and External Effects of Jewish Expulsions in Nazi Germany", journal = "American Economic Journal Economic Policy", year = "2015" } @article{10.1177/1354068813511381, author = "Dinas, Elias and Georgiadou, Vassiliki and Konstantinidis, Iannis and Rori, Lamprini", doi = "10.1177/1354068813511381", title = "From Dusk to Dawn", journal = "Party Politics", year = "2013" } @article{10.1177/0261927x19868494, author = "Baele, Stéphane", doi = "10.1177/0261927x19868494", title = "Conspiratorial Narratives in Violent Political Actors’ Language", journal = "Journal of Language and Social Psychology", year = "2019" } @article{10.1177/0160597614537797, author = "Halebsky, Stephen", doi = "10.1177/0160597614537797", title = "Corporate Practices and Harmful Consequences", journal = "Humanity \& Society", year = "2014" } @article{10.3167/9781782386544, author = "Usbeck, Frank", doi = "10.3167/9781782386544", title = "Fellow Tribesmen", year = "2015" } @article{10.21847/1728-9343.2020.2(166).201722, author = "Салата, Оксана Олексіївна", doi = "10.21847/1728-9343.2020.2(166).201722", title = "The Radio Propaganda as an Innovative Element of the Military Tactics and Strategies of the Nazi Germany 1933-1941", journal = "Skhid", year = "2020" } @article{10.1177/01461672012711010, author = "Rucker, Derek D. and Pratkanis, Anthony R.", doi = "10.1177/01461672012711010", title = "Projection as an Interpersonal Influence Tactic: The Effects of the Pot Calling the Kettle Black", journal = "Personality and Social Psychology Bulletin", year = "2001" } @article{10.32782/2305-9389/2020.21.19, author = "Lenartovych, Oleg", doi = "10.32782/2305-9389/2020.21.19", title = "The Theory and Practice of Nationalist Propaganda During the Second World War", journal = "Litopys Volyni", year = "2019" } @article{10.53469/jsshl.2023.06(05).31, author = "Zhao, Haoxiang", doi = "10.53469/jsshl.2023.06(05).31", title = "Propaganda Content and Strategies of Nazi Germany From the Perspective of Emotional Communication", journal = "JSSHL", year = "2023" }
Framtiden är demokratiserad AI, mindre modeller, effektivare signalarkitekturer, nya inlärningsalgoritmer och gemensamma prestandariktvärden. Det skall bli skönt när denna hajpomgång dör av, precis som hajper alltid gör.
Samma här, men sen kom jag på att SDs trollfabrik troligtvis saknar djupare teknisk kompetens.
Jag tycker denna är tveksam till lärande maskiner. Posten handlar om ett politiskt förslag som egentligen inte har med AI att göra, produktivitetsökningar har alltid skett, men även “handouts” eller allmosor från rika. Därtill är UBI inte en socialistisk reform utan en liberal sådan. Detta eftersom UBI varken tar hänsyn till skillnader i levnadsstandard eller inflationsuppräkning. Varför liberalt? Jo för att UBI leder till att underminera de andra bidragssystemen. Motiveringen blir att de redan har UBI så vi kan avskaffa barnbidraget, bostadsbidraget, osv… Själv tror jag att den reformen även driver inflation, både på tillgångs- och utbudssidan men jag är inte ekonom. Så rätt kass, oavsett politisk grundsyn, om man ignorerar torpederande av bidragssystemen. GBI är mer i linje med de vanliga bidragssystem eftersom det är behovsprövat, men det är inget som herr Altman verkar beakta. I min mening kan man alltså oavsett enkelt förstå att UBI-pengen blir mindre och mindre köpkraftig ju längre tiden går samt att övriga bidrag får stryka på foten.
Den socialistiska agendan borde istället vara: (i) Sänk kraven för att kvala in till bidragssystemen så att fler av “nedre delen av inkomstdistributionen” blir täckta, eftersom rikedom koncentreras uppåt. (ii) Expandera finansieringen av välfärdssystemen på bekostnad av de i övre decilen av inkomstdistributionen. (iii) Fortsätta minska arbetstiden. (iv) Avskaffa intellektuellt ägande, (v) Avskaffa äganderätten.
Både hobby, jobb och mitt forskningsämne är inom domänen :)
Jo det finns mem jag tänker att det lite vad /c/larandemaskiner har för mål att utforska och kanske inte passar bara i ett inlägg. Angående energianvändningen finns det alternativa sätt att bygga hårdvaran på för att göra djupinlärning mer energisnål och lik hur våra egna hjärnor opererar.
På något fundamentalt plan vet vi vad som händer, djupinlärning är bara en jäkla massa gånger som kedjeregeln skall appliceras. Det vi däremot har dålig koll på är när man oförutsett kickar igång en svag gradient genom modellen, vilket leder till hallisar eller att modellen sticker iväg på en tangent. Något annat som vi har bättre koll på men som är svårt att åtgärda är när man tränar på förutfattade meningar; Typ, denna modell klassar alla bilder på mörka killar i orten till att vara yrkeskriminella eftersom dataunderlaget snedvrider dit på grund av socioekonomiska faktorer. I vilket fall finns det andra metoder som SHAP och LIME, så ur något fundamentalt förklarbarhetsperspektiv har det funnits CIU liknande metoder rätt så länge och är egentligen inget som CIU kan lägga beslag på.
Jag tänker att en wiki borde vara federativ som standard. Även om Wikipedia ses som auktoritativ för ett flertalet ämnen är det fortfarande så att det är få redigerare som har mycket makt. Detta leder till en snedvridning i hur saker beskrivs och detta borde rimligtvis gälla för flertalet, om inte alla, wikis (men även såklar encyklopedier). Jag tänker att det vore bättre om man e.x. kunde se alla sidor om “Stalin” eller “Holodomor” aggregerat “sida-vid-sida” från olika instanser.
Jag har dock själv inte testat ibis så jag kan egentligen inte uttala mig om huruvida detta faktiskt fungerar bra, Stalinexemplet är bra eftersom den sidan både omdirigeras på någon instans och heter olika för olika språk. För att inte tala om eventuella problem med spam, eller att det kanske är naivt att tro att olika instanser med vitt skilda åsikter om något kontroversiellt inte kommer defederera.
X-Wiki
Intressant, jag kände faktiskt inte till X-Wiki. Däremot verkar den inte stödja ActivityPub? Faktum är att den inte verkar vara federerad alls.
Länk till pappret som beskriver metoden doi:10.1007/978-3-030-97546-3_10 (även på RG)
Det gör den inte :) Och det är ett rätt vidlyftigt löfte med “automatiskt”… Men man skall varken överskatta eller underskatta dessas förmågor, det är fortfarande bara utkast som måste granskas av en kompetent utvecklare om de skall driftsättas eller inkorporeras i en fri kodbas. Man kan tänka sig att i ena änden av spektrat har vi en perfekt modell som är välvillig, den kommer alltid stärka din kodbas från säkerhetsproblem, i andra ändan har vi en subversiv modell som alltid genererar kod med dolda säkerhetsproblem. Eftersom vi inte vet var vi befinner oss på detta spektra måste vi alltid granska inskickningarna till kodbasen och återgå till ett tidigare stadie av denna om vi hittar knasigheter.
AI generellt handlar ju om att automatisera tråkiga eller uppenbara processer (enligt mig) vilket friger oss tid till att verkligen fokusera på det med substans till skillnad från det utan, eller det som “bara är produktion”. Du kan tänka dig en motsättning mellan det produktiva och det kreativa som motpoler (inte helt naturligt för många) men som ett exempel tar det inte någon kreativ förmåga att producera 1 A4 papper, vi kan den processen och den är i stort automatiserad. Det handlar om ägandefrågor i relation till produktionskrafterna (som vanligt). Det är dock så att samma sak händer med “konst”, konsten är både produktiv och kreativ i samma mening som med A4 pappret. I ena änden är det kreativa och meningen med konsten, i andra änden är det produktiva valet av motiv, färger, former, osv.
Alltså “konsten” är inte alltid “konst” varken med eller utan AI. Konstens verkliga kreativa delar skiftas och snävar in i en betydligt mindre del av “konstprocessen” som i sig skiftas till en mer produktionsliknande, men detta är inget fel i sig, det är bara vanlig utveckling och det blir en fråga om hur du använder de nya produktiva verktygen för att realisera verklig kreativ konst, här är ett bra exempel på vad jag anser är en korrekt anpassning till de nya verktygen: https://www.svt.se/kultur/recension-arvida-bystrom-blandar-ai-sex-och-sota-djur
Att demokratisera produktionsmedlen (AI modeller och hårdvara) för konstnärer att kunna hänga med i utvecklingen blir allt viktigare, men vi är “vänster” så detta anser vi redan (och accepterar som självklarhet) om alla produktionsmedel. Men det finns “AI-sekundäreffekter” som dessa system och modeller måste skyddas från. Kort så måste de skyddas från sig själva (så att de inte tränas på sina egna utkast) annars kommer de “degenerera” i en spiral där de allt mer tränar och förstärker på en felaktig norm. Detta kallas för “överträning” inom maskininlärning och går inte att komma runt. Ett annat problem som kanske är mer intressant är huruvida vi skall tillåta fri användning av dessa system med tanke på hur mycket energi och i slutändan koldioxid de kräver för att kunna producera sina alster.
tl;dr AI verktygen skiftar det som tidigare ansågs vara kreativt till det som kan anses vara produktion, det är inte fel eller problematiskt, det har skett genom hela vår utveckling, den verkligt kreativa delen av processen finns kvar eftersom AI är inkapabel till att vara kreativ.
2·9 months agoJapp, frige Ola! Men kom ihåg att han inte kunnat lämna landet på 5 år, han häktades redan 2019 med Assange. På sätt och vis hade jag varit lättad med “bara” ett år i fängelse som påföljd för min påhittade association med Assange (som i sig såklart inte är ett brott men är ju vad detta e.g. handlar om). Man skall även komma ihåg att Lenin Moreno, avgick 2021 och är en amerikansk nickedocka, var den som såg till att Ola häktades. Bra att han fortsätter överklaga denna cirkus.
Du måste bara logga in med google eller github på den officiella instansen för att skapa val. När man laddar upp listan med väljare i valet kan man specificera att de skall ha epost/lösenord login för att avlägga röster. Det går med rätt enkla medel att sätta upp en egen instans som kan OAutha mot annat.
Föredrar att vara anonym men är socialist, vilket betyder att makt skall utgå från folket, kapitalkoncentrationen är roten till allt som är dåligt, osv. Datafreak av rang och har flera decenniers professionell erfarenhet av teknikutveckling. Väntar förgäves varje månad på mina Xislantar (för trogen tjänstgöring i skitpostarkrigen online).
/c/lärande-maskiner tänker både mjukvaruprojekt, öppna/fria modeller, och tips om intressanta papper
Ja flåt! Jag kanske borde skrivit lite mer om själva dokumentet men blev så tagen av hur käckig den automatiska översättningen av htmlsidan var :)