AI i en verden med falske nyheter: venn eller fiende?

Sist oppdatert den December 23, 2020

Falske nyheter er ikke noe nytt. Falske nyheter har eksistert like lenge som mediene. Forskjellen er at de i dag kan spres i et enormt omfang på internett ved hjelp av kunstig intelligens. Spørsmålet er om løsninger med maskinlæring og kunstig intelligens kan brukes for å stanse spredningen av falske nyheter?

«Autisme skyldes vaksiner. Jorda er flat. 5G-nettverket er en trussel mot samfunnet.» Selv om konspirasjonsteoriene har florert en stund og ikke ser ut til å forsvinne med det første, har vi aldri tidligere opplevd at feilinformasjon sprer seg så raskt – spesielt når det kommer til daglige nyheter.

Dessverre, på grunn av sin nærmest ubegrensede behandlingskapasitet, er kunstig intelligens stadig mer involvert i fabrikkeringen av falsk informasjon. Det er likevel lys i enden av tunnelen. Algoritmer for å motarbeide falske nyheter har nemlig dukket opp for å hindre spredningen av feil informasjon.

Hvem vil komme best ut av denne kampen?

Algoritmer skriver sin egen tekst

Tekstgeneratoren InferKit lar deg skape falske meldinger om hva som helst.

I utgangspunktet holdt OpenAI kildekoden privat av etiske hensyn, men den ble til slutt offentliggjort.

Her er et eksempel på hva den kan produsere på engelsk, basert på innspillet «jorda er flat»:

Earth is certainly not spherical, but that’s a small point. As for the Earth spinning like a top, that is what astronomers of old believed, too, but it’s wrong in a few fundamental ways. (You can read more here.) According to recent research by Jeff Cramer at the Air Force Research Lab in Montgomery, Ala., the tilt of our planet’s axis is actually right around the 25.6-degree mark, a half degree under NASA’s current definition. So a few more days of looking up the sky and you can see the sky map error, and try to come up with an idea of what the real Earth looks like, not just a featureless cloudscape.

Selv om teksten ikke er perfekt, la du kanskje ikke merke til at den var AI-generert da du skummet gjennom. Foreløpig fungerer generatoren kun på engelsk, men i og med at kildekoden er offentlig tilgjengelig, kan algoritmen tilpasses til å fabrikkere falske nyheter på forskjellige språk.

Falske nyheter i form av tekst er bare toppen av isfjellet. Såkalte «deepfakes» er mye mer avanserte, og det er lite trolig at vanlige folk oppdager dem:

For øyeblikket er det sosiale medier-plattformer som har størst problemer med falske nyheter. På disse plattformene florerer falske nyheter i kraft av at brukerne deler dem i massivt omfang – ofte uten at de er klar over at de sprer falsk informasjon. Selv tradisjonelle medier og anerkjente publikasjoner har problemer når det gjelder faktasjekk, men dette er et dypereliggende problem som til dels er relatert til kravet om å skape innhold raskt.

Både Facebook og Google har annonsert planer om å introdusere mekanismer som kan registrere og flagge falske nyheter. Enn så lenge er det personer som sjekker og verifiserer innhold og fakta manuelt. Med tiden kan vi anta at algoritmene vil gjøre mesteparten av det manuelle arbeidet.

sjekk av facebook - summalinguae.com

Er internett for stort til å bli verifisert?

Kunstig intelligens er bare i startgropa i kampen mot feilinformasjon, falske nyheter og upålitelige nettsider.

Det er også verdt å merke seg at det kommer stadig flere plattformer og NGO-er som overvåker autentisiteten av informasjon på nettet. Dette er likevel bare en dråpe i havet.

Det skyldes at potensialet for å skape uriktig innhold er ubegrenset, og understøttes av algoritmer som kan «produsere» denne falske informasjonen. Formålet kan for eksempel være å sette en spesifikk sosial gruppe i et dårlig lys, spre frykt eller skape finansielle eller politiske fordeler for de som står bak.

Det er så mye nytt innhold på internett at det ikke finnes en algoritme, og langt i fra en person, som vil være i stand til å «lese» og verifisere det regelmessig.

Verifiseringsmetodene for å oppdage kunstig produsert tekst-, video- eller lydinnhold er under stadig utvikling. Men per dags dato er ikke disse tiltakene implementert av de store mediekonsernene i vesentlig grad.

Håpet er at det snart blir laget brukervennlige verktøy, for eksempel plug-ins til nettlesere, som markerer upålitelige kilder eller flagger falske opplysninger.

Kan oversettelsesbransjen spille en rolle i å avdekke falske nyheter?

Oversettelsesbransjen er allerede langt på vei når det gjelder å bruke maskiner til å generere og gjenkjenne naturlig språk.

Det benyttes for eksempel maskiner til lokalisering, herunder oversettelse av nettsider, generering av produktbeskrivelser på flere språk og kundeservice via chatbots.

Det er derfor ikke helt fjernt å se for seg at oversettelsesbyråer kan kunne spille en rolle i forbindelse med utvikling av programvare og algoritmer, som ikke bare verifiserer nøyaktigheten av en oversettelse, men også verifiserer at påstandene i oversettelsen er riktige.

Kilder:

https://fakenews.pl/blog/deepfake-i-fake-news-poradnik-dla-myslacych/

https://fakenews.pl/blog/generator-fake-news-od-openai-juz-dostepny/

https://www.facebook.com/facebookmedia/blog/working-to-stop-misinformation-and-false-news

Relaterte innlegg

Summa Linguae Technologies bruker cookies for å få en bedre forståelse av hvordan nettstedet blir brukt. Ved å fortsette å bruke dette nettstedet samtykker du i denne policyen.

Les mer