Jeg må innrømme at jeg ikke har engasjert meg så mye i temaet som jeg kanskje burde. Jeg må også innrømme, at jeg har et blandet forhold til begrepet «kunstig intelligens» (KI).
Jeg har ikke lært meg å bruke KI eller satt meg inn i de forskjellige programmene. Men jeg ser av debatten i mediene at det fortsatt – tross en rivende utvikling på den tekniske siden – er brukeren som bestemmer hva som kommer ut av KI.
Det fikk vi et lysende eksempel på nettopp, da USAs president Donald Trump la ut et KI-generert bilde av seg selv som en slags Jesus-figur, som helbredet en syk person med håndspåleggelse. Bildet var så vulgært der han står med lysende hender omgitt av sykepleiere, soldater, Frihetsgudinnen og det amerikanske flagget at man nesten krymper seg i medynk over at noen vil avsløre sin dumskap på en slik måte.
Idioti inn – idioti ut
Så kan man si at det er en fordel at Trump på en så klossete måte viser verden hvilket intelligensnivå han ligger på, men det visste vi jo fra før. Bildet ble liggende på hans eget nettsted Truth Social i 12 timer før det ble slettet, men det var lenge nok til at kristne grupper som tidligere har støttet ham, begynte å reagere, og sikkert også var mye av årsaken til at bildet ble fjernet.
Trumps forklaring var nesten like patetisk: Han ville legge ut en illustrasjon som viste ham som en lege fra Røde Kors som reddet pasienter. Han hadde jo samarbeidet med Røde Kors mange ganger! Og reddet liv! Mange ganger!
Når man roper i skogen, får man kongler i sin munn. Og kanskje er det en trøst å se at dersom man dytter idioti inn på den ene siden av KI, får man idioti ut på den andre siden. Problemet er bare at noen tar idiotien for sannhet!
Rettigheter
Den store striden står nå om rettigheter og begrensninger. De store IT-selskapene i USA, som er dominerende innenfor dette feltet, ønsker så få begrensninger som mulig. De ønsker å drive informasjons-innhenting etter amerikansk lov også i Norge og andre land.
De begrunner dette med at de er amerikanske selskaper med hovedkontor i USA og dermed skal forholde seg til amerikansk lovgivning. For eksempel hadde vi for at par år siden en stor diskusjon i Norge etter at Meta hadde overtatt Google og Facebook, hvor de ønsket å bruke alt som norske brukere hadde lagt ut på de forskjellige tjenestene til «trening» for sine søkemotorer og sin programvare. Det betydde i praksis at alt du hadde lagt ut på disse mediene, mente de at de hadde rett til å legge i sin egen database.
Men siden det ble så stor oppstandelse, fikk brukerne anledning til å reservere seg. Og det fungerte slik at man måtte logge seg på en egen side hvor man krysset av for at man ikke ønsket at saker man hadde lagt ut, skulle brukes til slik virksomhet. Å reservere seg ble gjort så kronglete som mulig, slik at mange skulle gi opp underveis.
Hvordan fungerer KI?
Det kan være nyttig å minne om hvordan KI fungerer:
Kraftige datamaskiner med stor kapasitet til å bearbeide informasjon, kobles sammen til enorme sentraler med voldsom kapasitet til å sammenstille og velge relevant informasjon ut fra hva bestilleren ønsker.
Det kan være alt fra besvarelse på et skolearbeid til tunge vitenskapelige utredninger. Eller til å produsere musikk eller bilder ut fra visse forutsetninger, som bestilleren definerer. Jo mer relevant informasjon KI-generatoren har, jo «bedre» blir resultatet.
Når KI-leverandørene sier at de ønsker å la maskinene «trene,» betyr det at de ønsker å utvide tilgangen til informasjon, slik at det gir maskinen en større base å hente informasjon fra. Når man lager en bestilling til KI, blir man ofte også bedt om å spesifisere at det bilde man ønsker, skal «ligne» for eksempel en Picasso. På den måten vrir man seg unna spørsmålet om opphavsrett og plagiat, selv om den subtile forskjellen kanskje ikke er like klar for alle.
Lurt av KI
Tidligere journalistkollega Hans Petter Kjøge (tidligere journalist i Fredriksstad Blad og redaktør i Halden Arbeiderblad), skrev for noen dager siden en sak i Halden Arbeiderblad om sin erfaring med KI. Han hadde funnet en artist på nettet ved navn Eddie Dalton, som falt i smak. Man kunne hente ned Daltons siste album med 10-11 låter og se artisten selv avbildet på omslaget. Det var til og med en biografi om artisten.
Så viste det seg etter nærmere undersøkelser at Eddie Dalton slett ikke fantes. Musikken, bildene og historikken var falsk, og skapt av KI! Jeg skjønner godt at min journalistkollega føler seg lurt og skuffet. Dette er jo et bevisst og overlagt forsøk på svindel og burde vært slått ned på av netteierne.
Dronene bestemmer selv
Dette blir likevel uskyldig i forhold til hvor viktig KI nå utvikler seg til å bli innen krigføring. I dokumentaren «KI som krigsmaskin», laget av det britiske TV-selskapet Channel 4 og nylig vist på NRK, viser de hvordan KI ble og blir brukt og utviklet i konfliktene i Ukraina, Gaza og Iran.
I Ukraina gjennom å utvikle droner som er i stand til å velge mål ut fra spesifikasjoner, og angripe målene uten at mennesker har verken har godkjent målet eller angrepet. En av de ukrainske dronepilotene uttaler at dette er et spørsmål om moral, og legger til at han er motstander av at maskiner og KI selv skal kunne velge mål og gå til angrep ut fra de parametere de har fått lagt inn. Systemet er imidlertid på plass og kan skille mellom forskjellige typer tanks og skille tanks fra lastebiler og andre kjøretøy.
Overvåking
Da USA og Israel gikk til angrep på Iran, klarte de å ta livet av den iranske lederen Ali Khaminei allerede første dag. Nøkkelen lå i at USA og Israel visste nøyaktig hvor han befant seg. Gjennom overvåking og forskjellige kilder, hadde de full kontroll på hans bevegelser. Da var det relativt enkelt å bombe hans tilholdssted, og ta livet av ham og flere i hans familie som var sammen med ham.
Geneve-konvensjonen
Geneve-konvensjonen har som formål å minimere at sivile liv går tapt og at angrep utføres mot militære mål. Dette er den viktigste regelen: «Et angrep er forbudt dersom det forventes å føre til sivile tap (følgeskader) som er uforholdsmessig store i forhold til den konkrete og direkte militære fordelen man forventer å oppnå.»
Ifølge israelske soldater som var med på krigshandlingene, ble det vanskelige å finne mål som tilfredsstilte kravspesifikasjonene, samtidig som kravene fra politikerne om stadig mer bombing økte. Ifølge soldatene som ble intervjuet, ble det opprettet såkalte «målfabrikker» som skulle utpeke hva som kunne være legitime mål.
Ettersom all digital informasjon til og fra Gaza er under israelsk kontroll, hadde de et stort materiale de kunne bruke KI til å systematisere og sammenstille, Gjennom en rekke parametere kunne de skille ut hvem som sannsynligvis var medlemmer av Hamas, eller sympatiserte med dem og kunne tenkes å bli medlemmer. De kunne igjen ansees som mål der de befant seg.
Ifølge soldatene, kunne opptil 400 sivile tap ansees som akseptable for å ta livet av en definert mistenkt terrorist! Uten at man kunne dokumentere at vedkommende virkelig var terrorist eller medlem av Hamas.
Billigere å drepe
En annen effekt av dronekrigen, er at soldatene slipper å se hverandre. Når de bruker droner, ser det til forveksling ut som dataspill hvor man skyter digitale figurer. Man slipper å se blodet, skadene, lemlestelsene og døde mennesker. Selv om de som ligger igjen på slagmarken var levende mennesker. Noens sønner eller døtre, brødre eller søstre, mødre eller fedre! Sendt ut i krigen av noen som selv befinner seg milevis fra fare.
Dronene har også gjort det billigere å ta folk av dage, etter hvert som de er blitt mindre, mer avansert, og dermed mer effektivt. Hva gjør det med soldatenes opplevelse av å ta livet av motstandere dersom det kan gjøres relativt rimelig, uten fare for at egne medsoldater skal bli skadet? Dersom man slipper å se de skadene man påfører andre mennesker? Blir det lettere å fjernstyre en drone mot andre mennesker når man slipper å stå ansikt til ansikt med dem?
Er det denne teknologien det er viktig å være ledende på? Er det det vi skal bruke penger og forskning på? Hvor lenge skal vi holde på med denne galskapen?
Hva opptar våre ledere?
Hvilke problemstillinger er det som opptar våre ledere i den vestlige verden i lys av det utviklingen som foregår? Jo, EU har lagt fram et forslag til regler:
1. Juridiske og etiske begrensninger (KI-forordningen):
EU-forordningen klassifiserer KI-systemer etter risikonivå, noe som setter klare rammer for bruk:
Uakseptabel risiko (Forbudt): Systemer som manipulerer adferd, utnytter sårbarheter, eller driver med sosial poengsetting (social scoring) er forbudt.
Høy risiko (Strengt regulert): KI brukt i kritisk infrastruktur, utdanning, sysselsetting, medisinsk utstyr (som biler/fly) krever streng overvåking, gjennomsiktighet og menneskelig tilsyn.
Begrenset risiko (Transparensplikt): Chatboter (som ChatGPT) og KI som genererer innhold, må merkes tydelig slik at brukeren vet de samhandler med en maskin.
Automatiserte avgjørelser: Personvernforordningen (GDPR) artikkel 22 begrenser bruk av KI til å ta viktige beslutninger om mennesker uten menneskelig innblanding.
2. Tekniske og operasjonelle begrensninger
Mangel på sann forståelse: KI forstår ikke dype menneskelige konsepter som empati, bevissthet, etikk eller kontekst. Den bearbeider data basert på statistiske mønstre, ikke reell innsikt.
Hallusineringer: KI kan generere feilaktig informasjon med stor overbevisning.
Skjevhet i data (Bias): Hvis treningsdataene er skjeve, vil KI-en reprodusere eller forsterke fordommer knyttet til kjønn, rase eller etnisitet.
Plagiat og opphavsrett: KI kan resirkulere andres åndsverk uten kildehenvisning.
Kritisk tenkning: KI kan ikke erstatte menneskelig vurderingsevne i komplekse situasjoner.
3. Praktiske og ressursmessige begrensninger
Miljøavtrykk: Trening og bruk av store KI-modeller krever enorme mengder strøm og vann til kjøling av datasentre.
Sikkerhetsrisiko: Autonome systemer kan hackes eller feile, noe som kan føre til fysisk skade.
For å bruke KI forsvarlig, kreves det høy digital kompetanse og kritisk tenkning hos brukeren for å identifisere når teknologien ikke strekker til.
Stopp verden!
I og for seg fornuftige og vettige tiltak og forslag, men sett i forhold til hva som skjer av militær forskning og utvikling på ulike slagmarker rundt om i verden, blir det litt som å behandle kreft med paracetamol. I 1980 kom musikalen «Stopp verden, jeg vil av!» Nå burde vi kanskje skrike ut: «Stopp verden, det går galt!»
Illustrasjonen på forsiden er generert med KI av nettstedet Truth Social
Agenda Fredrikstad 