Hvordan ChatGPT ændrer cybersikkerhed

ChatGPT kan bruges til at finde på opskrifter, kodning og essays. Men den kan også bruges til andre ting - er ChatGPT så godt for os, som vi tror?

01-05-2023 - 6 minutters læsning. Under kategorien: cybercrime.

Hvordan ChatGPT ændrer cybersikkerhed

ChatGPT tog verden med storm, da teknologien kom frem. Teknologien i ChatGPT bliver brugt af mange forskellige mennesker og til mange forskellige formål; gymnasieelever, ingeniører og studerende bruger det, og nogle bruger det sågar til at få hurtige og nemme madopskrifter eller til at kode en funktion på sin computer. Brugen af ChatGPT er bred, men er det nu også så godt?

Den sofistikerede AI

Da ChatGPT kom frem, var det den brugervenlige interface, og de AI-genererede svar, der forbløffede mange. Med et enkelt stikord kan ChatGPT give brugeren et detaljeret svar, som andre AI-teknologier ikke har kunne give indtil nu.

ChatGPT er udviklet af OpenAI, og er drevet og baseret på et kæmpe datasæt. Den viden maskinen sidder inde med spænder over virkelig store mængder emner. Dette betyder, at AI-maskinen nemt og hurtigt kan give brugeren det svar, de leder efter - dette er nok den største grund til, at alle lige fra tech-giganter i branchen til almene brugere, blev så imponeret over maskinen.

Med sådan en teknologi kan man ikke lade være med at spørge: Hvad er ulemperne ved ChatGPT - og lignende teknologier? Når man ser på de svar og løsninger, som ChatGPT kommer med, er det utrolig overbevisende og realistiske svar - man vil måske ikke tænke over, at det faktisk er en computer, der har givet svaret. Derfor kan ChatGPT blive udnyttet til at få modtageren til at tro, at de sidder og kommunikerer med et menneske - og ikke en maskine.

Når man tænker på AI-assistants, så tænker mange måske på Google Assistant eller Amazons Alexa, man kan spørge om vejret eller om et stykke musik. Når man stiller spørgsmål til dem, kan man forvente korte og konkrete svar. Det er i en meget lille grad, at de “ældre” AI-systemer kan give et langt og kompliceret svar, såvel som at have en samtale med forbrugeren.

Q&A

I modsætning til Google og Amazon, tager ChatGPT et stikord, og forvandler svaret på spørgsmålet til en dybdegående respons - dette svar kan fylde hele paragraffer. Udover det, så kan ChatGPT også huske de foregående samtaler og svar. Den kan altså bygge ovenpå disse svar, hvis den bliver stillet et opfølgende spørgsmål.

Dog har ChatGPT sine begrænsninger ligesom sine konkurrenter hos Google og Amazon. ChatGPT svarer ikke på spørgsmål, der er ude for datasættets rækkevidde. Derudover skal man også huske, at ChatGPTs svar ikke nødvendigvis er korrekt. AI-systemet “tænker” ikke som os mennesker, den genererer svar baseret på data fra internettet. Derfor er der en sandsynlighed for, at den data, den henter ind, ikke er korrekt. Dataen, som den bruger til at svare en bruger, kan være partisk ift. den person, der har lagt det op på internettet.

Risici ved AI-assistants

Som skrevet, så kan man risikere at ChatGPT ikke giver dig korrekte svar på dine spørgsmål. Dog er der også andre risici ved at bruge AI-teknologi.

ChatGPT kan være utrolig overbevisende i sine svar, så man kan tro, at det er et menneske, der sidder på den anden side af beskederne. Med overbevisende teknologi kommer også udnyttelsen af den.

IT-kriminelle stjæler persondata og får adgang til virksomheders (såvel som privatpersoners) software systemer - ved at få adgang til dem, har de adgang til alt, de kunne tænke sig:

  • Persondata
  • Dokumenter og filer
  • Programmer og software
  • Bankoplysninger

Listen kunne blive ved. Pointen er, at hackere bruger phishing til at snyde folk på e-mail. De sender en mail, hvor de bruger social engineering til at presse offerets underbevidsthed - hvis der f.eks. er en tidsbegrænsning på det offeret skal reagere på, vil de ofte være mere tilbøjelige til at trykke på links eller downloade dokumenter.

Den nye phishing

Men noget af det, der indtil nu har afsløret svindlerne, er det dårlige sprog i phishingen. Hvis offeret skal tro på, at det er en legitim person, der skriver til dem, skal deres sprog hænge sammen med personen - det er de færreste, der skriver dårligt dansk eller engelsk, specielt så dårligt, at man vil lægge mærke til det.

Det er her, at ChatGPT måske kommer ind i billedet. Som beskrevet, så var noget af det, der virkelig overraskede folk, ChatGPTs sprog. Hvis der sidder en IT-kriminel i Rusland, Indien, Ghana eller Finland, der ikke nødvendigvis skriver et overbevisende engelsk, så kan ChatGPT hjælpe dem.

Man kan bede ChatGPT om at skrive en mail, hvor den f.eks. udgiver sig for at være Google, der skriver til en kunde om, at de skal nulstille deres kodeord. ChatGPT vil konstruere en tekst, der ligner en legitim mail på en prik. Dog skal man selv udfylde navnet på modtageren og det link, de skal trykke på. Nu er phishing blevet meget nemmere for IT-kriminelle.

Dog er der nogle sikkerhedsforanstaltninger ift. ChatGPT - man kan ikke direkte bede den om at oprette en tekst, der efterspørger persondata. Men hvis man sender en phishingmail genereret af ChatGPT, og modtageren svarer mailen med, at de ikke er sikre på, at det er en legitim person, de sidder og skriver med, kan ChatGPT altså generere et overbevisende svar til modtageren, der så i sidste ende måske oplyser de forskellige data, som hackeren har brug for.

Fremtiden i AI-genereret phishing

Det kan blive sværere at se, om den mail, man har modtaget, er skrevet af en rigtig person, eller om det er ChatGPT, der har produceret den.

Heldigvis kan man få flere programmer til at identificere AI-genererede tekster - dog kan de ikke garantere, at det er AI, der har lavet teksten. Men, det giver et indblik i hvilke passager af en besked, der lyder kunstigt genereret.

Derudover bliver organisationer forhåbentlig også mere opmærksom på den trussel, som AI kan udgøre. Flere skoler og undervisningsinstitutioner har forbudt ChatGPT, fordi det er så udviklet allerede - dette er kun begyndelsen, da man kan forestille sig, at det bliver forbudt i mange andre sammenhænge.

Det bliver lettere at udgive sig for at være en anden, eller at bruge ChatGPT og andre AI-drevet systemer til at løse sine problemer. Igen skal man huske, at ChatGPT henter sine informationer fra internettet. Og det er ikke altid, at man kan regne med hvad der står på the world wide web.

Forfatter Caroline Preisler

Caroline Preisler

Caroline er copywriter for Moxso udover hendes daglige studie. Hun er i gang med sin kandidat i Engelsk og specialiserer sig i oversættelse og sprogpsykologi. Begge felter arbejder med kommunikationen mellem mennesker, og hvordan man skaber en fælles forståelse – disse elementer bliver inkorporeret i arbejdet, som hun laver her hos Moxso.

Lignende indlæg