Begrænsninger ved generativ AI
Generativ AI er et teknisk system – ikke en tænkende aktør. Forhold dig altid kritisk til output ved at sammenholde det med faglige kilder, flere prompts og alternative perspektiver.
Svar fra generativ AI er statiske forudsigelser
Når du bruger generativ AI, er det vigtigt at forstå, at du ikke er i dialog med en menneskelig intelligens. Generativ AI opererer ud fra nogle ganske anderledes mekanismer og logikker end vi mennesker gør, og det har nogle store implikationer for, hvordan man skal forholde sig til outputs fra generativ AI.
Når et system som ChatGPT producerer tekst, så fortsætter den simpelthen bare en sekvens af ord, på en måde så det statistisk set ligner noget, et menneske kunne have skrevet.
Generativ AI forudsiger ganske enkelt sandsynligheder for, hvad det næste ord i en sætning skal være, og de forudsigelser er ikke altid korrekte eller hensigtsmæssige.
Hallucinationer
Generativ AI kan hallucinere dvs. konstruere et svar, som kan lyde helt korrekt, men er faktuelt forkert.
Hvis GenAI eksempelvis bliver bedt om at skrive et forskningspapir om et emne, hvor den mangler træning, så konstruerer den stadig et svar, der lyder plausibelt ved at kombinerer kendte mønstre. F.eks. kommer der, til et forskningspapir, kilder på, der kan være fuldstændigt opdigtede til formålet. Modellerne er designet til altid at give et svar.
For at minimere risikoen for hallucinationer, gælder det om at give GenAI nok kontekst om det emne, den skal generere svar om, så sandsynlighederne, for ordene i sætningen den skal lave, bliver store og det ikke bliver til gætværk. GenAI optimerer for sproglige sandsynligheder, ikke korrekthed.
Bias
Bias i Generativ AI kan henvise til den skævvridning eller forudindtagethed, der kan opstå i et Generativ AI-system, når det er trænet på data, der samlet set udgør en skæv repræsentation af virkeligheden. Bias kan også henvise til forudindtagethed hos brugeren. Vær især opmærksom på følgende typer bias:
Tendensen til at stole blindt på systemet – fordi det lyder overbevisende – selv når det er forkert eller upræcist. Som ingeniør skal du altid tjekke output mod din faglige viden og valide kilder.
Første svar eller idé fra generativ AI kan sætte sig fast som referencepunkt, hvor du så justerer alt efter det – også selvom det ikke er optimalt. Prøv flere prompts og perspektiver for at undgå fastlåste løsningsrum.
Black Box
Generative AI-modeller omtales ofte som black boxes, fordi det kan være vanskeligt at gennemskue præcist, hvordan de når frem til et bestemt svar.
Modellerne består af meget komplekse neurale netværk med millioner eller milliarder af parametre, som er blevet justeret gennem træning på store datamængder.
Selvom vi kender de overordnede principper bag modellen, er det i praksis ikke muligt at følge alle de interne beregninger, der leder frem til et konkret output.
Det betyder, at man ikke kan forklare, hvorfor modellen formulerer et svar på en bestemt måde, eller hvilke dele af træningsdataene der har haft størst indflydelse på resultatet. Derfor bør generativ AI ikke opfattes som en transparent kilde til viden.
Denne side er inspireret af Aalborg universitets side om generativ AI for studerende. Der er brugt generativ AI i udarbejdelsen.
