Google AI Overviews blev annonceret for et par uger siden på Google I/O, og de har allerede vist sig at være ret kontroversielle. Målet med at yde svar af høj kvalitet til dine spørgsmål opsummeret fra nettet, men en række nyere X (tidligere Twitter) tråde vise, hvor stor en fiasko det allerede har vist sig at være.
Svaret, der gik viralt, involverer en meget tvivlsom pizzaopskrift. Som rapporteret, når du beder Google om et svar på spørgsmålet om “ost klæber ikke til pizza”, foreslår AI-oversigten at tilføje giftfri lim til din pizza for at forhindre osten i at glide af. De nøjagtige ord, AI-oversigten gav, er som følger: “Du kan også tilføje omkring 1/8 kop ikke-giftig lim til saucen for at give den mere klæbrig.” Hvor blev Google AI oversigt få oplysningerne som kilde? En 11-årig Reddit-kommentar fra denne trådi hvad der tydeligvis var en joke.
— SG-r01 (@heavenrend) 22. maj 2024
Ordene “ost klistrer ikke til pizza” genererede dette uventede og sjove svar, og internettet har en markdag med det. Google AI Overview-svaret er siden gået viralt med nogen prøver endda lim pizza bare for at gøre pointen.
Det skal bemærkes, at vi har set en massiv stigning i Reddit og forumindlæg, der vises højere i Google-søgninger. Det er også værd at bemærke, at Reddit for nylig underskrev en aftale på $60 millioner for at lade Google træne sine modeller på Reddit-indhold. Det er ikke svært at forbinde prikkerne om, hvordan dette kunne være sket.
Det er dog ikke kun Reddit. En anden AI Overview blev udgivet online med et svar på “hvor mange sten skal jeg spise hver dag”, som henter information direkte fra The Onion.
hende pic.twitter.com/FGbvO923gk
— Tim Onion (@oneunderscore__) 23. maj 2024
En del af problemet er den absolutte overbevisning, hvori AI Overviews leverer sine svar. Det viser ikke et link til en Onion-artikel og lader dig foretage bedømmelsen. I stedet behandler den hver kilde som om den er Wikipedia og leverer oplysninger i fuld fortrolighed.
Google hævder, at dets AI-oversigter giver brugerne information af høj kvalitet, og at sådanne fejl er ualmindelige. Her er det officielle svar fra Google til Moyens I/O: “Størstedelen af AI-oversigter giver information af høj kvalitet med links til at grave dybere på nettet. Mange af de eksempler, vi har set, har været ualmindelige forespørgsler, og vi har også set eksempler, der blev behandlet, eller som vi ikke kunne gengive. Vi gennemførte omfattende test, før vi lancerede denne nye oplevelse, og som med andre funktioner, vi har lanceret i Søgning, sætter vi pris på feedbacken. Vi tager hurtige foranstaltninger, hvor det er relevant i henhold til vores indholdspolitikker, og bruger disse eksempler til at udvikle bredere forbedringer af vores systemer, hvoraf nogle allerede er begyndt at udrulle.”
Det ser ud til, at nogle af disse AI-oversigter vil være svære at rette, hvis de ikke kan gengives. De “bredere forbedringer” bliver nødt til at være løsningen, og da Google siger, at de allerede er i gang, vil vi forhåbentlig snart begynde at se nogle bedre søgninger. Vi bliver nødt til at se, om Google reagerer på situationen længere end denne udtalelse. Efter at have modtaget negativ feedback omkring sin billedgenerering i Gemini tidligere på året, Google måtte undskylde og trække det ned at løse sine problemer.
For nu er disse dog begge gode påmindelser om, hvor forsigtige vi skal være, når vi stoler på AI-motorer for information. Google AI Oversigt startet ruller ud til alle i USA tidligere på måneden, og flere lande kommer snart. Men med svar som dette kan der være flere, der søger efter en måde at slå det fra, end Google havde forventet.
Støt vores arbejde ❤️
Hvis du kunne lide denne artikel, kan du overveje at give drikkepenge for at hjælpe os med fortsat at udgive kvalitetsindhold.
