Google Overview: Google kan smadre sit brand med katastrofal AI-lancering

Google har i mange år været synonym med good informations-søgning. Nogle (ikke mindst Google selv) vil mene at de leverer verdens bedste søgemaskine. 

I bestræbelserne på at gøre det endnu bedre – og måske i (berettiget) frygt for at andre nye AI-tjenester snupper deres kunder, har Google intensiveret deres udvikling af AI-baserede svar.

Det kulminerede i forrige uge, da de præsenteret “Google Overview”, som de mener ofte kan give langt bedre svar, direkte i Google, frem for at sende søgebrugerne hen på andre sites.

Det er der så en lang række juridiske og etiske problemer med, men det er en helt andet snak, som jeg tager en anden dag.

Lanceringen af Google Overview gik dog langt fra som Google havde håbet. Meget langt fra.

I dagene efter lanceringen begyndte der er dukke mildt sagt temmelig uheldige eksempler op på helt forkerte svar. I nogle tilfælde er de bare lidt latterlige – i andre potentielt skadelige. 

Flere og flere store medier begyndte at skrive kritisk om det med eksempler på de helt forkerte svag. Faktisk kan jeg ikke huske hvornår en så stor er erfaren internet-virksomhed som Google er blevet haglet så voldsomt ned! Med rette.

Her er nogle få eksempler:

Lim osten fast på din pizza

Dette “gode råd” hører nok mest til i den lidt latterlige kategori. Tvivler på at mange kunne finde på at følge det. Alligevel må man sige, at det i hvert fald er et rigtig skidt svar.

Æd sten!

Der er mange flere tvivlsomme kulinariske svar i Google Overview – som f.eks. nedenstående, der anbefaler, at man spiser sten!

Drik urin

Lidt mere alvorligt bliver “de gode råd”, når det handler om sundhed. Som et Google Overview svar på, hvordan man får nyresten væk, anbefaler de at man drikker urin! Nu er jeg ikke lægefagligt kvalificeret til at vurdere dette, men jeg tvivler på at det er den rette behandling!

Muslimsk amerikansk præsident?

Google svarer her, at Barak Obama var muslim. Det var han ikke. Men en del modstandere blev ved med at påstå dette og det ser ud til, at Google – helt kritikløst, har balgt at lade sådan data indgå i træningen af deres AI.

 

Er AI-træning fair use?

Uden at gå meget dybere ind i dette spørgsmål i dette indlæg kan jeg i hvert fald slå fast, at Google på dette punkt har en udpræget grad af dobbeltmoral!

For på den ene side mener de åbenbart – ifølge måde Google Overview og udtalelser i interviews, at det er helt legalt, at bruge andres (vores) indhold til træning af deres AI. Men på den anden side mener de ikke at det er legalt, at OpenAI har gjort det samme med YouTube data.

Hvilken AI trænings-data bruges af Google?

Google uddyber i Google Overview gerne hvilken data de har brugt til AI-træning. Og det er jo fint. Det virker dog temmelig problematisk, at de skulle – ifølge eget svar, have brugt  data om misbrugte børn!

Er tobak sundt?

Åbenbart – ifølge Google! Jeg tvivler dog meget på, at ret mange sundhedsfaglige personer vil skriver under på disse svar.

Hvor gamle er Generation D?

Et generelt problem med alle LLM’er er, at de altid forsøger at give et svar – også når det ikke findes. Det gælder også for Google Overview.

“Generation D”, findes ikke (endnu), men Google mener åbenbart, at denne generation skulle være født mellem 1665 og 1679.

Flere eksempler og kritisk medie-omtale

Der er mange flere eksempler end ovenstående. Min gode ven Barry Schwartz har samlet en lidt længere liste med kritisk omtale i større medier, som du kan læse her.

Google svarer på kritik

Google har indtil videre afvist den udbredte kritik med, at de eksempler der er fundet sjældent vil blive brugt i virkeligheden og påstår at nogle svar slet ikke er de rigtige – men manipulerede.

Det virker dog absolut ikke som et troværdigt svar på en efterhånden meget massiv og veldokumenteret kritik.

Et mere korrekt svar ville nok være at de ganske enkelt har lanceret en service uden at have været omhyggelige nok med at tjekke kvaliteten.

Min vurdering er, at Google har været mere fokuseret på at slå konkurrencerne end om Google Overview faktisk er godt. Det er en meget farlig strategi, der i alvorlig grad kan underminere deres troværdighed som informations-søgnings medie!

Det tager mange år at opbygge et godt brand, men det kan smadres meget hurtigt!

Kan man stole på Google? Og hvem, har ansvaret for dårlige eller skadelige svar?

Google startede som en søgemaskine, der alene viste links til informationer på andre websites. De gav ikke svar direkte på Google. Og derfor mener de fleste juridisk kyndige da heller ikke, at Google har direkte udgiver-ansvar.

Men nu hvor Google – med Google Overview giver svar direkte på deres eget website tvivler jeg meget på at de kan fastholde en fritagelse for udgiver-ansvar.

Uanset hvordan indholdet er skabt – af journalister eller AI, så må det være deres ansvar når de vælger at publicere det, på samme måde som med alle andre medier!

Men kan man stole på Google?

Ovenstående eksempler burde klart vise, at det kan man ikke!

Men Google bygger på den data de finder på nettet, så et lidt bredere spørgsmål kunne med rette være, om du stoler på alt det du kan finde på internettet? Jeg gør i hvert fald ikke!

Men bagved det (meste af det) du finder på nettet står mennesker – mennesker der har skrevet indholdet. Så et endnu bredere spørgsmål er derfor med rette: Stoler du (blindt) på mennesker?

Jeg gør ikke!

Og det samme kunne med rette siges om alle andre medier. 

De store journalistiske medier i både Danmark og udlandet er generelt gode, men også de kan fejle, bygge historier på forkert data, kilder der lyver, misforståelser eller bare dårlige journalistik og manglende fakta-tjek. 

Så jeg mener ikke uden en god portion kildekritik blindt kan stole på nogle som helst kilder. 

Problemet er, at Google med Google Overview i høj grad præsenterer deres svar som faktuelt korrekte. Det er farligt. Både for deres brugere (os), for deres brand og måske også juridisk.

Tiden må vise, hvor alt det her ender …