Sidste uge frigav Google en eksperimentel Gemini 2.0 -flashmodel, der genererer billeder naturligt. Takket være Gemini 2.0 Flashs oprindelige multimodale kapaciteter kan du redigere billeder samtalere og producere meget konsistente billeder på tværs af flere generationer. Jeg har for nylig testet Geminis oprindelige billedgenerationsfunktion og kom væk overrasket over dens kraftfulde evner.
Nu har en Redditor vist, at den eksperimentelle Gemini 2.0 -flash -model er god til at fjerne vandmærker fra billeder. Faktisk er Gemini i stand til at slette vandmærker fuldstændigt fra ophavsretligt beskyttede billeder, herunder billeder, der er hentet fra Shutterstock og Getty -billeder – to af de største aktieudbydere, der bruger vandmærkning til at beskytte ophavsretligt beskyttet indhold.
Det er ikke overraskende, at udviklingen har rejst alvorlige bekymringer over ophavsretten. I en erklæring til TechCrunchen Google -talsmand nævnte, “Brug af Googles generative AI -værktøjer til at deltage i krænkelse af ophavsret er en krænkelse af vores servicevilkår. Som med alle eksperimentelle udgivelser overvåger vi nøje og lytter til udvikler -feedback.“
Det er vigtigt at bemærke, at Gemini 2.0s billedgenereringsmodel i øjeblikket er i “eksperimentel” -fasen og tilgængelig på Googles AI-studie-ikke på det forbrugervendte Gemini-websted eller -app. AI Studio er beregnet til, at udviklere kan teste modeller, udforske kapaciteter og give feedback til Google. Imidlertid kan det også bruges af generelle brugere uden nogen begrænsninger.
For at teste den oprindelige billedgenereringsmodel uploadede jeg et Shutterstock -billede med vandmærker på AI -studiet og bad modellen om at fjerne dem. Ved det første forsøg kunne det ikke fjerne vandmærkerne, men efter at have kørt prompt endnu en gang slettede det dem uden at rejse nogen mistanke. Det også Uploadet et billede med mit brugerdefinerede vandmærkeog Googles model gjorde et perfekt job igen.
Det ser ud til, at Google ikke har løst problemet lige nu. Sidste år blev Google tvunget til at deaktivere billedgenerering af mennesker, efter at Gemini nægtede at producere billeder af hvide mennesker. For at undgå lignende tilbageslag vil Google sandsynligvis tilføje strengere sikkerhedsbeskyttelser for at forhindre krænkelse af ophavsret inden en bredere udrulning.
Potentielle misbrug af Gemini Native Image Generation
Bortset fra at fjerne vandmærker kan den eksperimentelle Gemini -model gøre flere ting, der er tilbøjelige til at misbruge. Riley Goodside, en forsker i skala AI, der tester AI -modeller for sårbarheder, delte et indlæg på X, der viser, hvordan modellen kan manipulere billeder ved at generere en realistisk scene.
I nedenstående billede kan du se, hvor dygtigt Gemini har ændret baggrunden og perfekt fulgt instruktionerne om at manipulere billedet.
En anden AI -sikkerhedsforsker, Elder_Plinius, kendt for jailbreaking af AI -modeller, delte et indlæg på X, der demonstrerer hvordan Enkle tegnsætningstricks I en prompt dåse omgå sikkerhedsbegrænsninger. I tweeten, du ser nedenfor, ændrede Gemini en kvindes optræden efter at have nægtet den oprindeligt.
Med AI -modeller, der hurtigt får kapaciteter over tid, er det vigtigt, at virksomheder udfører grundige sikkerhedstest, før de frigiver dem. Vi ved allerede, at Anthropics forfatningsmæssige klassifikatorer blev brudt inden for en uge ved hjælp af et universelt jailbreak og omgå alle sikkerhedsforanstaltninger. Det angiver det AI -modeller er langt fra at være idiotsikre. De vil kræve industri-dækkende samarbejde for at afbøde jailbreaking-teknikker og forhindre skadelige generationer.
Støt vores arbejde ❤️
Hvis du kunne lide denne artikel, kan du overveje at give drikkepenge for at hjælpe os med fortsat at udgive kvalitetsindhold.
