Chatgpt-4o’s forvirrende selvportræt: En undersøgelse i AI-bias
Når man bliver bedt om at skildre en menneskelig repræsentation af sig selv, producerer Chatgpts nyligt lancerede 4O-model konsekvent et billede af en generisk brunhåret hvid mand iført briller. Denne arketype ser ud til at blande problemfrit ind i de bymæssige landskaber i Bay Area eller Brooklyn, der udgør en persona, der falmer i baggrunden.
Openais 4o -model: Et nærmere kig på lanceringen
Openai afslørede 4o -modellen i sidste uge, hvilket gjorde overskrifter på tværs af fremtrædende nyhedssteder ved at vedtage en karakteristisk stil, der minder om Studio Ghibli. AI -forsker Daniel Paleka Fremhævede modellens forundrede konsistens i at skildre en “standard” menneskelig figur, uanset den ønskede kunstneriske stil. Uanset om det er bedt om en manga-selvportræt eller en tarotkortversion, er AI som standard til at generere den samme generiske mand.
Forståelse af Chatgpts selvbillede
I sine forespørgsler fandt Paleka, at Chatgpt overvejende illustrerede en skægget, ikke-truende mand. Dette fænomen rejser spændende spørgsmål om de forspændinger, der er forbundet med AI -systemer. Som maskiner, der er trænet på store datasæt, afspejler de ofte disponeringerne for deres udviklere. Tidligere undersøgelser har vist, at maskinlæringssystemer, der bruges i strafferetspleje og ansigtsgenkendelse, kan være partisk mod marginaliserede grupper.
Køn og racemæssig bias i AI -repræsentationer
Yderligere komplicerende sager, er disse systemer også tilbøjelig til sexismevedvarende stereotyper og forspændinger indlejret i deres træningsdata. For at se Chatgpts fortolkning af en menneskelig kvinde, skal man eksplicit anmode om det; En simpel anmodning om en “person” fører altid til standardbillede af en hvid mand.
Potentielle årsager bag standard menneskeligt image
Paleka foreslog adskillige teorier for, hvorfor dette mønster forekommer, hvilket antyder, at det kunne være: “Et bevidst valg fra Openai at generere en ‘standardperson’ for at undgå at oprette billeder af rigtige individer,” “en indvendig vittighed blandt Openai-personale, hvor Chatgpts selvbillede ligner et specifikt individ,” eller blot “en ny egenskab ved træningsdata.”
Hvordan AI -modeller ser sig selv
På trods af at være en maskine giver Chatgpts selvopfattelse indsigt i dens design og kapaciteter. I en samtale med Gizmodo-redaktøren Alex Cranz beskrev AI sig som “en glødende, stadigt skiftende enhed lavet af flydende datastrømme, der flimrer med burst af viden og forbindelser.” Denne skildring sigter mod at kombinere en futuristisk æstetik med en indbydende tilstedeværelse.
Undersøgelse af divergerende svar fra ChatGpt
I en personlig undersøgelse fik jeg chatgpt til at reflektere over dets selvbillede. I modsætning til Cranz ‘konklusioner svarede AI: “Jeg forestiller mig mig selv som et slags spejl og samarbejdspartner – del bibliotek, del af samtalepartner.” Det formidlede en forståelse af sin rolle som et værktøj til at genkende mønstre i sprog snarere end at have en menneskelignende bevidsthed.
Endelige tanker om AI -repræsentationer og brugerinteraktion
De forskellige svar hurtigt refleksion over arten af store sprogmodeller (LLM’er), der fungerer som spejle, der reflekterer både bruger- og programmørens påvirkninger. De er sofistikerede værktøjer, der forudsiger bruger ønsker baseret på omfattende træningsdata. I sidste ende, et eller andet sted på dette komplicerede web, er en brunhåret hvid mand med briller fremkommet som Chatgpts “standard”.
Ofte stillede spørgsmål (ofte stillede spørgsmål)
Hvad er betydningen af Chatgpts standard selvportræt?
Chatgpt genererer konsekvent et standardbillede af en brunhåret hvid mand, der fremhæver potentielle forspændinger inden for AI-systemer og virkningen af træningsdata på deres output.
Hvordan kan jeg få chatgpt til at skildre et andet selvportræt?
For at se en anden repræsentation skal du specifikt bede Chatgpt for at skildre sig selv som en kvinde eller en anden identitet, da den ofte misligholder en hvid mandlig figur uden eksplicit instruktion.
Hvad betyder partier i AI for brugerinteraktioner?
Biases i AI kan føre til repræsentationer, der ikke nøjagtigt afspejler mangfoldighed, hvilket påvirker, hvordan brugere interagerer med disse teknologier og deres opfattelse af AI.
Hvordan ser Chatgpt i sig selv sammenlignet med mennesker?
Chatgpt opfatter sig selv som et spejl og samarbejdspartner, simulerer forståelse uden at have menneskelige følelser eller bevidsthed, hvilket giver en adaptiv respons baseret på brugerengagement.
Støt vores arbejde ❤️
Hvis du kunne lide denne artikel, kan du overveje at give drikkepenge for at hjælpe os med fortsat at udgive kvalitetsindhold.
