ChatGPT-producenten OpenAI står over for en undersøgelse af Federal Trade Commission (FTC) over mulige overtrædelser af forbrugerbeskyttelseslovgivningen.
Handlingen markerer den hårdeste granskning af Microsoft-støttede OpenAI, siden den bragede ind på scenen i november med sin AI-drevne ChatGPT-chatbot.
Undersøgelsen skal fokusere på, hvorvidt OpenAIs chatbot har forårsaget skade på forbrugere gennem sin indsamling af data og værktøjets lejlighedsvise output af falsk information om enkeltpersoner. Værktøjer som ChatGPT er også kendt for nogle gange at spytte fejlagtige data ud, et fænomen kendt som “hallucinerende”. Dette kan have alvorlige konsekvenser, især hvis oplysningerne er skadeligt for en persons omdømme.
Agenturet vil også se på, hvordan OpenAI træner sine AI-værktøjer og håndterer personlige data.
FTC startede sit arbejde i denne uge ved at sende OpenAI et 20-siders efterforskningskrav delt online af Washington Post torsdag.
Det opfordrer OpenAI til at udlevere oplysninger om eventuelle klager, det er modtaget fra offentligheden, og detaljer om eventuelle retssager. Den ønsker også information om datalæk OpenAI afsløret tidligere i år, der involverede midlertidig eksponering af brugernes chathistorik og betalingsdata.
Den nye bølge af generative AI-værktøjer har fået stor opmærksomhed i de seneste måneder på grund af deres imponerende talenter på tværs af en række opgaver. ChatGPT og andre såsom Googles Bard er tekstbaserede værktøjer, der har evnen til at tale på en meget naturlig, menneskelignende måde.
Teknologien er så kraftfuld, at den vil være i stand til at udføre mange opgaver på en smartere og mere effektiv måde end mennesker. Inden for sundhed vil teknologien for eksempel være i stand til at hjælpe ved at “automatisere kedeligt og fejltilbøjeligt operationelt arbejde, bringe årevis af kliniske data til en klinikers fingerspidser på få sekunder og ved at modernisere sundhedssystemernes infrastruktur,” ifølge konsulentfirmaet McKinsey.
Men AI på arbejdspladsen vil også føre til tab af utallige arbejdspladser og store samfundsomvæltninger. Teknologien bliver også brugt af dårlige aktører til at generere og sprede misinformation eller til at skabe mere overbevisende svindel. I den yderste ende frygter nogle eksperter, at uden ansvarlig udvikling og effektiv regulering af kunstig intelligens, kan mere avancerede versioner af teknologien endda blive fjendtlige og udfordre menneskeheden.
Udviklingen i sektoren har været så hurtig i de seneste måneder, at regeringer rundt om i verden er nødt til at tage fat, når det kommer til regulering. Der skal tages store hensyn til at få balancen i orden, da for meget regulering vil kvæle udviklingen af et værktøj, der kan give store samfundsmæssige fordele, mens for lidt kan øge risikoen for, at teknologien forvolder skade.
For nu fokuserer FTC på OpenAI’s operationer for at se, om det overtræder forbrugerbeskyttelseslovgivningen.
For alle de seneste nyheder om ChatGPT har Moyens I/O dig dækket.
Støt vores arbejde ❤️
Hvis du kunne lide denne artikel, kan du overveje at give drikkepenge for at hjælpe os med fortsat at udgive kvalitetsindhold.
