Alibaba har lige afsløret sin seneste ræsonnementsmodel, og det ser ud til, at DeepSeek og Openai måske har noget at bekymre sig om – i det mindste hvis alle Alibabas løfter viser sig at være sandt. Det er open source, så jeg tjekket det ud. Du kan også prøve det gratis, selvom det er overraskende, du finder ud af, at der er nogle ting, det ikke vil tale med dig om.
Den nye model, kaldet QWQ-32B (Quan-med-spørgsmål) kører på langt færre parametre, hvilket betyder, at det kræver mindre ressourcer, men Alibaba hævder, at den fungerer på samme niveau som Deepseek eller Openais O1-mini.
Anbefalede videoer
Deepseeks R1 Large Language Model (LLM) var alt det rasende tidligere i februar, da den kom ud, pludselig i stand til at konkurrere med den gyldne standard, der blev sat af Chatgpt og andre alternativer, men til en meget lavere pris. Det ser ud til, at Alibaba muligvis skubber konvolutten yderligere her.
Som forklaret af VentureBeatDeepSeek-R1 kræver, at 671 milliarder parametre kører, hvoraf 37 milliarder er aktiveret. I mellemtiden kan Alibabas nye QWQ-32B komme med 32 milliarder parametre. Disse tal er fuldstændigt abstrakte for mange, men der er en enorm forskel i beregningseffekt; Mens Deepseek R1 kræver 1600 GB VRAM at køre, kan QWQ-32B komme forbi med kun 24 GB VRAM. I de fleste tilfælde vil dette betyde NVIDIAs H100 eller ækvivalenter, men endda den spilfokuserede RTX 4090 Sports 24 GB. Den seneste RTX 5090 UPS til 32 GB.
Alibabas QWQ-32B er tilgængelig under en Apache 2.0-licens, hvilket betyder, at virksomheder og forskere kan bruge den. Mere vigtigt, vi kan bruge det ved at prøve Alibaba’s Qwen chat. Ligesom Deepseek kommer det med nogle begrænsninger, men har også et par øjeblikkelige frynsegoder, som jeg bemærkede ganske hurtigt.
Det ser ud til at give ganske dybtgående svar, selv til hurtige, enkle spørgsmål. Dette kan være godt, men på en måde var det mest irriterende, da det giver dig en masse unødvendig kontekst, som du ikke bad om. Jeg kan dog godt lide, at det viser dig hele sin ræsonnementsproces, som ligner Chatgpts dybe tænkningsfunktion – men med meget mindre dybde.
Når de bliver spurgt om politiske anliggender, markerer Qwen Chat det som upassende. Der kan være måder at jailbreak det på – det var trods alt muligt med Deepseek – men jeg har ikke formået at endnu.
Hvorvidt Alibabas påstande viser sig at være sandt, gjenstår at se, men det ser ud til, at Chatgpt og Deepseek nu har en ny rival.
Støt vores arbejde ❤️
Hvis du kunne lide denne artikel, kan du overveje at give drikkepenge for at hjælpe os med fortsat at udgive kvalitetsindhold.
