Grafikkort för AI och lokala LLM

Vilket grafikkort behövs för lokal AI?

Vill du köra språkmodeller på din egen dator är grafikminnet den första uppgift du ska titta på. Lokala språkmodeller går snabbast när modellen ryms helt i grafikminnet (VRAM), och mer VRAM ger plats för större modeller eller mindre komprimerade varianter. Därför tar den här sidan bara med grafikkort som har minst 16 GB grafikminne.

Svaret på frågan är alltså att 16 GB VRAM är golvet i det här urvalet. Ett enda kort i listan har dubbelt så mycket, NVIDIA GeForce RTX 5090 med 32 GB. De övriga sex korten har 16 GB vardera men skiljer sig i minnestyp och i minnesbussens bredd.

Så väljer du i listan

Tre uppgifter hjälper dig att sortera bland korten: mängden grafikminne, minnestypen och minnesbussens bredd. Uppgifterna kommer från tillverkarna, och sajten testar inte produkterna själv.

Mängd grafikminne

Här går den tydligaste skiljelinjen. RTX 5090 har 32 GB GDDR7, medan alla andra kort i urvalet har 16 GB. Eftersom mer VRAM ger plats för större modeller eller mindre komprimerade varianter avgör den här uppgiften vilka modeller som kan rymmas helt i grafikminnet. Fundera därför först på hur stora modeller du tänker köra och välj nivå efter det.

Minnestyp: GDDR7 eller GDDR6

NVIDIA-korten i listan har GDDR7, medan AMD-korten har GDDR6. Sidans underlag ställer inte minnestyperna mot varandra, så se minnestypen som en egenskap att notera snarare än som ett facit.

Minnesbussens bredd

Bussbredden ligger på 128, 256 eller 512 bit i urvalet. RTX 5090 har 512 bit. RTX 5080, RTX 5070 Ti, RX 9070 XT och RX 9070 har 256 bit. RTX 5060 Ti 16GB och RX 9060 XT 16GB har 128 bit. Bland korten med 16 GB är bussbredden och minnestypen alltså de uppgifter i listan som skiljer dem åt.

Grupper i urvalet och vem de passar

32 GB: ett kort för större modeller

NVIDIA GeForce RTX 5090 står ensam i sin grupp med 32 GB GDDR7 och en 512-bitars minnesbuss. Det är kortet att titta närmare på om du vill att större språkmodeller, eller mindre komprimerade varianter, ska rymmas helt i grafikminnet.

16 GB med 256-bitars buss

Fyra kort hamnar här: RTX 5080 och RTX 5070 Ti med GDDR7, samt RX 9070 XT och RX 9070 med GDDR6. De har samma mängd grafikminne och samma bussbredd, så i listan skiljer de sig främst i tillverkare och minnestyp. Den här gruppen är intressant om du har bestämt dig för 16 GB VRAM och vill jämföra NVIDIA och AMD vid samma bussbredd.

16 GB med 128-bitars buss

RTX 5060 Ti 16GB med GDDR7 och RX 9060 XT 16GB med GDDR6 når också urvalets gräns på 16 GB, men med en smalare minnesbuss. Lägg märke till att båda har "16GB" i namnet, och det är just de varianterna som finns med på den här sidan. Letar du på egen hand på Amazon.se, kontrollera att du hamnar på rätt minnesvariant.

Vad urvalsregeln betyder

Gränsen på minst 16 GB är satt eftersom lokala språkmodeller måste rymmas i grafikminnet. När modellen ryms helt i VRAM går den snabbast. Kort med mindre grafikminne tas därför inte med här. Vill du se fler grafikkort med pris kan du gå vidare till översiktssidan grafikkort pris.

Partnerkort från olika tillverkare använder samma grafikkrets och skiljer sig främst i kylning, klockfrekvenser och mått. Den angivna effekten för ett grafikkort gäller referensutförandet, och partnerkort kan avvika. Kontrollera därför effekten och måtten för just det partnerkort du väljer, så att det passar ditt nätaggregat och ditt chassi.

Funderar du på en mini-PC i stället är förutsättningarna andra. En mini-PC använder oftast mobila processorer med integrerad grafik, och ett grafikkort går i regel inte att lägga till. I system med delat minne delar processor och grafik på RAM-minnet, och för lokala AI-modeller är det då minnets storlek som avgör.

Så läser du tabellen ovan

Priserna i tabellen hämtas från Amazon.se, i kronor. De kontrolleras var sjätte timme, och ett pris visas bara om den senaste kontrollen är mindre än 24 timmar gammal, alltid med tidpunkt. Av de sju korten har sex ett nyligen kontrollerat pris, så för ett av korten saknas just nu ett aktuellt pris i tabellen. Där ett pris visas ser du det tillsammans med tidpunkten för kontrollen.

Eftersom grafikminnet är det avgörande för lokal AI kan du själv dela det visade priset med antalet gigabyte VRAM. Då får du ett pris per gigabyte grafikminne och kan jämföra 32 GB-kortet med 16 GB-korten på samma villkor.

Prisbedömningen har fem lägen: mycket bra pris, bra pris, normalpris, dyrt och vänta. Bedömningen säger alltså ännu inget om huruvida ett pris är högt eller lågt, så tills vidare jämför du med hjälp av de priser som visas.

Länkarna till Amazon.se innehåller ett partner-ID, men priset du betalar påverkas inte.

Kontrollera före köp

• Hur mycket grafikminne kräver modellerna du vill köra, och räcker 16 GB eller behöver du kortet med 32 GB?
• Är det rätt minnesvariant, till exempel 16GB-versionen av RTX 5060 Ti eller RX 9060 XT?
• Klarar nätaggregatet partnerkortets effekt, som kan avvika från referensutförandet?
• Får partnerkortet plats i chassit, eftersom partnerkort skiljer sig i mått?
• Visar tabellen ett aktuellt pris med tidpunkt för kortet du är intresserad av?