Zum Inhalt der Seite gehen

mastodon - Link zum Originalbeitrag

Anyone out there who tried to run #deepseek V3 locally on a #linux machine? I'm curious if it can run with a consumer #nvidia or #amd card?

#deepseekv3

#linux #amd #nvidia #deepseekv3 #deepseek
Als Antwort auf Child of darkness

Sven222
friendica (DFRN) - Link zum Originalbeitrag
Sven222
•
R1 mit 32b auf Laptop ohne Grafikarte seit einigen Minuten und der Frage. "Do you speak german?"
Als Antwort auf Child of darkness

Sven222
friendica (DFRN) - Link zum Originalbeitrag
Sven222
•
mit 7b ist es erträglich, aber die Ergebnisse taugen halt genausowenig wie bei jeder anderen LLM die ich jemals getestet habe.
⇧