70B-Modelle auf zwei Grafikkarten? Das ist ein Problem!

artikel, datenschutz, kreativität, AI-Modelle, Grafikkarten, VRAM, Cache, Tokens, Faustregel, XB, KV-Cache, Minimax, ...