offline companion robot for my disabled husband (8GB RAM constraints) – looking for optimization advice

Uma pessoa está desenvolvendo um robô companheiro de IA offline para seu marido tetraplégico, buscando reduzir o isolamento. O protótipo atual usa Mistral-7B-Instruct em um ThinkPad com 8GB de RAM para conversação e faster-whisper em um Jetson Nano para reconhecimento de fala, e a autora busca conselhos de otimização.