今すぐ試せる9つのローカル/オフラインLLM HuggingFace で量子 LLM が利用できるようになりました。また、H20、Text Gen、GPT4All などの AI エコシステムでは LLM の重みをコンピューターにロードできるため、無料で柔軟かつ安全な AI の選択肢が得られます。
