Continue + Ollama でローカル LLM コーディング支援を試す
takeharak
Lightcone Podcast の Vibe Coding Is The Future で OpenAI 共同創業者 Andrej Karpathy 氏が提唱する vibe coding を取り上げていたので、Visual Studio Code + Continue + Ollama の組み合わせで、大規模言語モデルを利用したコーディング支援をローカル環境で試してみました
今回の環境
TL;DR
Continue のインストール
code --install-extension continue.continue
Installing extensions...
Installing extension 'continue.continue'...
Extension 'continue.continue' v1.0.5 was successfully installed.
Ollama のインストール
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
大規模言語モデルのダウンロード
docker exec ollama ollama pull llama3.1:8b
pulling manifest
pulling 667b0c1932bc... 100% ▕████████████████▏ 4.9 GB
pulling 948af2743fc7... 100% ▕████████████████▏ 1.5 KB
pulling 0ba8f0e314b4... 100% ▕████████████████▏ 12 KB
pulling 56bb8bd477a5... 100% ▕████████████████▏ 96 B
pulling 455f34728c9b... 100% ▕████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
docker exec ollama ollama pull qwen2.5-coder:1.5b-base
pulling manifest
pulling 6a7736639577... 100% ▕████████████████▏ 986 MB
pulling 96f5a2272876... 100% ▕████████████████▏ 117 B
pulling 832dd9e00a68... 100% ▕████████████████▏ 11 KB
pulling b4180e3ea7c6... 100% ▕████████████████▏ 413 B
verifying sha256 digest
writing manifest
success
docker exec ollama ollama pull nomic-embed-text:latest
pulling manifest
pulling 970aa74c0a90... 100% ▕████████████████▏ 274 MB
pulling c71d239df917... 100% ▕████████████████▏ 11 KB
pulling ce4a164fc046... 100% ▕████████████████▏ 17 B
pulling 31df23ea7daa... 100% ▕████████████████▏ 420 B
verifying sha256 digest
writing manifest
success