요즘은 어떤 분야던 AI와 연관된 주제가 핫하다.
AI 는 여러 분야에 유용하게 쓰이지만, 여기서는 개발을 할때 코딩 도우미로 쓸 수있는 AI 에 대해 알아보고 VS Code 에서 무료 AI 를 연동하는 방법을 정리해 보겠다.
AI 종류와 장단점
AI 종류는 여러가지가 있는데 대표적으로 클라우드 AI, 로컬 AI, AI 코딩 도우미가 있다.
클라우드 AI
인터넷을 통해 외부 서버의 AI를 사용하는 방식이다.
클라우드 AI는 성능이 우수하고, 설치가 불필요하며 최신 모델 사용이 가능하다.
반면 단점으로는 인터넷이 필요하고, 데이터가 외부 서버로 전송이 되며, 일부 기능은 유료로 제공된다는 점이다.
클라우드 AI 종류 : OpenAI, Gemini, Claude 등
로컬 AI
사용자의 PC에서 직접 실행하는 AI 이다.
무료이며, 개인정보가 보호 측면에서 좋고, 인터넷 없이 사용이 가능하다.
단점으로는 PC 성능이 필요하고, 최신 상용 AI보다 성능이 낮을 수 있다는 점이다.
로컬 AI 종류 : Ollama + Qwen3, DeepSeek, Llama 등
AI 코딩 도우미
개발 도구와 AI를 연결하여 코딩을 지원하는 도구이다.
코드 작성, 설명, 리펙토링 지원 및 개발 생산성 향상에 도움을 준다.
단점으로는 AI가 아니며 별도 AI 모델 연결 또는 구독이 필요할 수 있다.
AI 코딩 도우미 종류 : GitHub Copilot, Continue 등
우리는 다음과 같이 구성할 것이다.
VS Code : 코드 편집기
↓
Continue : AI 연결 도구
↓
Ollama : AI 실행기
↓
Qwen3 : 실제 AI 모델
이 경우 Continue 는 AI 가 아니라 VS Code와 AI 모델을 연결하는 역할을 수행한다.
VS Code 에 AI 환경을 구성하기에 앞서 이해를 돕기 위해 각각에 대해 알아 보기로 하자.
Continue란?
Continue 는 Visual Studio Code와 AI 모델을 연결하여 사용할 수 있는 오픈소스 AI 코딩 도우미 확장 프로그램이다.
사용자는 Continue를 통해 코드 생성, 코드 설명, 버그 분석, 리팩토링 등의 기능을 사용할 수 있으며, OpenAI, Claude, Gemini, Ollama 등 다양한 AI 모델과 연동할 수 있다.
쉽게 말해 Continue는 VS Code와 AI를 연결해주는 중간 다리 역할을 한다.
Ollama란?
Ollama 는 사용자의 PC에서 AI 모델을 직접 실행할 수 있도록 도와주는 로컬 AI 실행 도구이다.
참고로 Ollama 또한 cloud AI 도 지원하는 모델이 있다.

보통 ChatGPT와 같은 AI 서비스는 인터넷을 통해 외부 서버에서 실행되지만, Ollama는 AI 모델을 내 컴퓨터에 설치하여 직접 실행할 수 있도록 지원하는 버전이 있다.
이를 통해 인터넷 연결 없이도 AI를 사용할 수 있으며, 개인정보가 외부 서버로 전송되지 않는다는 장점이 있다.
Qwen3란?
Qwen3는 중국의 Alibaba Cloud 에서 공개한 오픈소스 대규모 언어 모델(LLM)이다.
자연어 처리, 문서 작성, 번역, 코드 생성 등 다양한 작업을 수행할 수 있으며, 특히 프로그래밍 관련 성능이 우수하여 개발자들이 로컬 AI 환경 구축 시 많이 사용하는 모델 중 하나이다.
Ollama와 함께 사용하면 자신의 PC에서 무료로 AI 코딩 도우미를 구축할 수 있다.
Continue / Ollama / Qwen3 설치 방법
VS Code 에서 무료 AI 코딩 환경을 구축하기 전에 Continue, Ollama, Qwen3 각각을 먼저 설치 해야한다.
Continue 설치
VS Code에서 AI 코딩 도우미를 사용하기 위해 Continue 확장 프로그램을 설치해 보겠다.


1. 확장 프로그램(Extensions) 메뉴 열기
2. 확장 프로그램 검색창에 Continue 검색
3. Continue - Open-source AI code assistant 설치(Install)
4. Continue 실행
정상 설치가 되었다면 위와 같이 Continue 생성되며 AI 채팅 화면이 열리며, AI 모델을 연결할 준비가 완료 된다.
Ollama 설치
Ollama 공식 홈페이지에 접속하여 자신의 운영체제에 맞는 설치 파일을 다운로드한다.
https://ollama.com
Ollama
Ollama is the easiest way to automate your work using open models, while keeping your data safe.
ollama.com
지원 OS 는 Windows, Mac OS, Linux 가 있다. 사용자 PC 에 맞는 OS로 선택하여 설치를 진행한다.
설치가 완료되면 명령 프롬프트(cmd)를 실행하여 정상 설치 여부를 확인한다.
ollama --version

위와 같이 버전 정보가 출력되면 정상 설치된 것이다.
Qwen3 설치
다음은 AI 모델 Qwen3 를 설치 할 차례이다.
좀전에 사용한 명령 프롬프트에 다음과 같이 명령어를 입력한다.
ollama pull qwen3

모델 크기에 따라 다운로드 시간이 다소 소요될 수 있다
모델 다운로드가 완료되면 다음 명령어로 실행할 수 있다.
ollama run qwen3
정상적으로 실행되면 아래와 같은 화면이 나타난다.

이 메시지가 표시되면 Qwen3 모델이 정상적으로 설치 및 실행된 상태이다.
종료는 /bye 또는 Ctrl + d 로 가능하다.
설치 버전 확인하기 ollama list
상세 확인하기 ollama show 모델명
삭제 하기 ollama rm 모델명
참고로 VS Code 에서 사용할 때 Qwen3 는 종료되어 있어도 되고, ollama 는 AI 로컬 서버 역할을 하기 때문에 실행 상태여야 한다.
VS Code 연동
Continue는 다양한 AI 모델과 연동할 수 있는데, 여기서는 Ollama와 Qwen3를 연동한다.

1. Continue 설정 화면에서 모델 추가(Add Model)를 선택
2. 모델 제공자(Provider)는 Ollama를 선택하고 모델명에는 qwen3를 입력
3. 만약 2번 처럼 직접 선택해야 하는 모델에 없는 경우 수동 설정 진행(continue > config.yaml)
설정이 완료되면 다음과 같은 구조로 동작하게 된다.
VS Code
↓
Continue
↓
Ollama
↓
Qwen3
이제 VS Code 안에서 AI 기능을 사용할 수 있다.
사용 예시
파이썬 코드를 사용하여 구구단을 출력하는 소스를 만들어 달라고 해보자!

위와 같이 답변을 받았다면 연결 성공이다.
물론 상용하는 ChatGPT 최신버전이나 Gemini 보다 성능이 조금 떨어질 수 있고, 복잡한 설계 같은 것은 어렵지만 일반적인 수준의 코딩 및 리펙토링 오류 점검 등은 가능하고 속도도 괜찮아서 무료로 사용하기 좋다.
'개발노트' 카테고리의 다른 글
| VS Code에서 Java 개발환경 구축하기 (0) | 2026.06.18 |
|---|---|
| Java JDK 설치 및 환경변수 설정 방법 (Windows 11 기준) (0) | 2026.06.10 |
| 비주얼 스튜디오 코드(VS Code) 사용 전 알아두면 좋은 기본 설정 (0) | 2026.06.07 |
| Java 개발 환경 세팅하기 (Windows 11 + IntelliJ IDEA) (0) | 2026.05.31 |
| 비주얼 스튜디오 코드(Visual Studio Code) 소개 및 설치 (0) | 2023.06.23 |