Q. 폐쇄망인데 챗GPT 같은 AI(LLM) 사용이 가능할까요?(소스코드 지원 포함!)
A. 결론부터 다시 말씀드릴게요! 폐쇄망에서도 AI(LLM)를 사용해서 개발팀의 간단한 도움이나 소스코드 지원을 받는 것은 충분히 가능합니다!
쉽게 말해, 우리가 평소에 쓰는 인터넷 기반의 AI 서비스(예: ChatGPT)는 마치 '외국에 있는 큰 도서관'에 가서 책을 빌려보는 것과 같아요. 그런데 폐쇄망은 '우리 회사 안에만 있는 작은 도서관'이라고 생각하시면 됩니다. 인터넷 연결 없이도 이 도서관에 있는 책들을 자유롭게 이용할 수 있는 거죠.
그럼 어떻게 우리 회사 안에서 AI 도서관을 만들 수 있을까요?
- '우리 회사 전용 AI 비서'를 데려오는 거예요!
- 우리가 흔히 아는 ChatGPT 같은 AI는 너무 거대해서 회사 안에 통째로 들여놓기 어렵고, 인터넷도 써야 하죠.
- 하지만 요즘에는 '작은 AI 비서'들도 많이 나오고 있어요. 스마트폰이나 노트북에도 들어갈 정도로 가볍게 만들어진 AI 모델들이죠.
- 이런 작은 AI 모델들을 우리 회사 서버나 개발팀 컴퓨터에 직접 설치하는 겁니다.
- 데이터는 '우리 회사 안에서만' 처리돼요!
- 가장 큰 장점이죠! 외부 인터넷에 데이터를 보낼 필요 없이, 우리 회사 내부 네트워크 안에서만 AI가 정보를 처리하고 답변을 줍니다.
- 그래서 보안 걱정은 훨씬 줄어듭니다. 회사의 민감한 데이터나 소스코드도 안전하게 AI의 도움을 받을 수 있죠. 마치 중요한 서류를 회사 밖으로 절대 안 내보내는 것과 같아요!
- 특히 소스코드 지원은 딱이에요!
- "소스코드에 대한 지원" 말씀하셨죠? 바로 이런 내부 AI가 빛을 발하는 부분입니다.
- 개발자들이 코드를 작성할 때, AI가 옆에서 자동으로 코드를 추천해주고(코드 자동 완성), 오류를 찾아주거나, 더 좋은 코드 작성법을 제안해 줄 수 있어요.
- 심지어 복잡한 코드를 던져주면 "이 코드가 무슨 일을 하는 건가요?" 하고 물어봤을 때 AI가 쉽게 설명해 줄 수도 있습니다. 이 모든 게 회사 내부에서 이뤄지니 소스코드 유출 걱정 없이 마음껏 활용할 수 있죠.
그럼 뭘 준비해야 할까요? (간단한 체크리스트!)
- 컴퓨터 사양 (비싼 슈퍼컴퓨터까진 아니어도!):
- AI를 돌리려면 어느 정도 **좋은 컴퓨터(특히 그래픽카드!)**가 필요해요. 우리가 게임할 때 그래픽카드가 중요하듯이, AI도 계산을 빨리하려면 좋은 그래픽카드가 필요하거든요. 회사에서 쓸 서버나 고성능 워크스테이션 한두 대 정도면 시작해볼 수 있습니다.
- 오픈소스 LLM Google의 Gemma 3 (젬마)
- 어떤 모델인가요? 구글이 최근 공개한 경량 오픈 모델 시리즈(2B, 7B)입니다. 자사의 강력한 Gemini 모델에서 영감을 받아 개발되었습니다.
- 왜 추천하나요?
- 구글의 기술력: 구글의 최신 LLM 기술이 적용된 모델입니다.
- 경량화: 2B, 7B 모델은 비교적 가벼워서 온디바이스(On-device)나 자원 제약이 있는 환경에서도 고려해볼 만합니다.
- 책임감 있는 AI: 구글이 강조하는 '책임감 있는 AI' 원칙이 반영되어 있습니다.
- 라이선스: Apache 2.0 으로 공공기관 프로젝트를 하면서 사용가능 합니다.
- 고려사항: 비교적 최신 모델이라 커뮤니티가 LLaMA만큼 활발하진 않을 수 있습니다. 라이선스 조건을 확인해야 합니다.
수다쟁이 PM의 진짜 찐찐팁! ✨ (너무 쉽게 생각 마시고...ㅎㅎ)
폐쇄망에서 AI를 쓴다는 건 결국, '우리 회사만을 위한 똑똑한 비서'를 직접 채용하고 교육시키는 것과 비슷하다고 생각하시면 돼요. 초기에는 비서를 고르고, 책상과 컴퓨터를 마련해주고, 우리 회사 업무를 가르치는 과정이 필요하겠죠?
하지만 일단 한번 잘 정착시키면, 이 AI 비서가 우리 개발팀의 생산성을 확! 올려주고, 복잡한 코드 문제도 척척 해결해주는 '든든한 조력자'가 될 겁니다. 특히 보안이 중요한 회사라면, 외부 서비스 이용 부담 없이 AI의 혜택을 누릴 수 있다는 게 가장 큰 장점이죠!
너무 어렵게 생각하지 마시고, "우리 팀에 소스코드 잘 아는 똑똑한 비서 하나 두자!"는 마음으로 접근해보시면 좋을 것 같습니다! 😉
* 관련하여 추가로 궁금하신 내용이 있으면 댓글 달아주세요~ :>
'Q&A(자문자답)' 카테고리의 다른 글
| Q. 요구사항 추적표'가 PM에게 왜 그렇게 중요한가요? 그냥 요구사항 정의서만 있으면 안 되나요? (0) | 2025.06.09 |
|---|---|
| Q. 설계 단계에서 PM이 가장 중요하게 챙겨야 할 활동은 무엇인가요? 체크리스트가 궁금해요! (0) | 2025.06.09 |
| Q. PM으로서 분석 단계에서 가장 중점적으로 관리해야 할 산출물은 무엇인가요? (0) | 2025.06.04 |
| Q. 요구사항 변경은 어떻게 관리해야 하나요? (1) | 2025.06.04 |
| Q. 프로젝트 중 갈등이 발생했을 때, PM으로서 어떻게 해결해야 할까요? 특히 발주기관과 수행사 간의 갈등이요. 매번 진땀 빼는 것 같아요. (2) | 2025.06.03 |