사진=SK C&C

SK C&C가 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다고 6일 밝혔다.

생성형 AI 서비스 13종은 AI 챗팅·코딩·보고서 제작 등 일반 범용 AI 서비스 3종을 비롯해, 인사·재무/회계·법무·규제준수(Compliance)·구매/물류·생산관리·연구개발(R&D)·IT개발·마케팅·고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.

이들 서비스는 SK C&C가 AI 프롬프트, 사내 데이터 저장소, AI 오케스트레이터(Orchestrator)로 구성된 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 그리고 금융·제조 분야에서 수요가 많은 sLLM(경량화 거대언어모델)을 연계해 개발됐다.

특히 SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다.

마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 완벽한 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다는 설명이다.

마이챗을 활용해 기업 재무 정보, 시장 동향 등을 물어보거나 보고서 작성, 문서 요약, 외국어 번역 등의 업무를 맡길 수도 있고, 각종 업무 시스템 연계해 사내 지식 검색·상담 창구로도 역할 확대가 가능하다.

실제 마이챗의 핵심인 오케스트레이션 기술은 작년에 구축 완료한 ‘우리은행 AI 지식상담 서비스’에 적용됐다.

이외에도 SK주식회사, SK네트웍스, SKC, SK쉴더스 등 관계사에서 사용 중이며, 사내 헬프 데스크로 활용 범위를 확대할 예정이다.

직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다.

SK C&C는 제조 장비·설비 이상 징후를 탐지하고 장애 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 FAQ(자주 묻는 질문) 및 영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다

직무별 전문 AI 서비스는 채용 프로세스 자동화, 개인 맞춤형 인사 평가 및 육성, HR시스템 자동화 등 인사 업무를 비롯해, 재무/회계(IR 정보 지원), 법무(법률 검토 효율화), 규제 준수(규제 분석 및 검토 효율화), 구매/물류(공급망 관리 효율화), 생산관리(공정 최적화), 연구개발(데이터 검색 및 분석), IT개발(개발·품질관리 자동화), 마케팅(캠페인 자동화), 고객관리(상담 내용 요약 및 후처리) 등 여러 산업 고객들에게 적용한 우수 사례를 종합 적용했다.

SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류·환각(Hallucination), 내부 데이터 유출과 같은 우려도 없앴다.

생성형 AI 오케스트레이션 플랫폼에서 ▲파인 튜닝(Fine-Tuning, 미세 조정) ▲프롬프트 엔지니어링 ▲데이터 보안 및 권한 관리 등을 거치며 최적화된 LLM 및 sLLM 적용과 함께 보안 안정성도 확보할 수 있다.

특히 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 RAG(Retrieval Augmented Generation, 검색증강생성) 기반 스마트 에이전트 방식을 적용해 결과값에 대한 정확도도 높인다.

SK C&C 차지원 G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다”며 “기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수 있고, 비즈니스 밸류를 높이는 지렛대 역할을 할 수 있을 것”이라고 밝혔다.