SKT ‘텔코 LLM’ 출격… AI 상담원이 신속 피드백

SKT ‘텔코 LLM’ 출격… AI 상담원이 신속 피드백

민나리 기자
민나리 기자
입력 2024-05-01 01:05
수정 2024-05-01 01:05
  • 기사 읽어주기
    다시듣기
  • 글씨 크기 조절
  • 댓글
    14

6월까지 AI 개발 완료할 예정
T멤버십 등 통신사 지침 학습

이미지 확대
에릭 데이비스 SKT AI 테크 컬래버레이션 담당이 30일 T타워에서 열린 기자설명회에서 ‘텔코 LLM’에 대해 설명하고 있다. SKT 제공
에릭 데이비스 SKT AI 테크 컬래버레이션 담당이 30일 T타워에서 열린 기자설명회에서 ‘텔코 LLM’에 대해 설명하고 있다.
SKT 제공
SK텔레콤(SKT)이 오는 6월까지 5G 요금제, T멤버십, 공시지원금 등 국내 통신 전문용어와 통신사 내부 지침을 학습한 ‘텔코 LLM’(통신업 특화 거대언어모델) 개발을 완료할 예정이라고 30일 밝혔다.

텔코 LLM은 우리나라 통신 전문용어는 물론 인공지능(AI) 윤리 가치와 같은 통신사 내부 지침을 학습한 통신 특화 LLM으로 GPT나 클로드와 같은 범용 LLM과는 차이가 있다. SKT는 미국의 AI 기업 오픈AI(GPT-4)와 엔트로픽(클로드)을 비롯해 자사의 에이닷엑스(A.X) 등 다양한 범용 모델에 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등을 학습시키는 방식으로 텔코 LLM을 개발하고 있다.

에릭 데이비스 SKT AI 테크 컬래버레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”면서 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세 조정(파인튜닝)과 모델 평가(벤치마킹)를 거쳐 다양한 텔코 LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략”이라고 설명했다.

SKT는 텔코 LLM이 향후 ▲고객센터 업무 ▲네트워크 인프라 운용 ▲기업의 경영지원 업무 등에서 유용하게 활용될 것이라고 설명했다. SKT는 이날 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축·개발할 수 있는 ‘인텔리전스 플랫폼’도 공개했다. 이 플랫폼은 일종의 기업용 AI 개발·운용 패키지로 통신업에 특화한 다양한 LLM을 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트 등에 쉽고 효율적으로 사용할 수 있다.

2024-05-01 15면
close button
많이 본 뉴스
1 / 3
31년 만에 만난 ‘KIA vs 삼성’
프로야구 최고의 명문이자 라이벌인 KIA와 삼성이 무려 31년 만에 한국시리즈 맞대결을 펼칩니다. 호랑이와 사자 군단의 격돌, 당신이 예상하는 우승팀은?
KIA 타이거즈
삼성 라이온즈
광고삭제
광고삭제
위로