경제신문스크랩 > 매일경제 > KT, 개인맞춤 비서로 AI 서비스 속도 낸다

헤드라인

KT, 개인맞춤 비서로 AI 서비스 속도 낸다   23일 타운홀 회의서 전략 공유

https://n.news.naver.com/mnews/article/009/0005340054

본문

KT가 인공지능(AI)에이전트(비서) 상용화에 본격 착수했다. 그동안 KT기술혁신 부문 AI 테크랩 주도로 개발해 왔지만 전략·신사업 부문에서 개발 지원을 맡아 상용화를 서두른다.

24일 통신 업계에 따르면 KT는 지난 23일 오후 서울 송파 사옥에서 신수정 전략·신사업 부문장을 중심으로 임직원들과 타운홀 회의를 열었다.

 

이 자리에서 전략·신사업 부문에 대한 정책을 공유하면서 'AI 에이전트' 상용화 계획을 구체화했다. KT는 지난 1일 수시 조직 개편을 단행했고 AI 에이전트 서비스 개발과 상용화에 속도를 내기로 했다. 이진형 AI사업 담당 상무보가 KT AI에이전트 개발지원 TF장을 겸직한다.

 

KT는 AI 인프라스트럭처 사업을 본격 추진하겠다는 목표로 수시 조직 개편까지 단행하면서 전략·신사업 부문에 AI/클라우드 사업본부를 신설했다. 이 사업 본부에 AI 에이전트 개발 지원이란 '특명'이 내려진 셈이다.

 

일반적으로 AI 에이전트는 개인형 AI 비서(PAA)를 목표로 한다. KT는 AI 에이전트 기술을 사용해 우선 내부 업무 효율성을 높이고 이후 IP TV나 모바일 기기로 확대할 계획이다. 향후 금융·카드 등 계열사들을 통해 다양한 서비스에 AI 에이전트를 접목할 계획이다.

SK텔레콤은 2023년 9월 에이닷을 정식 출시했고 통화 녹음 요약과 실시간 통역 서비스 등으로 수익 모델 구축에 박차를 가하고 있다. LG 유플러스도 지난 4월 상담, 장애, 유독 AI 상품 추천, 비즈마켓 솔루션 안내 등 4가지 AI 에이전트 서비스 '챗 에이전트'를 선보인 바 있다. KT가 AI 에이전트 개발을 서두를 수밖에 없는 이유다.

기사 내용의 수치화, 인사이트 나누기

1. KT가 인공지능(AI)에이전트(비서) 상용화에 본격 착수했다. 그동안 KT 기술혁신 부문 AI 테크랩 주도로 개발해 왔지만 전략·신사업 부문에서 개발 지원을 맡아 상용화를 서두른다.

2. KT는 AI 에이전트 기술을 사용해 우선 내부 업무 효율성을 높이고 이후 IP TV나 모바일 기기로 확대할 계획이다. 향후 금융·카드 등 계열사들을 통해 다양한 서비스에 AI 에이전트를 접목할 계획이다.

3. SK텔레콤은 2023년 9월 에이닷을 정식 출시했고 통화 녹음 요약과 실시간 통역 서비스 등으로 수익 모델 구축에 박차를 가하고 있다. LG 유플러스도 지난 4월 상담, 장애, 유독 AI 상품 추천, 비즈마켓 솔루션 안내 등 4가지 AI 에이전트 서비스 '챗 에이전트'를 선보인 바 있다. KT가 AI 에이전트 개발을 서두를 수밖에 없는 이유다.

 

추가 조사할 내용 또는 결과

AI 에이전트(AI 비서)

a.   눈과 손이 달린 것처럼 고도화된 업무를 직접 수행함

b.   사람이 직접 프롬프트를 입력하는 LLM 기반 AI 챗봇과 달리 자율성을 바탕으로 스스로 업무를 수행함

c.   생성형 AI 기술을 활용해 답변을 생성하는 데서 나아가 필요 시 직접 여러 개의 API를 호출하고 도구를 활용해 복잡한 작업 수행 가능

d.   예시로 일정과 동선을 파악해 기차나 항공권을 예약하거나 재고를 파악해 가격 비교 등을 통해 필요한 제품을 구매하는 간단한 작업을 할 수 있다.

e.   예시) 스마트워치의 건강 관리, 스마트 홈 관리

 

AI 인프라스트럭처

a.   AI 기반 앱을 구축, 테스트, 학습 및 배치하기 위해 필요한 하드웨어 및 소프트웨어 기술 스택 전반을 의미한다.

 

라마 3

a.   메타의 3세대 LLM으로, 누구나 무료로 이용할 수 있으며 현재 3.1 버전까지 나왔다.

b.   파라미터가 4050억 개에 달하는 라마 3.1 405B부터 중형 모델 라마 3.1 70B, 소형 모델인 라마 3.1 8B까지 세 종류이다.

c.   라마 3.1 학습엔 엔비디아 현존 최고의 GPU인 H100 1만 6000개가 활용됐다. 

d.   이전 모델과 비교해 지원 가능 언어에 8개가 추가됐고 사람의 외모를 설명하면 이미지를 생성하는 기능도 생겼다. 

e.   대규모 다중작업 언어 이해(MMLU)에서 오픈AI의 GPT-4o, 앤스로픽의 클로드3.5 소네트를 능가했다.

 

클로드 3.5 소네트

a.   앤트로픽의 새로운 AI 모델로, GPT-4o를 능가하는 성능이다. 앤트로픽의 중간급 모델이며, 가장 강력한 모델인 클로스 3.5 오퍼스(Opus), 경량 모델인 클로드 3.5 하이쿠(Haiku)도 순차적으로 출시할 예정이다. 

b.   웹과 iOS 환경에서 클로드 사용자들과 개발자들이 활용 가능하다.

c.   클로드 3 오퍼스 대비 2배 속도로 작동하며 비용은 클로드 3 오퍼스의 1/5 수준이다.

d.   코딩 AI 에이전트 수준으로 활용할 수 있다.

 

대규모 다중작업 언어 이해(MMLU, Massive Multitask Language Understanding)

a.   하나의 특정 작업이나 주제에 국한되지 않고, 다양한 분야의 여러 작업을 포함한다. 자연어 처리, 번역, 요약, 질의응답, 감정 분석 등이 포함된다.

b.   다양한 데이터셋을 사용하여 여러 평가 지표를 사용해 모델의 성능을 평가함

요약

KT가 AI 에이전트 상용화에 착수했다. SK텔레콤의 에이닷, LG유플러스의 챗 에이전트 등 경쟁사들이 AI 에이전트로 인해 수익을 내고 있기 때문이다. KT는 AI 인프라스트럭처 사업을 본격 추진하겠다는 목표로 수시 조직 개편까지 수행하며 AI 에이전트 사업을 진행하고 있다. 우선 AI 에이전트 기술로 내부 효율성을 높이고 추후 IPTV, 모바일 기기로 확대할 계획이다. 향후 금융, 카드 등 계열사들을 통해 다양한 서비스에 AI 에이전트를 접목할 계획이다.

현직자에게 할 질문

AI 에이전트에 사용되는 기술은 무엇이 있는지 궁금합니다.

지도학습/비지도학습 등의 학습 방식이 궁금합니다.

경쟁사들에 비해 KT의 AI 에이전트의 장점이 무엇인지 궁금합니다.

AI 에이전트 기술을 개발할 때 문제점, 극복해야 할 점이 무엇이었는지 궁금합니다.

연관기사 링크

https://www.etnews.com/20240501000118

AI 에이전트 시대 열린다…단순 답변 넘어 '일상의 동반자'로

 

https://n.news.naver.com/mnews/article/015/0005013828

오픈소스 AI 선두 굳히기 나선 메타

 

https://www.aitimes.com/news/articleView.html?idxno=160843

앤트로픽, '클로드 3.5 소네트' 출시...'GPT-4o' 제치고 최강 모델 탈환 - AI타임스

 

https://it.donga.com/105279/

메타, 라마 3 LLM도 오픈소스로 공개··· '시장 장악력 더 높아질 듯'