현재 국내에서는 2023년 ChatGPT 공개 이후 생성형 AI에 대한 관심과 활용이 크게 증가하고 있으며, 기업 간 활용 격차는 IT 기업에 비해 중소기업의 활용률이 아직 낮은 수준이다. 기업의 리더들은 생성형 AI와 같은 디지털 기술 활용 능력을 갖춘 인재를 선호하며, ChatGPT 외에도 검색 기능을 강화한 다양한 AI 솔루션들이 출시되고 있다. 그러나 국내 LLM은 파라미터 크기가 작아 ChatGPT와 같은 외산 LLM에 비해 답변 품질이 떨어질 수 있으며, 중국에서 개발된 DeepSeek와 같은 모델은 적은 비용으로 ChatGPT 4.5 수준의 성능을 보여 주목받고 있지만 데이터 투명성 및 보안 이슈가 제기된다.
생성형 AI는 초기 IBM Watson 퀴즈쇼 우승이나 알파고와 이세돌의 바둑 대결을 통해 AI에 대한 관심이 촉발되었으며, LLM 기반의 생성형 AI는 기존 AI와 달리 새로운 형태의 콘텐츠 생성이 가능하고 사용자 편의성을 바탕으로 다양한 분야에서 활용될 수 있어 큰 주목을 받는다.
생성형 AI 도입 시에는 보안 문제, 비용 문제, 정확도 문제의 세 가지 주요 고려 사항이 있다. 기업 내부 정보 유출에 대한 우려로 자체 구축 사례가 늘고 있으며, GPU 가격 상승으로 인해 추론에 더 효율적인 NPU 등 AI 반도체에 대한 관심이 높아지고 있다. 할루시네이션 현상 감소를 위해 기업 데이터 기반의 답변 시스템 구축이 필요하지만, 100% 정확도는 어려우며 지속적인 튜닝이 필요하고, RDB에 저장된 내부 정보와 LLM 연동은 아직 기술적인 어려움이 존재한다.
향후 AI 트렌드는 온프레미스 구축 증가, 부서별 맞춤형 AI, AI 에이전트 활성화, 거버넌스 및 윤리 문제의 중요성 증대, 그리고 기존 시스템과의 연동이 중요한 과제가 될 것으로 전망된다. 산업별 AI 활용 사례로는 삼성 가우스, SKT 에이닷, LG 엑사원, 포스코 AI 웍스와 같은 대기업의 자체 LLM 개발, 금융권의 AI 로봇 및 로봇 어드바이저 활용과 자체 생성형 AI 플랫폼 구축, 공공기관의 민원 서비스 개선을 위한 생성형 AI 도입 검토, 제조업의 스마트 팩토리 구축 및 생산성 향상 등이 있다.
출처:DIA Nexus
