LG유플러스는 여러 생성형 AI 모델을 통해 다양한 애플리케이션 및 Use Case를 구현하였습니다. 자체 개발한 IxI모델을 비롯하여, OpenAI GPT, Google Gemini 등 타 CSP 모델 및 Amazon Bedrock도 활용하고 있는 상황에서 생성형 AI 애플리케이션 개발을 가속화하기 위해 전사 표준의 멀티 LLM 게이트웨이를 AWS 환경에 구축하고 있습니다. 이번 세션에서는 LG유플러스가 빠르게 발전하는 생성형 AI 모델을 어떤 방향으로 활용하고, 멀티 LLM 게이트웨이 구현 시 필요한 고려 사항과 어려움, 그리고 이를 위한 자세한 아키텍쳐에 대해 소개합니다.
출처:Amazon Web Services Korea