AI 플랫폼 및 업무 시스템 연계
AI Platform & System Integration
LiteLLM 기반 LLM Gateway와 MCP 연계 구조 설계 및 구현. 기존 인증·권한 체계를 활용한 엔터프라이즈 AI 통합 기반 구축.
Click or scroll to enter
안녕하세요, AI Platform Architect Karl입니다.
20년 동안 대형 커머스의 Backend Platform을 설계하고 운영해 왔고,지금은 엔터프라이즈 시스템에 AI를 연결하는 일을 하고 있습니다.
01Platform
30만~40만 명이 동시에 몰리는 티켓 오픈에도 버티는 진입제어 플랫폼을 직접 설계하고 운영했습니다.
02AI Integration
LLM Gateway와 MCP로, 기존 인증·권한 체계를 바꾸지 않고 업무 시스템에 AI를 연결합니다.
03AI/ML
RAG, 추천 모델, Fine-tuning까지. 모델을 바꾸기 전에 데이터와 운영을 먼저 봅니다.
04Approach
업무 요구사항과 기존 시스템의 제약을 분석해, 실제로 구현 가능한 아키텍처로 바꾸는 것이 제 일입니다.
AI 플랫폼 및 업무 시스템 연계
LiteLLM 기반 LLM Gateway와 MCP 연계 구조 설계 및 구현. 기존 인증·권한 체계를 활용한 엔터프라이즈 AI 통합 기반 구축.
SNS, 광고·리뷰 플랫폼, 보안 서비스 등 Web·API 시스템을 개발하며 Backend 엔지니어로서의 기반을 다졌습니다.
Also —SNS · 광고·리뷰 플랫폼 · 보안 서비스
외부 솔루션 NetFUNNEL의 반복 장애를 Redis 기반 자체 진입제어 플랫폼으로 대체해, 싸이·BTS 공연 예매의 30만~40만 동시 접속을 받아냈습니다.
커머스 챗봇 톡집사와 App Push 플랫폼을 만들었고, 이후 서비스 운영과 신규 서비스 인큐베이팅 조직의 팀장을 맡았습니다.
Case Studies클릭하면 상세 페이지로 이동합니다
Also —App Push Platform · fitUin 스타일링 앱 (2015) · 신규 서비스 인큐베이팅
매장 직원 업무의 30% 이상이 상품 위치 안내라는 현장 인터뷰에서 출발해, 2D·3D 매장 디지털맵을 이마트 앱에 상용화했습니다.
오프라인 매장 업무를 디지털로 바꾼 사례로 그룹사 DT 홍보영상에 소개되었습니다.
Case Studies클릭하면 상세 페이지로 이동합니다
사내 AX를 위한 공통 AI 플랫폼을 만들고 있습니다. LiteLLM 기반 LLM Gateway, 관리자 API 80개를 MCP Tool로 전환한 Admin MCP, Go 기반 RAG 챗봇을 구축했습니다.
Two-Tower 추천 모델과 pko-t5 상품명 보정 모델로 업무 자동화까지 이어가고 있습니다.
Case Studies클릭하면 상세 페이지로 이동합니다
Now — LLM Gateway

S1 · BreezyMind · Solo · 2024
TaskVibes — ADHD를 위한 음성 리마인더 · 습관 앱
텍스트 알림은 쉽게 지나칩니다. 할 일마다 내 목소리를 녹음해 두면 그 시간에 내 목소리로 알려주는 할 일 · 습관 앱입니다. 기획 · 디자인 · 앱 · Backend · 출시 · 운영까지 1인 개발로 만들고 있습니다.

S2 · BreezyMind · Solo · 2025
어디냥 — 보호자를 위한 가족 위치 · 안전 앱
아이와 어르신을 돌보는 보호자가 가족의 위치와 스마트폰 사용을 한 화면에서 관리하는 가족 안전 앱입니다. 실시간 위치, 안심구역 알림, 주변소리 듣기, 앱 사용 관리까지 기획부터 출시 · 운영까지 1인 개발로 만들었습니다.
지금까지가 저의 이력이라면,
다음은 함께 쓸 차례입니다.