Resume
Production AI Systems Engineer · 4년 5개월 AI Infrastructure · Agent Systems · LLMOps · Production ML
연락처 · lijihoon1206@gmail.com
Summary
센서 신호 파이프라인부터 LLM 에이전트까지, 프로덕션에서 실제로 돌아가는 AI 시스템을 설계·배포·운영합니다. 기술 선택을 측정 가능한 근거로 결정하고, 만든 뒤에 고장을 찾아내는 것을 업무의 절반으로 봅니다. 석사 전공(그래프 신경망 기반 행동 분류)이 현재 업무(IMU 행동 분석)와 직결되어 있습니다.
Selected Impact
- 프로덕션 추론 파이프라인 처리량 4.4배 · 지연 3.3배 개선 (96 → 423 win/sec)
- 사내 전 구성원이 쓰는 자연어 데이터 에이전트 설계·배포·운영 — Slack · MCP · REST · 앱 API 4개 접점
- fail-closed 개인정보 비식별화 아키텍처 설계 — 마스킹 미적용 시 외부 LLM 전송 자체를 차단
- LLM 아키텍처 채택을 A/B 실측으로 결정 — 회귀한 접근은 폐기, 채택안의 손해까지 측정해 공개 기록
- SCI(E) 1편 게재 · IMU 행동 분류 1편 투고 준비 (특징 90% 감축, 성능 손실 1%p 미만) → Research
Skills
| 구분 | 내용 |
|---|---|
| AI / LLM | Claude API (tool-use), LangGraph, RAG (pgvector), MCP, eval 설계, 개인정보 비식별화 |
| ML | LightGBM, PyTorch, MLflow, 시계열·IMU 신호처리, 특징 추출 최적화 |
| Language / Data | Python, TypeScript, SQL · PostgreSQL, MySQL, ClickHouse, OpenSearch, Parquet |
| Backend / Web | FastAPI, REST API · SvelteKit 5, Drizzle ORM |
| Infra | AWS (IoT·S3·RDS·Lambda·ECR·OpenSearch), Docker, Cloudflare Access, Linux, cron 운영 |
Experience
㈜바딧 (Bodit) — 개발팀 데이터 분석파트
2024.12 – 재직 중 · 축산 IMU 센서 기반 행동 분석 (6축 25Hz → ML 파이프라인 → 농장주 앱)
분석 모델과 사내 데이터·AI 인프라를 함께 담당. 아래 시스템은 설계·구현·배포·운영을 단독 수행.
사내 LLM 에이전트 플랫폼 — 자연어로 사내 데이터를 조회하는 어시스턴트. MVP에서 시작해 agentic workflow → tool-calling 에이전트로 전환.
- 3-tier 데이터 라우팅(MySQL / PostgreSQL / ClickHouse + 폴백) 위에 RAG 지식베이스 구축 — 스키마 문서 730건(95테이블·635컬럼) + 실사용 쿼리 로그 자동 승격 학습 루프
- 아키텍처 전환을 A/B 실측으로 결정. LLM 단일라벨 라우터는 정확도 회귀(0.86 → 0.69)로 폐기, 능력을 툴로 노출하는 방식은 baseline 동률에 조합 질의 5/5 통과 + 모호성 되물음 5/6 vs 0/6 → 채택 근거를 “정확도”가 아니라 능력 확장으로 확정하고, 단일 질의 정확도 −5pp 손해까지 측정해 기록
- fail-closed 비식별화 설계 — 마스킹이 적용되지 않은 상태에서는 외부 LLM 전송 자체를 차단. 행 단위 선마스킹 + 정규식 백스톱 2중 방어
- 접점 확장: 원격 MCP 게이트웨이(SSO) · 능동 이상탐지(주기 감지 + 자동 원인분석 → 알림) · Slack 봇 · REST API
행동 분류 추론 파이프라인 — 처리량 4.4배 — 6축 IMU raw 신호에서 903개 특징을 추출해 행동을 분류하는 프로덕션 코어 패키지를 단계적으로 재작업.
- 병목이던 외부 라이브러리를 NumPy 재구현으로 대체. 기존 출력과 수치 동일성을 검증한 뒤 교체해 결과 변화 없이 병목만 제거
- 가장 느린 특징 세트를 선별적으로 벡터화 — 63개 중 61개만 처리하고, 나머지 2개는 per-row 유지가 맞다고 판단해 남김
- 모델 관리를 로컬 파일 폴백에서 MLflow 레지스트리 단일 경로로 전환
| 지표 | 이전 | 이후 | 개선 |
|---|---|---|---|
| 처리 속도 | 96 win/sec | 423 win/sec | 4.4배 |
| E2E 파이프라인 | 65.8초 | 19.9초 | 3.3배 |
실개체 24시간 raw 216만 행 / 8,640 윈도우 기준 · 전체 테스트 208 passed / 0 failed
전사 LLM 지식베이스 — privacy-safe 컴파일 파이프라인 — 사내 메신저 대화를 LLM이 컴파일해 유지보수하는 지식베이스. 검색이 아니라 컴파일된 문서에서 답하도록 설계.
- 파이프라인: 12채널 수집 → 비식별화 2레이어(정규식 + GPU NER) → LLM 컴파일 → 위키 → 에이전트 질의
- 비식별화 정밀도 개선 — 식별번호가 평문으로 나가지 않도록 규칙을 정밀화하고, 기관명은 단방향 해시 코드로 치환. 반대로 공개정보 과마스킹은 해제하고 규칙을 문서화
- API 키 페일오버 — 잔액 소진 시 예비 키로 자동 전환하되 신호를
403 + billing_error로 한정 - 최종 검토·머지는 사람이 유지 — NER 정확도가 95% 미만이라 개인정보 최종 게이트는 자동화하지 않는다고 판단
그 외 — 가축 사고 실시간 탐지(IMU 이상 신호, 섀도우 배포) · 사업 관리 시스템(요구 수집~배포 4일, 테스트 1,090건, 표준 라이브러리만으로 세션 계층 자작) · 분석파트 통합 대시보드(SvelteKit 5, Role × Group ACL + 감사 로그) · 엣지 추론 타당성 판정(모델이 MCU 대비 8.2배 초과 → 기각, 저장 포맷 압축이 ROI 우위) · 알림 임계치 분석(현행 2단 규칙이 실질 단일 임계치임을 실증)
시큐레터㈜ (SecuLetter) — 기술연구소 TI팀 · 연구원
2022.04 – 2024.12 (2년 9개월) · 팀 3인
Threat Intelligence AI 모델 연구 및 TI 서비스 플랫폼 개발·운영.
- MARS-TI Data Lake·ETL 구축 — AWS 크롤링 raw data와 OpenSearch에서 시각화 데이터를 추출하고, 메일·URL·파일 간 연관관계 형태로 변환. Svelte 기반 모니터링 화면 구현
- 악성 메일 분류 MARS AI 구현(기여도 70%) — 메일 데이터 전처리, BERT-CNN 기반 헤더 특징 추출·악성 판별, FastAPI + AWS Lambda·ECS·ECR 서빙 연계
- 학습 데이터 크롤러(50%)와 사내 데이터 확인 플랫폼
ConTI(80%) 구축 — Svelte/Tailwind + FastAPI/Lambda/OpenSearch - MARS-TI AI 서비스 연계 개선(60%) — FastAPI와 AWS Lambda를 VPC로 연결, API Gateway·ECS·ECR·OpenSearch 연계 강화
수집 → 정제 → 적재 → 검색 → API → 화면까지 전 구간을 소규모 팀으로 운영해 본 경험.
Education
호서대학교 대학원 컴퓨터공학과 (석사) · 2020.03 – 2022.02 · 학점 4.09 / 4.5
학위논문 「그래프 신경망 기반 행동 분류 모델 설계 및 구현」 — 웨어러블 6축 센서 → LSTM 특징 → GAT 노드 분류, 5개 행동 Test Accuracy 91.1%
호서대학교 컴퓨터소프트웨어학과 (학사) · 2014.03 – 2020.02
Awards
- 최우수졸업논문상 — 호서대학교 대학원, 2022
- 장려상 — 한국방송미디어공학회, 2019
- 연구과제 참여 5건 — 한국연구재단 2, 산학협력단 1, 지자체 1, 교내 1 (2019~2022)
전체 논문·학술 발표 목록은 Research 페이지에 있습니다.