이지훈 (Jihoon Lee)

Production AI Systems Engineer · 경력 2022.04 ~ 현재
AI Infrastructure · Agent Systems · LLMOps · Production ML

연락처 · lijihoon1206@gmail.com

Summary

센서 신호 파이프라인부터 LLM 에이전트까지, 프로덕션에서 실제로 돌아가는 AI 시스템을 설계·배포·운영합니다. 기술 선택을 측정 가능한 근거로 결정하고, 만든 뒤에 고장을 찾아내는 것을 업무의 절반으로 봅니다.

Selected Impact

  • 프로덕션 추론 파이프라인 E2E 처리 시간 3.3배 단축 (65.8 → 19.9초, 실개체 24시간 데이터)
  • 사내 자연어 데이터 에이전트를 1인 설계·운영 — 아키텍처를 A/B 실측으로 고르고, 채택안의 손해까지 기록
  • 조용한 장애를 찾아 막음 — 4시간 41분 무증상 장애 이후 health 를 실제 호출 기반으로 바꾸고 장애 알림 신설
  • SCI(E) 1편 게재 · IMU 행동 분류 1편 Sensors 심사 중 (특징 90% 감축, 성능 손실 1%p 미만) → Research

Skills

구분 내용
AI / LLM Claude API (tool-use), LangGraph, RAG (pgvector), MCP, eval 설계, 개인정보 비식별화
ML LightGBM, PyTorch, MLflow, 시계열·IMU 신호처리, 특징 추출 최적화
Language / Data Python, TypeScript, SQL · PostgreSQL, MySQL, ClickHouse, OpenSearch, Parquet
Backend / Web FastAPI, REST API · SvelteKit 2 (Svelte 5), Drizzle ORM
Infra AWS (IoT·S3·RDS·Lambda·ECR·OpenSearch), Docker, Cloudflare Access, Linux, cron 운영

Experience

㈜바딧 (Bodit) — 개발팀 데이터 분석파트

2024.12 – 재직 중 · 축산 IMU 센서 기반 행동 분석 (6축 25Hz → ML 파이프라인 → 농장주 앱)

분석 모델과 사내 데이터·AI 인프라를 함께 담당.

사내 LLM 에이전트 플랫폼 2026.04 – · 1인 설계·구현·운영 — 자연어로 사내 데이터를 조회하는 어시스턴트. MVP에서 시작해 tool-calling 에이전트로 전환.

  • 3-tier 데이터 라우팅(MySQL / PostgreSQL / ClickHouse + 폴백) 위에 RAG 지식베이스 구축 — MVP 때 스키마 문서 730건(95테이블·635컬럼)에서 시작해 소스를 늘렸고, 실사용 쿼리 로그 자동 승격 학습 루프를 붙임
  • 아키텍처 전환을 A/B 실측으로 결정. LLM 단일라벨 라우터는 table-jaccard 회귀(0.86 → 0.69)로 폐기. 능력을 툴로 노출하는 방식은 실행 성공률 47/47 동률에 조합 질의 5/5 통과(기존 구조로는 불가), 모호한 질문 되물음 약 5/6(기존 0/6)
  • 채택 근거를 정확도가 아니라 능력 확장으로 확정하고, 단일 질의 table-jaccard −5~7pp 손해까지 측정해 기록
  • fail-closed 비식별화 설계 — 마스킹이 적용되지 않으면 외부 LLM 전송 자체를 차단. 행 단위 선마스킹 + 정규식 백스톱 2중 방어로 컬럼 맥락만으로는 못 잡는 식별자까지 포착
  • 접점 4개: 원격 MCP 게이트웨이(SSO) · Slack 봇 · REST API · 앱 API. 능동 이상탐지(30분 주기 감지 + 원인 분석 → Slack)는 라이브 운영 후 임계치 재검토를 위해 정지
  • 조용한 장애 대응 — API 크레딧 소진 시 health 가 키 존재만 봐서 4시간 41분 동안 200 ok. 소진 신호도 문서와 달리 400이라 예비 키 전환이 걸리지 않음 → 검증 안 된 전환 분기 삭제, health 를 실제 호출(TTL 300초)로 교체, 5분 주기 장애 알림 신설

행동 분류 추론 파이프라인 — E2E 3.3배 2026.02 · 재작업 전담 — 6축 IMU raw 신호에서 903개 특징을 추출해 행동을 분류하는 프로덕션 코어 패키지를 단계적으로 재작업.

  • 병목을 먼저 측정 — 기침 특징 세트가 전체 시간의 48.6%. 63개 중 61개를 NumPy 배치 연산으로 선별 벡터화해 이 구간 9.8배, 2개는 per-row 유지
  • 외부 라이브러리(tsfresh) 호출 6개를 NumPy 재구현으로 대체 — 해당 구간 37% 단축, 의존성 제거
  • 교체마다 기존 per-row 함수와 수치 대조(오차 1e-6 이내). 경계값에 걸려 바뀐 통계 하나(53 → 40)는 숨기지 않고 기록
  • 모델 관리를 로컬 파일 폴백에서 MLflow 레지스트리 단일 경로로 전환
지표 이전 이후 개선
E2E 처리 시간 65.8초 19.9초 3.3배 단축
처리 속도 (E2E) 131 win/sec 433 win/sec 3.3배

실개체 24시간 raw 216만 행 / 8,640 윈도우 기준 · 전체 테스트 208 passed / 0 failed

전사 LLM 지식베이스 — privacy-safe 컴파일 파이프라인 2026.07 – · 1인 설계·구현·운영 — 사내 메신저 대화를 LLM이 컴파일해 유지보수하는 지식베이스. 검색이 아니라 컴파일된 문서에서 답하도록 설계.

  • 파이프라인: 12채널 수집 → 비식별화 2레이어(정규식 + GPU NER) → LLM 컴파일 → 위키 → 에이전트 질의
  • 비식별화 정밀도를 양방향으로 개선 — 식별번호 평문 노출 181 → 0건, 농장명은 단방향 해시 코드로 치환. 반대로 공공기관명 과마스킹은 해제하고 규칙을 문서화(회귀 assert 20건)
  • 손으로 돌리던 컴파일이 2주간 멈춰 답변 근거가 미검증 원문으로 퇴화한 것을 발견 → 주간 배치로 자동화. 첫 백로그 컴파일 12분·$7.34, 문서 5 → 13페이지
  • 최종 검토·머지는 사람이 유지 — NER 정확도가 90~95%라 개인정보 최종 게이트는 자동화하지 않는다고 판단. 리뷰에서 개인정보 유출 0/6

그 외

  • 가축 사고 실시간 탐지 — IMU 이상 신호 기반, 섀도우 배포
  • 사업 관리 시스템 — 요구 수집~배포 4일, 테스트 1,090건, 표준 라이브러리만으로 세션 계층 구현
  • 분석파트 통합 대시보드 — SvelteKit 2, Role × Group ACL + 감사 로그
  • 게이트웨이 온디바이스 추론 — 풀모델은 플래시 한계로 기각, 실측(CPU 3~6%) 기반 경량 하이브리드(약 193KB) 이식 진행 중
  • 알림 임계치 분석 — 현행 2단 규칙이 실질적으로 단일 임계치임을 실증

시큐레터㈜ (SecuLetter) — 기술연구소 TI팀 · 연구원

2022.04 – 2024.12 (2년 9개월) · 팀 3인

Threat Intelligence AI 모델 연구 및 TI 서비스 플랫폼 개발·운영.

  • MARS-TI Data Lake·ETL 구축 — AWS 크롤링 raw data와 OpenSearch에서 시각화 데이터를 추출하고, 메일·URL·파일 간 연관관계 형태로 변환. Svelte 기반 모니터링 화면 구현
  • 악성 메일 분류 MARS AI 구현(기여도 70%) — 메일 데이터 전처리, BERT-CNN 기반 헤더 특징 추출·악성 판별, FastAPI + AWS Lambda·ECS·ECR 서빙 연계
  • 학습 데이터 크롤러(50%)와 사내 데이터 확인 플랫폼 ConTI(80%) 구축 — Svelte/Tailwind + FastAPI/Lambda/OpenSearch
  • MARS-TI AI 서비스 연계 개선(60%) — FastAPI와 AWS Lambda를 VPC로 연결, API Gateway·ECS·ECR·OpenSearch 연계 강화

수집 → 정제 → 적재 → API → 화면까지 소규모 팀으로 운영해 본 경험. → 위협 인텔리전스 데이터 플랫폼

Education

호서대학교 대학원 컴퓨터공학과 (석사) · 2020.03 – 2022.02 · 학점 4.09 / 4.5 학위논문 「그래프 신경망 기반 행동 분류 모델 설계 및 구현」 — 웨어러블 6축 센서 → LSTM 특징 → GAT 노드 분류, 5개 행동 Test Accuracy 91.1%

호서대학교 컴퓨터소프트웨어학과 (학사) · 2014.03 – 2020.02

Awards

  • 최우수졸업논문상 — 호서대학교 대학원, 2022
  • 장려상 — 한국방송미디어공학회, 2019

Research Projects

  • 연구과제 참여 5건 — 한국연구재단 2, 산학협력단 1, 지자체 1, 교내 1 (2019~2022)

전체 논문·학술 발표 목록은 Research 페이지에 있습니다.