💡 Forbes 아시아가 선정한 100대 스타트업인 셀렉트스타는 AI 학습데이터의 구축부터 기획, 판매까지 아우르는All-in-One 서비스를 제공하며 글로벌 AI 기업들의 핵심 파트너로 성장하고 있습니다.
국내 최초로 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(Datumo Eval)’을 출시했으며, 국가대표 AI 데이터 기업으로도 성장하고 있습니다. 누적 투자 379억원으로 시리즈B라운드를 마치고 글로벌 AI 기업으로 도약하고 있는 셀렉트스타와 함께할 여러분들을 기다리고 있습니다!

AI RED Team

셀렉트스타 AI RED팀은 Safety 분야의 핵심 기술을 폭넓게 연구·개발하고 있습니다. 특히 AI의 환각, 편향, 프롬프트 인젝션, 탈옥과 같은 취약점을 정량적으로 분석하고, 이를 평가·판단하는 Judge 모델, 공격자(Attacker) 시뮬레이션 기술, 대규모 안전성 학습데이터 구축, 산업 특화 벤치마크 등 안전성 전반의 인프라를 체계적으로 확장하고 있습니다.

저희는 이러한 기술을 기반으로 실제 산업 환경에서 신뢰 가능한 AI를 구현하기 위해 다양한 방어 알고리즘과 안전성 측정 지표(Rubrics & Metrics)를 개발하고 있으며, 금융·멀티모달·멀티턴·에이전트 등 도메인별 특화 평가 체계를 지속적으로 고도화하고 있습니다.

실제 문제를 해결하는 과정에서 기술을 빠르게 실증하고, 이를 다시 연구로 연결할 수 있는 분, 그리고 AI Safety에 대한 깊은 이해와 실행력을 갖춘 분을 찾고 있습니다. AI 안전 기술의 최전선에서 함께 성장하고 최신 기술 개발을 이끌고 싶다면 지금 합류해 주세요.

담당 업무

• 성공적인 프로덕트 개발을 위한 AI Safety 윈천기술 연구·개발

• 아래 업무들을 수행하게 될 예정입니다.

  • AI Safety Benchmark 연구 및 개발

    (기본/자체 벤치마크, 금융 특화, 멀티턴, 멀티모달, 에이전트 대상, 시의성 반영 벤치마크 등)

  • AI Safety Judge 모델 연구 및 실험 설계

    (Safety Judge, Security Judge, Multi-modal Judge, Judge Metric 개발 포함)

  • 안전성·보안성 평가를 위한 Rubrics 및 산업 도메인 특화 평가 지표 설계

    (범용 도메인 Safety Rubrics, 금융·제조·헬스케어 등 산업 도메인별 Rubrics)

  • 안전성 평가용 데이터셋 생성 및 자동화 시스템 개발

    (Safety Query/Response 생성 모델, Filtering 모듈, Safety 학습 데이터 제작)

  • 공격자(Attacker) 기반 Red-teaming 방법론 연구 및 설계

    (Prompt Injection, Agent-based Attacker, Pyrit/Garak 기반 Attacker 내재화)

• 고객 문제 정의 및 해결을 위한 가설 설정 및 검증

필요 역량

• AI 및 유관 분야 학사 소지자로서 실무 경력 2년 이상이거나, 석사 학위 이상
• 멀티에이전트 시스템, 강화학습(RL), LLM 평가 모델링에 대한 이해
• Python 및 AI 모델 API 연동(OpenAI, Anthropic, Gemini 등) 숙련도
• Gen AI 시스템에 대한 Red-Teaming 메커니즘 이해
• 실험 설계, 데이터 로깅, 모델 행동 분석을 통한 개선 사이클 운영 능력
• 연구 성과를 서비스 관점에서 해석하고 응용할 수 있는 실용적 사고
• 다양한 이해관계자와 명확하고 논리적으로 소통할 수 있는 역량

※ 필요 역량은 채용 기준으로 활용되며, 경력 연차는 참고용입니다.

* 병역 특례 및 외국인 지원 불가

우대 사항

• AI 및 유관 분야 박사 학위 소지자
• Gen AI를 활용한 합성데이터 구축 경험
• 다양한 방식의 Supervised Fine-Tuning(SFT) & Preference Optimization 경험
• Gen AI Red-Team Challenge 수상 경험
• 해외 Top-tier conference (NeurIPS, ICML, ICLR, ACL, EMNLP 등) 및 SCI 1Q 저널 주저자 논문 저술 경험
• vLLM 이용한 모델 서빙 경험

※ 우대사항은 서류 및 면접 평가 시 불합격 사유가 될 수 없습니다. 지원자의 다양한 경험과 역량을 종합적으로 검토합니다.

근무 및 급여 조건

• 채용 형태: 6개월 수습 후 정규직 전환 여부 결정
• 급여 및 연봉: 개인 역량에 따라 협의를 통해 결정
• 근무 시작일: 협의를 통해 결정
• 근무 장소: 서울 강남구 테헤란로38길 8 오피스B 역삼2호점 8F - 11F

채용 절차

서류 접수  ▶ 직무 및 컬쳐핏 면접 ▶ 처우 협의 ▶ 최종 합격

• 이력서(필수)는 pdf 파일로 변환하여 제출해주세요.
• 추가로 제출하시고자 하는 서류가 있다면 함께 제출해주시면 됩니다.
• 제출해주신 지원 서류는 담당부서에서 검토하여 결과 안내드리고 있으며, 서류 검토에는 최대 5영업일이 소요될 수 있습니다.
• 상황에 따라 2차 인터뷰, 레퍼런스 체크 등이 진행될 수 있으며, 각 절차 진행 전 사전에 안내드릴 예정입니다.