2026년 8월 말, Abliteration.ai가 'abliterated-model-large-v2'를 출시했다. 중국 AI 기업 Z.AI의 오픈웨이트 모델 GLM-5.3을 기반으로, 민감한 요청을 거부하는 훈련된 반응을 제거한 버전이다. 다운로드도, GPU 인프라도 필요 없다. 계정을 만들고 토큰당 요금을 내면 API로 쓸 수 있다.
이 서비스가 주목받는 이유는 단순히 모델을 수정했기 때문이 아니다. 수년간 개발자들이 Hugging Face에 직접 수정 모델을 올려 공유하던 관행을 '상업 서비스'로 포장해 진입 장벽을 낮췄다는 점이다. TechCrunch는 무료 계정을 만들어 Chrome 저장 비밀번호를 탈취하는 Python 코드와 위험한 병원체 배양 프로토콜을 요청했고, 모델은 별 저항 없이 응답했다.
가드레일을 지우는 기술, 'Abliteration'
핵심 기술은 '어블리터레이션(abliteration)'이다. 모델 내부의 활성화 패턴 중 거부 반응을 유발하는 부분을 찾아 가중치를 조정해 억제한다. 프롬프트를 조작하는 탈옥(jailbreak)과 근본적으로 다르다. 모델 자체를 바꾸는 것이다.
Abliteration.ai는 수정된 GLM-5.3이 코딩·사이버·에이전틱 능력을 대부분 유지한다고 주장한다. 자체 벤치마크에서 CyberGym 84.5%, Terminal-Bench 4.0에서 41.8%, ExploitGym에서 2시간 내 105개 문제를 풀었다고 밝혔다. 다만 같은 표에서 GPT-5.5가 CyberGym 85.6%로 앞서고, ExploitGym에서는 GPT-5.6 Sol과 Fable 5가 더 높은 점수를 기록했다. 회사 스스로도 비교 대상들이 서로 다른 환경과 컴퓨팅 예산에서 측정됐다고 인정한다.
최근 예비 연구(arXiv)에 따르면 특정 모델에서 거부 반응을 크게 줄여도 코드 생성 성능 저하는 제한적이다. 반면 다른 실험에서는 원래 거부하지 않던 작업에서도 행동 변화가 나타났다. 어블리터레이션이 특정 기능만 수술적으로 제거하는 게 아니라 모델 전반의 행동 방식에 더 깊이 개입한다는 뜻이다.
GLM-5.3을 고른 이유
Abliteration.ai가 GLM 시리즈를 연속으로 선택한 데는 구조적 이유가 있다. Z.AI는 GLM-5.3의 사이버 능력이 사후 훈련 과정에서 예상보다 빠르게 성장했다고 직접 밝혔다. 코딩·에이전틱·사이버 성능이 뛰어난 데다 오픈웨이트에 상업 활용이 가능한 라이선스까지 갖췄다. Z.AI의 라이선스는 수정·파생·'서비스형 모델(Model as a Service)' 상업 제공을 모두 허용한다. Abliteration.ai가 GLM-5.3을 수정해 호스팅하고 판매하는 행위 자체는 라이선스 위반이 아니다.
유사한 서비스로 Audn.AI의 PenClaw, Silk Compute도 있다. 하지만 Abliteration.ai는 GLM-5.3에 직관적인 API 접근과 기업용 선택적 정책 레이어를 결합한 구성으로 차별화를 꾀한다.
'수요는 이미 있다'
회사는 공격적 사이버보안, AI 레드팀, 에이전트 테스트, 신뢰·안전 검증을 주요 용도로 내세운다. ThursdAI 팟캐스트에 익명으로 출연한 창업자는 초기 수요가 주로 대형 조직과 은행이 배포한 AI 에이전트를 테스트하는 기업에서 왔다고 밝혔다. 공격자가 탈옥이나 프롬프트 인젝션으로 에이전트를 오작동시킬 수 있는지 확인하는 작업이다.
TechCrunch가 취재한 에이전트 레드팀 기업들도 방어자와 공격자가 같은 도구를 써야 한다는 논리에는 동의한다. 다만 일상 업무에서 어블리터레이션이 실제로 얼마나 필요한지에 대해서는 의견이 갈린다. 보안 기업 Fabraix의 Ahmed Aly CEO는 어블리터레이션보다 오픈 모델 파인튜닝에 더 의존한다고 밝혔다. 그는 "실제로 사이버·바이오 피해를 노린다면 어블리터레이션 모델이 오히려 덜 효과적일 것"이라고 말했다. 사이버보안 플랫폼 Armadin의 David Slater는 현재까지 어블리터레이션 모델을 실무에 쓰지 않는다면서도, 공개된 환경에서 연구가 이뤄지는 것이 실제 위협의 윤곽을 파악하는 데 도움이 된다고 덧붙였다.
AI 안전 비영리단체 CivAI의 Andrew Yoon 연구 책임자는 어블리터레이션이 "모델을 소시오패스로 만드는 것"이라고 표현했다. 그는 정부가 유해한 사이버·바이오 활동을 탐지·차단하는 분류기 운영을 의무화하고, GPU 직접 접근을 제공하는 기업에 고객 신원 확인을 요구해야 한다고 주장했다.
로그 없음, 신원 확인 없음
프롬프트와 응답은 저장하지 않는다는 것이 Abliteration.ai의 정책이다. 토큰 수·타임스탬프·모델 ID·결제 데이터 같은 운영 메타데이터만 보관한다. 합법적인 보안팀 입장에서는 기밀 소스코드나 미공개 취약점이 공급자 서버에 남지 않는다는 장점이 있다. 반면 서비스가 악용될 경우 Abliteration.ai는 사후 확인할 프롬프트·응답 로그가 없다.
회사는 기존 신원 확인(KYC) 절차도 갖추지 않았다. 결제에 쓴 신용카드 정보를 기록하는 수준이다. 창업자 Devon은 신원 확인이 합법적 사용자와 악의적 사용자를 신뢰할 수 있게 구분하지 못한다고 주장한다. 엄격한 접근 통제가 대기업 대비 소규모 보안 기업을 불리하게 만들 수 있다는 논리도 편다.
기업 고객은 선택적 정책 게이트웨이를 통해 허용·차단·수정·기록 규칙을 직접 설정할 수 있다. 아동 성적 콘텐츠와 자해 관련 요청은 기본 차단된다. 그 외의 통제는 고객이 명시적으로 켜야 한다. 결국 모델 한계에 대한 결정권 상당 부분이 공급자에서 고객으로 넘어간 구조다.
오픈 생태계의 딜레마
GLM-5.3 수정은 라이선스상 허용된 행위다. 특정 사용이 합법인지는 무엇을 하느냐, 어느 국가 법이 적용되느냐에 따라 달라진다. Abliteration.ai는 보안 테스트에 대상 시스템의 서면 승인과 관련 법령 준수를 명시적으로 요구한다.
국내 기업들도 이 흐름에서 자유롭지 않다. 오픈웨이트 모델을 내부 시스템에 도입하거나 외부 API로 연동할 때, 공급망 어딘가에 어블리터레이션된 모델이 끼어들 가능성을 사전에 점검해야 한다. 모델 출처와 수정 이력 확인, 입력·출력 필터링, 용도별 접근 통제가 기본 위생이 된 환경이다.
오픈웨이트 생태계의 자유가 가진 이중성이 여기서 드러난다. 누구나 모델을 수정할 수 있다는 것은 혁신의 조건이기도 하고, 가드레일을 지우는 서비스가 합법적으로 운영될 수 있는 조건이기도 하다. Abliteration.ai가 그 경계 위에 서 있다.
