AI 글쓰기 버릇을 학습으로 뺀 Qwen3-4B (qwen3-4b-deslop)

Who Should Read

LLM이 쓴 글에서 em dash·'not X, but Y' 같은 AI 티가 나서 고민인 콘텐츠·서비스 개발자

Core Mechanics

• AI 문체 점수 121→12.5
  • 40개 학습에 안 쓴 프롬프트에서 1000단어당 점수가 원본 Qwen3-4B-Instruct 대비 121에서 12.5로 내려갔다.
  • 답변의 68%가 사람 글 범위에 들어간다.
  • em dash는 1000단어당 20.5개에서 0개가 됐다.
• 시스템 프롬프트 없이 동작한다
  • 이전 실험은 생성 중 모델 내부 방향을 빼는 steering(내부 활성값 조종)이 필요했다.
  • 이번엔 LoRA 어댑터에 증류(teacher 답변을 student가 따라 배우기)로 습관을 가중치에 넣었다.
  • 어댑터는 288개 프롬프트 중 161개 답변으로 학습했다.
• 점수만 쫓으면 글이 망가졌다
  • 2라운드 모델은 점수 9.9였지만 입장 없는 의견글, 지어낸 연구, 문장마다 ', which'를 붙이는 버릇이 생겼다.
  • ', which' 버릇은 teacher 프롬프트의 'because, so, but, which로 문장을 이어라'는 지시를 증폭한 결과였다.
  • 이 시점 과제 충족률은 60%로 원본 78%보다 낮았다.
• 과제 적합성 필터를 추가해 고쳤다
  • 의견글은 초반에 입장, 회고는 1인칭, 이메일은 인사말, 길이는 요청에 맞는지 규칙으로 확인했다.
  • 3라운드 teacher 프롬프트는 과제를 먼저 두고 연구·이름을 지어내지 말라고 했다.
  • 답변 3개씩 생성해 약 30%만 통과시켰고 점수는 12.5, 과제 충족률은 80%로 돌아왔다.

Community Reactions

• AI 문체는 결국 같은 모델 탓이라는 의견
  • 모두가 같은 모델을 쓰니 그 스타일이 곧 'AI 티'가 된다는 댓글이 있었다.
  • 이 글의 스타일이 널리 쓰이면 그것도 질릴 것이라는 지적이다.
• 이미 비슷한 시도가 있었다는 정보
  • sam-paech의 gemma-3-27b-it-antislop이 먼저 나왔고 풀사이즈에서 쓸 만하다는 댓글이 있었다.
  • slopwash.com 운영자는 후처리 학습보다 평가 문제로 접근한다고 했다.
• 여전히 AI 티가 난다는 반응과 새 버릇 우려
  • 약간 나아졌지만 AI가 쓴 게 뻔히 보인다는 의견이 있었다.
  • 새로운 tic가 생기는 건 아닌지 묻는 질문도 있었다.
• 상황별 문체가 다르다는 의견
  • 구조적인 'slop' 문체가 기업 커뮤니케이션에는 더 맞는다는 댓글이 있었다.
  • 정제된 버전은 리뷰 같은 용도에 적합해 보인다는 의견이다.
• Q4 버전이 16k 토큰 이후 반복한다는 경험
  • Q4 GGUF가 16k 토큰 생성 뒤 루프에 빠진다는 보고가 있었다.

How to Apply

• 내 서비스 출력에 AI 티 점검 정규식 돌리기
  • 오늘 최근 LLM 출력 50개를 모아 em dash, 'not X, but Y', 'delve', 'here's the thing' 개수를 1000단어당으로 세라.
  • 기준선을 먼저 만들어 두고 프롬프트를 바꿀 때마다 비교하라.
• Ollama로 deslop 모델 돌려 비교하기
  • ollama run hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF:Q4_K_M으로 우리 프롬프트 10개를 돌려라.
  • 기존 모델 출력과 나란히 놓고 점수와 과제 적합도를 확인하라.
• 증류 데이터 필터에 과제 적합도 체크 넣기
  • 자체 파인튜닝 데이터를 만들 때 스타일 점수만 보지 말고 입장·인칭·인사말·길이 규칙을 같이 걸어라.
  • 지어낸 연구·수치를 세는 규칙도 넣어라.
• teacher 프롬프트의 문장 연결 지시 점검하기
  • 'because, so, which로 이어라' 같은 지시가 있으면 증폭되니 빼라.
  • 과제 수행을 스타일 지시보다 앞에 둬라.

Try It

# Claude 또는 ChatGPT에 붙여넣기 (논문 방법의 간이 버전: 생성 후 AI 문체 점검)

아래 {{문서}}를 다음 기준으로 점수화하고 고쳐 써줘.
기준: em dash, 'not X, but Y', 3개 나열, 바로 답하는 수사 질문, 'here's the thing' 같은 안내 문구, 'delve'·'seamless' 같은 단어, 강조용 짧은 조각문.
1) 각 항목 개수를 세어 1000단어당 점수로 환산해줘.
2) 같은 내용과 입장을 유지하며 위 습관 없이 다시 써줘. 연구·수치·인명을 새로 지어내지 마.
3) 요청 과제({{과제: 의견글/이메일/회고}})에 맞는지(입장, 인칭, 인사말, 길이)도 확인해줘.

{{문서}}

이어서 해 볼 것: 고쳐 쓴 글을 다시 같은 기준으로 점수화해서 새 버릇이 생겼는지 확인해 봐.

Terminology

관련 논문

• Dust: 역전파 없이 Transformer를 사전학습하는 방법

  활성값에 토큰별 노이즈를 줬더니 역전파 없이 Transformer 사전학습이 됐다

• TurboGPT: 22KiB 트랜스포머를 13초 만에 학습시키는 CUDA 프로젝트

  CUDA C++로 바이트 단위 tiny GPT를 1분 안에 학습하는 오픈소스

• Gemini가 만든 라벨 $9로 자기 대체 모델 GLiNER 학습시키기

  Gemini 라벨 $9로 GLiNER를 튜닝해 로컬에서 F1 0.83 달성

• 절대 포기하지 않기(Never Give Up): LLM RL에서 어려운 문제를 풀게 만드는 방법

  쉬운 문제에 쓰는 연산을 줄이고 어려운 문제를 재시도했더니 어려운 문제 성능이 올랐다

• 3.8B LLM을 $998로 학습해 CORE 0.384 달성하기

  B200 8장으로 43시간, $998를 들여 3.8B 모델이 CORE 0.384를 기록했다

• Paul Graham: "17살이면 LLM을 밑바닥부터 만들어 보겠다"

  PG는 17살이면 창업 말고 LLM 밑바닥 구현부터 배우겠다고 했다

• DeepSeek을 GPT-OSS에 증류해도 검열은 따라오지 않았다

  DeepSeek V4 Flash로 금융 추론을 증류했더니 성능은 올랐고 검열은 안 따라왔다

Related Resources

• https://100toolkit.com/blog/deslop-model/
• https://huggingface.co/sam-paech/gemma-3-27b-it-antislop
• https://slopwash.com
• https://huggingface.co/erikkannike/qwen3-4b-deslop-v4