상위 0.001프로만 쓰는 Ai사용법

시스템 프롬프트가 길어질수록 AI가 멍청해지는 진짜 이유

제가 실제로 리모션 영상 자동화 프로그램을 만들 때 시스템 프롬프트가 A4 용지 5~6장 분량까지 불어났어요. 처음엔 잘 돌아가던 게, 기능이 하나씩 추가되면서 이상한 결과를 내기 시작하더라고요.

앤스로픽 워크샵 영상에서도 비슷한 사례를 봤는데, 재고 관리 AI에 예측 발주 기능까지 붙이다 보니 규칙이 서로 충돌하면서 성능이 떨어졌다고 해요. 원인은 간단해요. AI는 시스템 프롬프트가 길어지면 중간 내용을 제대로 읽지 못하거든요. 클로드 같은 모델도 300~400줄을 넘기면 앞부분과 끝부분만 기억하고 나머지는 대충 넘기더라고요.

그래서 현업에서는 시스템 프롬프트를 200줄 이하로 유지하는 걸 원칙으로 삼고 있어요. 지금 이 영상 만드는 데 쓰는 프롬프트도 200줄이 안 돼요. 중요한 건 핵심 규칙을 앞과 뒤에 몰아넣는 거예요. 중간에 중요한 내용이 있으면 거의 읽히지 않으니까요.

시스템 프롬프트와 스킬을 나누는 실전 기준

“그래도 규칙은 계속 늘어날 수밖에 없지 않나요?”라고 물을 수 있어요. 맞아요. 그래서 제가 쓰는 방법은 필요한 것만 시스템 프롬프트에 두고, 가끔 쓰는 건 스킬로 빼는 거예요.

스킬은 평소엔 안 쓰이다가 특정 작업이 들어올 때만 호출되는 형태로 만들어요. LLM 위키 개념과 비슷한데, 필요한 데이터만 꺼내 쓰는 거죠.

엔스로픽 공식 문서를 보고 스킬로 뺄 수 있는 부분은 AI한테 직접 물어보는 게 제일 빠르더라고요. “이 기능은 스킬로 만들어도 될까?”라고 물으면 AI가 역으로 필요한 정보를 물어봐요. 그때 답해주면 알아서 정리해 주거든요.

스킬을 쓸 때는 네 가지 원칙을 지켜요. 1. 일반 상식은 빼고 우리만 아는 정보만 넣기 2. 작업 성격에 따라 지시를 빡빡하게 할지, 방향만 줄지 정하기 3. “언제 쓰는지”를 한 줄로 명확히 적기 4. 너무 길면 본문은 목차처럼 짧게 하고 상세 내용은 별도 파일로 분리하기

이렇게 하면 AI가 헷갈리지 않고 정확히 꺼내 쓰더라고요.

MCP·서브에이전트, 그리고 결국 중요한 도메인 지식

MCP는 AI에 외부 도구를 연결해 주는 통로예요. 편리하지만 컨텍스트를 많이 먹기 때문에 꼭 필요한 것만 쓰는 게 좋아요.

서브에이전트는 두 경우에만 쓰는 걸 추천해요. 여러 작업을 동시에 돌려야 할 때, 그리고 검수처럼 신선한 시각이 필요할 때예요. 다만 요즘 GPT-5.5나 Claude 4.7처럼 모델이 똑똑해지면서 서브에이전트를 줄이는 추세더라고요.

결국 가장 중요한 건 AI가 절대 가질 수 없는 도메인 지식이에요. 코드나 글은 AI가 대신 써주지만, “무엇을 왜 만들어야 하는지”는 현장에서 직접 부딪혀 본 사람만 알아요. 그래서 AI사용법의 마지막 단계는 기술이 아니라 여러분이 가진 현장 경험을 어떻게 AI와 결합하느냐예요.