본문 바로가기

AI 배우기

🧠 AI 메모리에 무엇을 남길까? 전부 저장하면 망가지는 이유와 설계법 4가지

AI 메모리에 무엇을 남길까 - 썸네일

AI에게 "이건 기억해 둬"라고 말하면, 정말 다 기억할까요? AI 메모리는 대화가 끝난 뒤에도 파일로 남는 기억입니다. 그런데 무엇이든 다 적으면 메모가 빨리 낡고, 틀린 메모를 AI가 그대로 믿고 씁니다.

 

📌 3줄 요약

• AI 메모리는 대화가 끝나도 남아서, 다음 작업에서 다시 읽히는 기억입니다.

• 다 적으면 메모가 낡고, 정리하는 시간만 늘어납니다.

• 다시 알아내기 어려운 전략과 검증된 규칙만 남기고, 쉴 때 원본과 맞춰 보세요.

 

🧠 대화 안의 기억과 파일 메모는 다릅니다

같은 대화 안에서 AI가 앞 내용을 기억하는 것을 컨텍스트라고 합니다. 대화가 길어지면 AI가 예전 내용을 요약해 자리를 만들기도 합니다.

파일 메모는 다릅니다. 대화가 끝나도 남고, 다음 작업을 시작할 때 다시 읽히는 기억입니다. 앤트로픽은 11월 6일 공개한 연구 글에서 이 방식을 실험했습니다.

AI 메모리에 무엇을 남길까 - 대화 안의 기억과 파일 메모는 다릅니다

 

📉 다 적으면 메모가 먼저 낡습니다

앤트로픽의 포켓몬 게임 실험이 좋은 예입니다. 같은 게임을 두 모델에게 시켰습니다.

• Sonnet 3.7: 전투, 물건, 만난 인물마다 파일을 만들어 메모 파일 413개를 쌓았습니다. 배지는 1개였습니다.

• Fable 5: 메모 파일 9개와 global.md 1개만 썼습니다. 배지는 4개였습니다.

게임 상태는 계속 바뀌어서, 상세한 기록은 금방 틀린 정보가 됩니다. 첫 번째 모델은 메모를 정리하느라 게임 행동 없이 파일만 고치는 구간도 있었습니다.

AI 메모리에 무엇을 남길까 - 다 적으면 메모가 먼저 낡습니다

 

✅ 남길 것은 다시 알아내기 어려운 것입니다

화면에 그대로 보이는 정보는 적을 필요가 없습니다. 현재 돈, 현재 위치처럼 매번 다시 읽을 수 있는 값이 그렇습니다.

반대로 아래 내용은 가치가 큽니다.

• 목표와 다음 할 일

• 직접 시험해 보고 확인된 규칙, 그리고 그 근거

• 함정과 실수 기록

업무에 옮기면 고객 문의 답변 규칙, 보고서 양식의 확인된 조건, 자료 출처 목록이 여기에 해당합니다.

 

🚫 "실패만 기록하라" 같은 고정 규칙은 조심하세요

앤트로픽은 "실패만 기록하라"는 규칙을 주자 Opus 5와 Opus 4.7이 기억에서 얻던 성능 향상을 상당 부분 잃었다고 밝혔습니다.

반응형

강한 모델에는 메모의 목적을 알려 주고, 무엇을 적을지는 맡기는 편이 낫다는 결론입니다. 반대로 이전 모델인 Sonnet 4.6은 "메모를 먼저 읽고, 가설을 직접 검증하라"는 구체적 지시를 받자 벤치마크 점수가 거의 두 배가 됐습니다.

 

🔁 메모는 쉴 때 원본과 맞춰 보세요

틀린 메모를 그대로 두면 다음 작업에서도 믿고 쓰게 됩니다. 앤트로픽은 작업이 끝난 뒤 기록을 다시 읽고 메모를 원본 대화와 맞춰 보는 '드리밍(dreaming)'을 테스트했습니다.

• 포켓몬 실험에서 메모에 잘못 적힌 위치 하나 때문에 AI가 같은 함정에 세 번 빠졌습니다. 메모를 고친 뒤에는 동굴로 바로 다시 들어갔습니다.

• 위키 실험에서는 세션을 2회에서 128회로 늘리자 채점 기준 충족률이 13%에서 48%로 올랐습니다.

AI 메모리에 무엇을 남길까 - 메모는 쉴 때 원본과 맞춰 보세요

 

🗂️ 메모 설계 4가지

1. 맨 위는 짧은 목차로 두기

매번 먼저 읽히는 상단은 작게 둡니다. Claude Code의 자동 메모리는 MEMORY.md의 앞 200줄 또는 25KB만 불러옵니다.

2. 세부 내용은 아래 파일로 내리기

상단에는 핵심과 링크만 남기고, 긴 전략은 별도 파일로 둡니다.

3. 원문은 항목마다 따로, 그대로 적기

계약 조건 실험에서 여러 에이전트가 공유 표 하나에 요약을 쓰자 57개 사실 중 41개만 남았습니다. 계약마다 페이지를 따로 만들고 원문을 그대로 옮기자 57개가 모두 남았고, 충족률은 72%에서 100%가 됐습니다.

4. 날짜와 확인 여부 붙이기

적은 날짜와 '확인됨 / 미확인' 표시만 있어도, 나중에 믿어도 되는 메모인지 구분하기 쉽습니다.

 

⚠️ 메모에도 민감한 정보는 빼기

메모도 저장되는 자료입니다. 개인정보나 회사 기밀은 적지 않는 것이 원칙입니다.

 

❓ 자주 묻는 질문

Q. 메모는 많을수록 좋은가요?

A. 아닙니다. 가장 많이 적은 Sonnet 3.7은 게임에서 가장 멀리 가지 못했습니다. 짧고 검증된 메모가 낫습니다.

Q. AI가 메모를 직접 쓰게 해도 되나요?

A. 됩니다. 다만 나중에 한 번 원본과 맞춰 보세요. 틀린 메모가 다음 작업에 그대로 넘어갈 수 있습니다.

Q. 일반 챗봇 대화에서도 이 방법을 쓸 수 있나요?

A. 가능합니다. 중요한 결정과 확인된 규칙을 짧은 메모로 따로 정리해 두고, 새 대화를 시작할 때 함께 넣으면 됩니다.

 

※ 이 글은 앤트로픽 공식 연구 글(2026.11.06)과 전자신문, ZDNet Korea 보도(2026.11.11)를 바탕으로 정리한 일반 정보입니다. 실제 성능과 비용은 모델, 설정, 업무에 따라 다를 수 있습니다.

 

반응형