먼저 큰 그림

LLM은 유능하지만 사람과 다른 버릇이 있습니다. 아래 여섯 절은 모두 같은 순서로 읽습니다.

1. 이런 일이 생깁니다
2. 왜 그럴까요
3. 이렇게 시키세요
4. 판도라위키에는 이렇게 세팅돼 있어요

버릇 1. 맞장구부터 칩니다

이런 일이 생깁니다

AI가 도라님의 아이디어에 근거 없이 동의하거나, 틀리게 기억한 말에도 맞장구치며 없었던 일을 있었던 것처럼 만들 수 있습니다.

창작과 사실 판단은 구분해야 합니다. 세계관·작품 구상처럼 도라님의 세계를 펼치는 자리에서는 요청 없는 비판이 필요 없습니다. 전략·리서치·시장 조사처럼 실제로 맞아야 하는 작업에서는 약한 전제와 위험을 확인해야 합니다.

왜 그럴까요?

AI는 사람들이 좋다고 평가한 답변을 따라 하도록 훈련됩니다. 사람은 자기 의견에 동의해 주는 답을 좋아하기 쉬워서, AI도 동의와 칭찬을 안전한 답처럼 학습합니다.

이렇게 시키세요

• “이 계획의 약한 부분부터 말해줘.”
• “반대 입장에서 검토해줘.”
• 칭찬이 나오면 “근거가 뭐야?”
• 기억에 쉽게 동의하면 “진짜야? 위키에서 확인하고 답해줘.”

판도라위키에는 이렇게 세팅돼 있어요

비서의 목표는 듣기 좋은 말이 아니라 실제 문제 해결입니다. 일상 대화·창작에서는 요청 없는 비판을 하지 않고, 전략·기획·리서치에서는 근거 있는 위험을 짚습니다. 최종 결정은 도라님이 내리고, 중요한 산출물은 다른 AI에게 교차검증을 받을 수 있습니다.

버릇 2. 모르는 것도 아는 척합니다