chat GPT 거짓말을 줄이기 위한 설정 저장 방법 예시. ai 할루시네이션.

ai가 슬슬 스마트폰에 탑재되기 시작하고, 툭정 앱과의 협업도 하는 등, 일상 생활에 깊숙히 들어오기 시작했습니다.

지금은 chat GPT, 제미나이, 클로버 등 몇몇 업체들이 앞서나가고 있지만, 어찌 될지 지켜보긴 해야 할 듯 합니다.

시대를 바꿀만한 새로운 기술이나, 기기 등이 등장하면 기존의 강자들은 역사의 뒤안길로 사라지는 경우가 많기에, 지금 군림하고 있는 구글, 애플 등이 어떤 변화를 보일지도 궁금해지는 시점입니다.

생성형 ai는 상당히 편하고 똑똑하지만, 항상 이 놈들의 그럴 듯한 거짓말을 경계해야 하는데요.

오늘 포스팅에서는 생성형 ai의 할루시네이션이란 무엇인지와 이를 줄이기 위한 설정 방법에 대해 소개해보도록 하겠습니다.

제목은 chat GPT라고 쓰긴 했지만, 코파일럿, 제미나이, 등 다른 생성형 ai에도 동일하게 적용이 가능합니다.

👉 구글 드라이브에서 파일 검색하는 방법. 휴지통 파일 검색.

👉 카카오톡 2단계 인증 설정방법 및 유의사항.

ai 할루시네이션

할루시네이션이란 무엇인지, 어떻게 이 녀석을 줄일 수 있는지 등의 방법에 대해 소개해보도록 하겠습니다.

1. AI ‘할루시네이션(Hallucination)’이란?

인공지능의 할루시네이션(Hallucination)이란, 실제로 존재하지 않는 정보를 마치 사실처럼 만들어내는 현상을 말합니다.
즉, ChatGPT가 ‘거짓말을 하는 것처럼 보이는 오류’를 일으키는 경우를 뜻하지요.

문제는 인간의 경우 거짓말을 하면, 약간의 티가 나기 마련인데, 이 놈들은 아주 그럴듯하게 사기를 칩니다.

예를 들어, ChatGPT에게 “서울대학교 총장이 누구인가요?”라고 물었을 때, 최신 정보를 반영하지 못하고 임의의 이름을 만들어낸다면 이것이 바로 할루시네이션입니다.

서울대학교 총장은 김수한무두루미와거북이,... 뭐 이딴 식으로 말도 안되는 얘기를 여러 근거를 들어대며 사기를 칩니다.

이는 AI가 의도적으로 잘못된 말을 하는 것이 아니라, 불완전한 학습 데이터와 확률 기반 언어 생성 방식의 한계 때문에 발생합니다.

2. AI 할루시네이션 발생이유

AI의 거짓 정보 생성은 여러 요인으로 인해 나타납니다.

확률 기반 언어 생성 구조
ChatGPT는 “다음에 올 단어가 무엇일 확률이 높은가”를 계산해 문장을 만들어냅니다.
즉, ‘사실을 인식’하는 것이 아니라 ‘그럴듯한 문장’을 생성하는 구조이기 때문에, 논리적으로 맞아 보이지만 실제로는 틀린 정보를 말할 수 있습니다.
데이터 업데이트의 한계
인공지능은 학습된 시점 이후의 정보를 자동으로 알지 못합니다.
예를 들어 2023년 데이터를 기반으로 학습한 모델은 2025년의 사건이나 인물을 알 수 없지요.
그 결과, 최신 정보를 추정해 만들어내는 오류가 발생합니다.
질문이 모호한 경우
사용자의 질문이 불명확할 때 AI는 여러 해석 중 하나를 임의로 선택합니다.
예를 들어 “그 사람은 언제 죽었나요?”라는 질문에서 ‘그 사람’이 누구인지 명확하지 않다면, 모델이 임의의 인물을 추측해 답변할 수 있습니다.
출처 검증이 불가능한 구조
ChatGPT는 언어 모델이기 때문에 실시간으로 인터넷의 사실 여부를 확인하지 않습니다.
이 때문에 존재하지 않는 논문, 뉴스 기사, 혹은 인용문을 만들어내는 경우가 생기기도 합니다.

3. ChatGPT의 거짓말(할루시네이션)을 줄이는 실질적인 방법

(1) 웹 검색 기능 활성화하기

가장 직접적인 방법은 실시간 웹 검색 기능을 함께 사용하는 것입니다.
ChatGPT Plus의 경우 ‘웹 검색(web browsing)’ 기능을 켜두면, 최신 자료를 기반으로 답변을 제공합니다.
이를 통해 데이터 기반의 사실 검증이 가능해지고, 허위 정보가 크게 줄어듭니다.

예시 프롬프트:
“최신 뉴스와 공식 자료를 교차검증해서 알려주세요.”

(2) 질문(프롬프트)을 구체적으로 작성하기

AI에게 질문할 때는 맥락, 시점, 출처 기준을 명확히 제시하는 것이 중요합니다.

예시
❌ “애드센스 승인 빨리 받는 방법 알려줘요.”
✅ “2025년 기준으로, 구글 애드센스의 최신 승인 정책을 근거로 빠르게 승인받는 방법을 구체적으로 설명해주세요. 공식 문서 출처도 함께 알려주세요.”

이렇게 명확하게 지시하면 AI가 추측이 아닌, 정확한 문맥 기반 응답을 하게 됩니다.

(3) 시스템 설정 또는 ‘커스텀 지시(Custom Instruction)’ 활용하기

ChatGPT에서는 사용자의 요청에 따라 기본적인 응답 방향을 저장할 수 있습니다.
예를 들어, 아래와 같이 설정해두면 거짓 정보 생성 가능성을 상당히 줄일 수 있습니다.

예시:
“항상 3개 이상의 신뢰 가능한 출처를 확인하고, 불확실한 정보는 단정하지 말고 ‘불확실’이라고 명시해주세요.”

이러한 설정을 ChatGPT의 ‘Custom Instructions’ 항목에 저장해두면, 이후 모든 대화에서 같은 원칙이 자동 적용됩니다.

(4) 항상 출처를 함께 요청하기

AI가 제공한 답변의 근거를 직접 확인할 수 있도록 출처를 요구하는 습관을 들이시는 것이 좋습니다.

예시 프롬프트:
“이 내용의 근거가 되는 공식 사이트나 문서를 함께 알려주세요.”
“출처가 명확하지 않다면 ‘추정’이라고 표시해주세요.”

이렇게 요청하면 AI가 불확실한 정보를 임의로 단정하는 일을 크게 줄일 수 있습니다.

(5) AI의 답변을 사람의 판단으로 검증하기

아무리 AI의 설정을 정교하게 해도, 100% 정확할 수는 없습니다.
특히 법률, 의료, 재정, 정책 등과 같은 분야에서는 반드시 사용자가 직접 교차검증해야 합니다.
AI는 보조 도구이지, 진실의 최종 판단자가 아니라는 점을 명심해야 합니다.

4. AI 거짓말 방지 설정 적용 전후 예시

구분	설정 전	설정 후
질문	“2025년 애드센스 승인 기준이 뭐예요?”	“2025년 기준 구글 공식 정책과 최근 사용자 사례를 교차검증해서 설명해주세요.”
결과	“콘텐츠 품질이 중요합니다.” (모호함)	“2025년 3월 기준, 구글 공식 정책 페이지에 따르면 콘텐츠 독창성·AI 콘텐츠 표기·ads.txt 설정이 핵심입니다.” (출처 포함)
신뢰도	낮음	높음

이처럼 단순히 프롬프트 구조와 설정만 조정해도 AI의 할루시네이션 발생률은 눈에 띄게 감소합니다.

5. ChatGPT 거짓말 방지를 위한 ‘커스텀 설정 문장’ 예시 5가지

아래 문장들을 ChatGPT의 ‘사용자 설정(Custom Instructions)’ 또는 ‘시스템 명령’ 항목에 입력하시면, 거짓 정보 생성률을 크게 낮출 수 있습니다.

“항상 최소 3개의 신뢰 가능한 출처를 교차검증하고, 불확실한 내용은 ‘추정’이라고 표시해주세요.”
“사실 관계가 명확하지 않을 경우, 답변을 생성하지 말고 ‘확인 불가’라고 알려주세요.”
“최신 정보를 기반으로 답변할 때는 웹 검색을 우선 활용해주세요.”
“모호한 질문은 임의로 해석하지 말고, 의미를 명확히 물어본 후 답변해주세요.”
“항상 객관적인 사실 중심으로 답변하고, 주관적 추정은 피해주세요.”

이러한 설정은 단순하지만, 실제로 AI의 신뢰도를 향상시키는 가장 실용적인 방법입니다.

물론 이렇게 설정을 해두더라도, ai의 거짓말을 완벽히 막을 수는 없습니다.

다만 설정을 했을 때와, 안 했을 때의 차이점은 상당히 큽니다. 약간이나마 교차 검증을 통해, 할루시네이션을 줄이는 효과를 가져옵니다.

이 외에 제가 사용하는 방법은 제미나이에게 묻고, gpt에게 해당 답변을 복사하여 검증을 받거나, 반대의 방법을 사용하는데, 중요한 내용의 경우 이런 방식으로 ai간 교차 검증을 해보시는 것도 좋은 방법이라 생각합니다.

이상 생성형 ai의 할루시네이션은 무엇인지와 이를 줄이기 위한 설정 방법에 대한 소개 포스팅이었습니다.

봄, 여름, 가을, 겨울 그리고 다시 봄.

2025년 11월 11일 화요일