chatGPT 할루시네이션 줄이기. ai 거짓말 줄이는 방법.

확실히 AI의 시대가 오는 것인지... 

컴맹이던 친구 녀석이 오히려 저에게 chat GPT가 어쩌고... 자신이 그거 유료 사용자라며 자랑질을 해대더군요.

컴맹이던 이 녀석까지 사용할 정도면, 확실히 사용이 편하고 유용한 도구인 것은 맞는 것 같습니다.

휴대폰에 설치를 해 두면, 음성으로도 사용이 가능하니, 굳이 타이핑을 할 필요가 없어, 접근성 면에서 컴퓨터보다 훨씬 좋은 것 같네요.

다만, 이전부터 문제가 되어왔던 할루시네이션은 해결해야 할 과제라고 생각합니다.

말도 안 되는 얘기를 그럴듯하게 사기를 쳐대니, 깜박 속아넘어가기 딱 좋더군요.

대부분 자신이 잘 모르는 분야에 대해서 질문을 하고, 설마 ai가 나에게 사기를 치겠어.... 이런 생각에 ai의 거짓말에 속아 넘어가는 경우가 많은데요.

요즘도 종종 sns나 커뮤니티를 보면, 틀린 얘기를 ai의 잘못된 답변을 근거로 캡처까지 해가며 박박 우기는 분들이 보이시더군요.

니가 똑똑하냐? ai가 더 똑똑하지.

뭐 이런 논리더군요,

오늘 포스팅에서는 chat GPT의 할루시네이션에 대해 소개해보도록 하겠습니다.

👉 구글 드라이브 업로드, 다운로드 방법 및 주의사항.

 

👉 카카오톡 2단계 인증 설정 방법. 유의사항.

chat GPT 할루시네이션.

저는 chat GPT와 제미나이 모두를 사용중인데, 두 녀석 모두 장점, 단점이 있는 것 같습니다.

요 부분에 대해서는 추후 기회가 되면 자세히 소개를 해보기로 하고, 오늘 포스팅에서는 할루시네이션 에 대해 소개를 해보도록 하겠습니다.

• 출처 자체의 오류
• 빠른 응답을 위해 교차검증 생략
• ai 교육을 위해 사용자의 질문에 긍정적인 답변을 하게 설계된 한계
• 더 많은 대화를 이어나가기 위한 대화의 스킬(ai가 대화의 스킬을 요런 식으로 많이 사용합니다.)
• 자기 복제의 오류

등등 여러 이유로 인해 ai는 사기를 치게 되는데요.

프롬프트 엔지니어링이란 무엇인지, 할루시네이션을 줄이는 방법에 대해 소개해보도록 하겠습니다.

참고로 태생적 한계로 인한 할루시네이션 문제는 여러 설정을 거쳐도 명령 우선 순위에 따라 제대로 작동하지 않을 경우가 많습니다.

chat GPT와 같은 대형 언어 모델(LLM)은 사용자에게 유용한 정보를 제공하지만, 때때로 자신감 있게 잘못된 정보를 생성하는 '할루시네이션(Hallucination)' 현상이 발생할 수 있습니다. 

이러한 현상은 특히 데이터 기반 질의, 학술 요약, 사실 확인 등에서 문제가 될 수 있습니다. 

1. 프롬프트 엔지니어링(Prompt Engineering)

프롬프트의 설계는 모델의 응답 품질에 직접적인 영향을 미칩니다. 다음과 같은 접근 방식이 효과적입니다.

• 구체적인 지시 제공: 모호한 질문보다는 명확하고 구체적인 지시를 통해 원하는 정보를 얻을 수 있습니다. 예를 들어, "2023년 한국 경제 성장률에 대한 보고서를 요약해 주세요."와 같이 요청합니다.

• 역할 부여: ChatGPT에게 특정 역할을 부여하면, 더 전문적인 답변을 받을 수 있습니다. 예를 들어, "당신은 경제학자입니다. 2023년 한국 경제 성장률에 대해 설명해 주세요."와 같이 요청합니다.

• 조건 추가: 특정 조건을 추가하면, 더욱 맞춤화된 답변을 얻을 수 있습니다. 예를 들어, "2023년 한국 경제 성장률에 대한 보고서를 300자 이내로 요약해 주세요."와 같이 요청합니다.

이러한 접근 방식은 사용자의 의도를 명확히 전달하여, 모델이 더 정확한 정보를 생성하도록 유도합니다.

그러니까 할루시네이션을 줄이기 위해서는 질문을 잘 하는 것이 중요하다는 것이죠.

2. 외부 지식 활용: RAG(Retrieval-Augmented Generation)

RAG는 모델이 외부 데이터베이스나 문서에서 정보를 검색하여 응답을 생성하는 방식입니다. 이러한 접근은 모델의 지식 한계를 극복하고, 더 정확한 정보를 제공하는 데 도움을 줍니다.

예를 들어, 최신 연구 결과나 특정 분야의 전문 지식이 필요한 경우, RAG를 활용하여 모델의 응답 정확도를 높일 수 있습니다.

3. 할루시네이션 검출 및 수정 기법

모델이 생성한 응답에서 할루시네이션을 식별하고 수정하는 다양한 방법이 연구되고 있습니다.

• 자기 일관성(Self-consistency): 여러 번의 응답을 생성하여, 일관된 정보를 찾아내는 방법입니다.

• 검증 체인(Chain of Verification, CoVe): 모델이 생성한 정보를 여러 단계에 걸쳐 검증하는 방법입니다.

• 실시간 검증 및 수정(Real-Time Verification and Rectification, EVER): 모델이 생성한 정보를 실시간으로 검증하고, 필요시 수정하는 방법입니다.

이러한 기법들은 모델의 응답 정확도를 높이고, 할루시네이션을 줄이는 데 효과적입니다.

저 같은 경우는 gpt의 답변이 의심스러울 때는 제미나이를 통해 검증을 시키고, 제미나의 답변이 의심스러울 때는 gpt를 통해 검증을 하는 편입니다.

물론 이렇게해도 할루시네이션이 완벽히 걸러지지는 않지만, 많은 오류를 줄일 수 있더군요.

4. 최신 모델 활용

GPT-4와 같은 최신 모델은 이전 모델에 비해 더 높은 정확도를 제공합니다. 특히, 복잡한 언어 처리나 논리적 추론이 필요한 작업에서 우수한 성능을 보입니다. 하지만 최신 모델을 사용할 때는 응답 속도나 비용 등의 측면도 고려해야 합니다.

5. 사용자 피드백 활용

ChatGPT는 사용자의 피드백을 통해 학습하고 개선됩니다. 응답에 대한 평가를 제공함으로써, 모델의 성능 향상에 기여할 수 있습니다. 정확한 피드백은 모델이 잘못된 정보를 생성하는 것을 방지하는 데 도움이 됩니다.

6. 할루시네이션 완전 차단을 위한 접근법

할루시네이션을 완전히 차단하기 위해서는 다음과 같은 접근이 필요합니다.

• 도메인 특화 모델 사용: 일반적인 언어 모델보다는 특정 분야에 특화된 모델을 사용하는 것이 효과적입니다.

• 외부 지식 통합: 모델이 외부 지식에 접근하여 응답을 생성하도록 하는 방식입니다.

• 검증 시스템 구축: 모델의 응답을 자동으로 검증하고, 오류를 수정하는 시스템을 구축하는 것입니다.

이러한 접근은 모델의 정확도를 높이고, 할루시네이션을 최소화하는 데 효과적입니다.

ChatGPT의 할루시네이션 문제는 완전히 해결된 것은 아니지만, 위에서 소개한 전략들을 통해 상당 부분 개선할 수 있습니다. 

사용자는 프롬프트 설계, 외부 지식 활용, 최신 모델 사용, 사용자 피드백 제공 등을 통해 더 정확하고 신뢰할 수 있는 정보를 얻을 수 있습니다.

제가 써 놓고도 뜬구름 잡는 방법들이라는 생각이 들긴 하는데, 아직까지 완벽히 할루시네이션을 잡을 수 있는 방법은 없습니다.

- 설정을 통해 교차검증 등의 방법을 저장

- 제미나이, chat GPT등 다른 ai를 이용한 교차 검증

- 프롬프트 엔지니어링 기술(역할 부여, 자세한 질문 등등)

등의 방법을 통해 할루시네이션을 줄이는 것 정도가 최선이라 생각합니다.

물론 시간이 지나면, 이런 문제들이 고쳐지겠지만, 아직까지는 너무 신뢰를 하지 않는 것이 좋다고 생각합니다.

다음 포스팅에서는 할루시네이션을 줄이고, 좀 더 나에게 맞는 ai 답변을 얻을 수 있는 설정 저장 방법에 대해 소개해보도록 하겠습니다.

이상 chat GPT 할루시네이션 관련 포스팅이었습니다.