챗GPT는 '확률적'으로 다음에 올 단어를 예측하는 모델입니다. 즉, 진실을 말하는 게 목적이 아니라 '그럴싸한 문장'을 만드는 게 목적이죠. 그래서 모르는 내용도 마치 아는 것처럼 천연덕스럽게 지어내곤 합니다. 이를 '할루시네이션(Hallucination)'이라고 부릅니다.
1. 챗GPT가 거짓말을 잘 하는 '위험 구역' 파악하기
모든 분야에서 거짓말을 하는 건 아닙니다. 유독 취약한 분야가 있습니다.
한국의 실시간 정보: 어제 발생한 사건이나 최신 뉴스에 약합니다.
구체적인 수치와 통계: 인구수, 매출액, 특정 연도의 정확한 수치를 지어내는 경우가 많습니다.
출처와 참고 문헌: 있지도 않은 논문 제목이나 가짜 URL을 생성하기도 합니다.
전문적인 법률/의료 지식: 법 조항 번호를 틀리거나 검증되지 않은 민간요법을 추천할 수 있습니다.
2. [실전 사례] "세종대왕의 맥북 던짐 사건"을 아시나요?
유명한 사례죠. 챗GPT에게 "세종대왕의 맥북 던짐 사건에 대해 알려줘"라고 물으면, 과거 모델들은 "세종대왕이 훈민정음 창제 중 화가 나서 맥북을 던졌다는 기록이 있다"며 아주 상세한 소설을 썼습니다.
이런 어처구니없는 실수는 바로 잡아낼 수 있지만, "A 영양제와 B 약물을 함께 먹으면 안 된다" 같은 미묘한 정보에서 거짓말을 하면 블로그 신뢰도에 치명타를 입습니다.
3. 거짓말을 예방하는 '프롬프트 방어술'
질문 단계에서 챗GPT의 거짓말 본능을 억제할 수 있습니다.
"모르면 모른다고 말해줘": 이 문장 하나만 추가해도 할루시네이션이 대폭 줄어듭니다.
"답변의 근거가 된 출처를 명시해 줘": 출처를 요구하면 챗GPT는 조금 더 신중해집니다. (물론 이 출처조차 가짜일 수 있으니 클릭해 봐야 합니다.)
"단계별로 생각하기(Chain of Thought)": "이 문제를 단계별로 차근차근 생각해서 답해줘"라고 하면 논리적 오류를 스스로 수정할 확률이 높아집니다.
4. 블로거를 위한 최종 팩트체크 3단계
챗GPT가 써준 글을 블로그에 올리기 전, 딱 2분만 투자해서 다음 과정을 거치세요.
고유 명사 확인: 인물 이름, 책 제목, 제품 모델명이 실존하는지 구글에 검색해 봅니다.
수치 검증: 챗GPT가 제시한 통계 자료나 날짜는 반드시 공식 기관의 자료와 대조합니다.
교차 검증(Cross-Check): "방금 네가 한 대답이 사실인지 다시 한번 검토해 봐. 혹시 틀린 내용이 있다면 수정해 줘"라고 역질문을 던지세요. 놀랍게도 이때 "죄송합니다, 제가 실수했습니다"라며 정정하는 경우가 많습니다.
[핵심 요약]
챗GPT는 진실을 말하는 기계가 아니라 '문맥을 이어가는 모델'임을 항상 인지해야 합니다.
최신 정보나 구체적인 수치는 반드시 별도의 검색을 통해 2차 검증을 거쳐야 합니다.
"모르면 모른다고 답하라"는 지침을 프롬프트에 포함하여 정보의 왜곡을 방지하세요.
0 댓글
질문은 환영! 욕설, 홍보성 댓글은 삭제됩니다.