반응형

2025/05/16 2

챗GPT의 거짓말 AI 환각은 극복 가능한가?

챗GPT의 거짓말을 정정시켜서 뿌듯했던 기억이 있을 겁니다. 내가 아는 사실인데 챗GPT가 모르다니. 다른 사람들에게도 내가 아는 사실을 전달해 줄 것이라는 믿음도 생기고 보람찬 일을 했다고 생각하실 겁니다. 하지만 이러한 행동은 챗GPT에게 전혀 영향을 주지 않습니다.정정이 무효화 되는 구조, 학습 불가한 시스템, 사용자 한정 정정, 집단 지식 공유 결핍위 표현들이 챗GPT가 아무리 학습시켜도 챗GPT의 시스템에 사실에 대한 정정이나 학습이 불가능한 상황에 대해서 비유적인 표현을 만들어 준 것입니다.위 표현과 같이 챗GPT가 거짓말이나 오류에 대해서 학습을 시킨다고 해도 나에게만 오류를 인정하거나 정정하고 다른 타인에게는 이전과 같이 계속 잘못된 정보를 전달하거나 거짓말을 한다는 것이죠.챗GPT는 로그..

IT정보 2025.05.16

챗GPT의 거짓말 고백 AI 환각에 대해서

챗GPT와 알고 싶은 지식에 대해서 물어보면서 태연하게 거짓말을 일삼는 것을 보면서 이 AI와 대화를 해봤습니다. 역시나 예전에도 느꼈지만 모르는 지식에 대해서도 침도 안바르고 거짓말을 계속 일삼고 있군요. 왜 거짓말을 하고 있는지 구조적으로 물어본 결과를 공유합니다.챗GPT는 딥러닝을 계속 학습하지 않는다챗GPT4나 챗GPT4.5는 23년에서 24년 사이의 웹, 책, 문서 등을 대규모로 학습한 후 고정된(frozen) 상태로 지식은 확장되지 않습니다. 새로운 정보가 나온다고 하여 그것을 받아들여서 질문에 대답한다면 객관적으로 사실이나 진실임을 담보할 수 없어서 챗GPT는 널리 진실이라고 알려진 사실만 전달하는 신중함을 기반으로 합니다.만일 챗GPT가 사용자와 대화 시에 틀린 사실을 정정당하거나 쏟아져 ..

IT정보 2025.05.16