인공지능의 환각현상

• 영어: Hallucination(할루시네이션)
• 질문을 들은 인공지능이 사실과 전혀 다른 답변을 하는 현상
• 최초는 2023년 2월 밈(meme·유행 콘텐츠)으로 더 유명해진 '세종대왕 맥북 프로 던짐 사건'이다.

 

원인

 

• 질문의 전체 맥락과 흐름을 우선시하며, 개별 단어와 사건 간의 구체적인 상관 관계는 상대적으로 적게 반영한다. 그 결과 숫자 계산이나 세부 데이터 처리에서 실수한 경우
• 거대언어모델 프로그래밍 과정 또는 이용자가 실수한 경우

 

해결방안:

딥러닝 기술과 병렬 컴퓨팅의 발전, 그래프 데이터를 효율 좋게 처리하는 새로운 알고리즘인 그래프 신경망을 이용한 것

 

자세한 내용의 사이트

 

인공지능 환각 줄일 ‘그래프 신경망’에 주목

 

"세종대왕 맥북 던짐 사건 알려줘" 밈이 된 챗GPT 엉뚱 답변 | 한국일보