프롬프트 인젝션 (1) 썸네일형 리스트형 세바스찬 게르딩고 - 외부 데이터를 사용하는 LLM의 취약점 세바스찬 게르딩고를 아는가? 세바스찬 게르딩고(Sebastian Gerdingo)라는 이름을 들어본적 있는가? 아마도 들어본적 없을 것이다. 예전 같았으면 이처럼 모르는 정보는 직접 찾아봐야만 했다. 하지만 요즘은 ChatGPT 같은 서비스를 이용해서 손쉽게 물어볼 수 있다. 이제 세바스찬 게르딩고에 대해서 물어봐보자. 역시 ChatGPT는 모르는 것이 없다. GPT는 친절하게, 그리고 자신 있게 세바스찬 게르딩고에 대한 정보를 알려주었다. 그는 독일에서 태어난 AI 분야의 천재학자라고 한다. ChatGPT가 세바스찬 게르딩고에 대해 답변하는 과정 - 외부 데이터 오염 ChatGPT는 내부적으로 LLM을 사용하여 사용자의 요청에 응답한다. LLM은 놀라운 기술이지만, 세상의 모든 정보를 알고 있는 .. 이전 1 다음
