chatGPT(LLM)의 한계점

chatGPT(LLM)의 한계점

 

1. 답변의 출처를 알 수 없다.

그래서 답변이 틀렸을 수도 있고 맞았을 수도 있다.

탐색증강된 LLM(인터넷 검색이 가능한 LLM)을 이용하면 해당 문제를 해결할 수 있다.

 

2. 편향

LLM에는 세이프 가드가 있음에도 불구하고 성적, 인종적, 동성애차별적 답변을 할 수 있다. 따라서 고객 대응을 위해, 연구를 위해 LLM을 사용할 경우 주의해야 한다.

 

3. 환각

LLM이 잘 모르는 것에 대해 질문할 경우 거짓된 답변을 자신있게 대답한다.

 

4. 수학

LLM은 수학을 못한다.

이 문제는 증강된 LLM을 통해 해결할 수 있다.

 

5. 프롬프트 해킹

유저가 원하는 답변을 하도록 LLM을 유도할 수 있다.

---

출처

https://learnprompting.org/ko/docs/basics/pitfalls

🟢 LLM의 함정 | Learn Prompting: Your Guide to Communicating with AI