Commit @88d3bb4ac7fbed61ee16a0c5ee04adba43f98e39 - yjyoon/RAG-minimal-example

윤영준 2024-01-25

Update README.md

@88d3bb4ac7fbed61ee16a0c5ee04adba43f98e39

792714a

88d3bb4

README.md

--- README.md

+++ README.md

...	...	@@ -9,15 +9,15 @@
9	9	또한 document_load_embedding.py 는 새로 임베딩을 실행하지 않고 vector db에서 임베딩을 불러와 검색하는 방식입니다.
10	10	기본 설정된 embedding 파일은 한국어를 지원합니다. LLM(Mixtral)또한 한국어를 지원하지만 때때로 영어로 대답하는 문제가 있으며 이는 LLAMA INDEX상에서 기본적으로 하고 있는 프롬프트 엔지니어링이 모두 영어여서 그럴 수 있습니다. (이 문제는 gpt3.5-turbo도 가지고 있는 문제입니다)
11	11	또한 Mixtral의 근본적인 한계로써, 영단어의 한국어 음차를 이상하게 읽는 문제가 있습니다.
12		-한국어의 완벽한 지원을 위해서는 상당히 많은 수의 LLAMA INDEX 프롬프트 엔지니어링을 다시, 또 새로 만들어야 할 것으로 보입니다. 이를 위해 DSPy를 사용할 예정에 있습니다.
	12	+현재 Llama Index의 가장 기본적인 프롬프트 엔지니어링을 사용하고 있습니다.
13	13
14	14
15	15
16	16	# 실행 예시 답변 (프롬프트 전체 노출)
17	17	\|형광밑줄 설명\|
18		-\|----\|
	18	+\|------\|
19	19	\|<span style="background-color:#C0FFFF">파란색 : 프롬프트 엔지니어링</span>\|
20		-\|<span style="background-color:#fff5b1">노란색 : 삽입된 임베딩 검색 결과</span>\|
	20	+\|<span style="background-color:#fff5b1">노란색 : 프롬프트에 삽입된 임베딩 검색 결과</span>\|
21	21	\|<span style="background-color:#FFE6E6">붉은색 : 유저 입력 </span>\|
22	22	\|<span style="background-color:#E6E6FA">보라색 : LLM 출력</span>\|
23	23

Add a comment

Open 0
Closed 0

List