반응형 LLM2 [프롬프트 엔지니어링] AI가 의미를 이해하는 방법과 Transformer 모든 내용의 출처 프롬프트 엔지니어링 챗GPT, 바드, 빙, 하이퍼클로바X까지 한 권으로 끝내기 저자 반병현 / 출판사 생능북스 AI가 단어의 의미를 이해하는 방법 반복되는 힌트(데이터)와 매칭되는 단어(레이블)를 반복하여 입력받다 보면 레이턴트 스페이스에 단어의 의미 저장 ==> 인간이 단어의 의미를 이해하는 방법 Word2Vec = 빈칸 맞추기, 어울리는 단어 찾기 방대한 데이터를 학습하는 과정에서 단어와 단어 사이의 의미 차이 역시 벡터 형태로 표현 가능 ==> 유의어 탐색, 단어들이 가진 관계의 유사도까지 추론 가능 관심 단어 + 문장 → 인코더(손실 압축) → 레이턴트 스페이스상의 벡터 AI, 문장의 의미와 뉘앙스 이해 Seq2Seq(시퀀스 투 시퀀스) : 문장의 의미를 통째로 이해할 수 있는 .. 2024. 3. 29. [프롬프트 엔지니어링] LLM 속 Encoding과 Decoding 모든 내용의 출처 프롬프트 엔지니어링 챗GPT, 바드, 빙, 하이퍼클로바X까지 한 권으로 끝내기 저자 반병현 / 출판사 생능북스 LLM: 인간이 언어를 사용하는 방식에 대해 이해하고 학습한 AI Encoding / Encoder 불필요한 부분을 지우고 필요한 정보만 압축 저장 = 손실압축 인코딩은 외부 정보를 AI에 입력하는 과정 인코더의 성능이 뛰어나면 뛰어날수록 AI 추상화 능력과 이해력이 높아진다고 단편적으로 생각 가능 인코더는 이해력 담당 Decoding / Decoder 디코딩은 압축된 정보를 끄집어내어 표현하는 과정 압축된 정보를 팽창시켜 현실 세계 데이터로 표현하는 과정 AI에서 디코딩을 담당하는 부분 = 디코더 디코더의 성능이 뛰어날수록 AI 표현력 향상 LLM 작문 솜씨, 그림 그려주는 .. 2024. 3. 27. 이전 1 다음 반응형
