기계는 거짓말하지 않는다

Transformer 논문은 "Attention Is All You Need" 참고.Query, Key, Value (Q, K, V)에 대한 내용 및 score 계산Query, Key, Value (Q, K, V)Q, K, V는 각각 Query, Key, Value를 의미하며, 어텐션 메커니즘에서 입력 토큰들 간의 관계를 계산하기 위해 사용되는 표현 벡터들이다. Query (Q): 현재 토큰이 어떤 정보를 찾고 싶은지를 나타내는 벡터.즉, 다른 토큰들로부터 어떤 특성을 참고해야 하는지를 질의하는 역할을 함.Key (K): 각 토큰이 어떤 정보를 가지고 있는지를 요약한 벡터로, Query와의 유사도를 계산하는 기준이 됨.Value (V): 실제로 다른 토큰에게 전달될 정보의 내용을 담고 있는 벡터이며,Qu..