기계는 거짓말하지 않는다

윈도우 환경에서 작업하다 보면 확장자가 없는 파일이 대량으로 존재하는 경우가 있다. 예를 들면,카메라나 장비에서 복사한 이미지 파일서버에서 내려받았는데 확장자가 빠진 파일백업, 복원 과정에서 이름만 남은 데이터 파일 이런 파일들을 하위 폴더까지 포함해서 한 번에 원하는 확장자로 변경하고 싶을 때, PowerShell을 사용하면 비교적 안전하게 처리할 수 있다. 여기서 중요한 점은 확장자는 고정되는 것이 아니라 상황에 따라 .png, .txt, .bin 등 사용자가 지정한 확장자를 붙일 수 있다는 점이다.전체 흐름확장자가 없는 모든 파일을 대상으로, 하위 폴더까지 포함하여 원하는 확장자를 붙임# 모든 하위 폴더의 파일을 가져옴Get-ChildItem -Recurse -File# 확장자가 없는 파일만 필터링..

Attention Score 및 Multihead Attention과 계산Query, Key, Value (Q, K, V) 연산Q, K, V는 입력 x를 서로 다른 선형변환(Linear projection)으로 만든다.입력 x는 임베딩 벡터(Pytorch 기준 nn.Embedding 값)이다. x: (B, T, d_in)Q = Wq(x) -> (B, T, Dk)K = Wk(x) -> (B, T, Dk)V = Wv(x) -> (B, T, Dv)일반적으로 nn.Parameter로 직접 weight를 만들기보다 nn.Linear를 쓴다. (bias 포함, 초기화/관리 유리)왜 Wq의 out도 Dk, Wk의 out도 Dk (dim 크기)인가Q·K 내적을 해야 하므로 마지막 차원(Dk)이 같아야 한다.즉 Q와 K..

Transformer 논문은 "Attention Is All You Need" 참고.Query, Key, Value (Q, K, V)에 대한 내용 및 score 계산Query, Key, Value (Q, K, V)Q, K, V는 각각 Query, Key, Value를 의미하며, 어텐션 메커니즘에서 입력 토큰들 간의 관계를 계산하기 위해 사용되는 표현 벡터들이다. Query (Q): 현재 토큰이 어떤 정보를 찾고 싶은지를 나타내는 벡터.즉, 다른 토큰들로부터 어떤 특성을 참고해야 하는지를 질의하는 역할을 함.Key (K): 각 토큰이 어떤 정보를 가지고 있는지를 요약한 벡터로, Query와의 유사도를 계산하는 기준이 됨.Value (V): 실제로 다른 토큰에게 전달될 정보의 내용을 담고 있는 벡터이며,Qu..

딥러닝에서의 스칼라, 벡터, 행렬, 텐서와 shape 및 내적과 행렬곱, 전치에 관한 기본 내용이다.스칼라스칼라(Scalar)는 숫자 하나 (0차원)벡터벡터(Vector)는 1차원 배열예: v = [1, 2, 3] -> shape (3,)행렬행렬(Matrix)은 2차원 배열예: M = [[1, 2], [3, 4]] -> shape (2, 2)텐서텐서(Tensor)는 n차원 배열예: (B, T, C, H, W)는 5차원 텐서5차원 행렬이라고 부르지 않으며, 행렬은 정의상 2차원이다. 보통 5차원 텐서라고 한다. 이미지 배치는 보통 아래처럼 표기한다.x: (B, C, H, W)B: batch sizeC: channelH, W: height, width 비디오나 시계열까지 포함할 경우x: (B, T, C, H..

아래와 같이 pubspec.yaml에 dependencies 추가 후, pub get 할 때, SDK 버전 오류가 나는 경우Resolving dependencies...The current Dart SDK version is 3.5.4.Because ... depends on package >=1.0.0 which requires SDK version >=2.0.0 우선 Android Studio 종료 및 작업 관리자에서 관련된 작업 모두 종료1. 터미널(cmd 등)에서 Flutter 버전 확인flutter --version2. 업그레이드flutter upgrade 업그레이드 정상 종료 시, 아래와 같은 메시지를 볼 수 있다.Checking Dart SDK version...Downloading Dart..

rm -rf 명령어는 리눅스에서 한 번 잘못 입력하면 중요한 데이터가 한순간에 사라진다.특히 root 디렉터리나 중요한 프로젝트 폴더를 실수로 지웠을 경우, 복구는 굉장히 어렵다.이런 경우를 예방하기 위해, 특정 경로에 대해 rm 명령어가 작동하지 않도록 스크립트로 보호하는 방법이 있다.간단한 shell 스크립트를 통해 특정 디렉터리에 대한 삭제를 차단할 수 있다. 아래는 예시이며, 스크립트를 vi 또는 nano와 같은 편집기를 이용하여 /usr/local/bin/rm에 저장한다.#!/bin/bash# 보호할 경로들을 배열로 정의BLOCKED_PATHS=( "/home/ubuntu/data" "/home/ubuntu/project" "/var/data/sensitive")# 환경 변수로 보호 우회 ..

리눅스에서는 cat *.tar.gz | tar zx처럼 간단하게 압축을 풀 수 있지만, Windows PowerShell에서는 이 방식이 시스템을 멈추게 만들 수 있다.특히 파일 용량이 큰 경우엔 RAM이 터지고 디스크 I/O도 100%까지 도달할 수 있다. 문제가 되는 명령어cat 공통파일이름-* | tar zx이 명령어는 PowerShell에서 문제가 생길 수 있다. PowerShell의 cat은 모든 파일 내용을 메모리에 올리면 RAM 과부하tar는 스트리밍을 기대하는데, 입력이 느리거나 불완전하면 CPU+RAM 과부하해결 방법copy /b로 파일을 하나로 병합tar -xvzf로 압축 해제cmd /c "copy /b 공통파일이름-* combined.tar.gz"# 파일이 따로라면cmd /c "cop..

간혹 특정 프로그램이 멈춰버려서 Alt+F4나 작업 관리자를 열어도 화면에서 볼 수 없이,작업 표시줄만 볼 수 있는 상황에서 마우스와 키보드만 사용할 수 있는 경우가 있다. 나의 경우에는 캡처 도구(snipping tool)을 사용할 때, 캡처 도구가 정지되어 마우스와 키보드만 사용할 수 있었는데작업 관리자도 볼 수 없었고 윈도우 키(Win)를 입력하여 시작 아이콘과 작업 표시줄만 볼 수 있는 상황이었다.전체 화면(게임 등) 상태에서 단축키가 먹히지 않을 수 있어, 윈도우 키 + D(바탕화면 보기)또는 윈도우 키 + Tab(작업 보기), Alt + Tab 등을 시도해 보았으나 소용없었다. 작업 관리자의 옵션에 "항상 위에 표시"를 선택해 두면 문제없었지만, 잠깐 해제해두었던 상태였다.기본적인 강제 종료 ..