SVM 공부를 하던 중 아래와 같은 공식이 나왔습니다. 해당 공식은 제약된 조건 하에서 Maximum Margin을 구할 때 사용되는 공식입니다. 유도 과정은 다음과 같습니다. (blog url) 해당 공식에서 사용되는 변수는 w, b, $\alpha$ 입니다. 해당 목적식과 제약식이 있는 상황에서 라그랑주 승수법은 제약 조건을 신경쓰지 않고 문제를 풀 수 있게 변형시켜줍니다. 라그랑주 승수법이란? $g(x)$라는 제약 조건 하에서 목적 함수 $f(x)$를 최소화하는 문제가 있다고 할 때, 라그랑주 함수라는 새로운 함수를 정의할 수 있습니다. 해당 함수는 다음과 같이 나타낼 수 있습니다. $$L=f(x)-\alpha*g(x),\ \alpha>=0$$ $\alpha$는 라그랑주 승수(Largrange Mu..

오늘 공부한 내용1. 수치프로그램이라는 과목의 과제가 나와서 처음 Octave라는 tool을 만져봤다... 처음이라 그런지 아직 어색한 부분이 많아서 힘들었다. 2. 그리고 연구실에 새로운 GPU A100이 들어왔다. 이게 엄청 비싸고 성능도 좋기 때문에 GPU를 분할하는 기술인 https://www.kipost.net/news/articleView.html?idxno=204214 해당 기술을 사용하여 여러 개로 쪼갰다. (물론 우리 랩장님이 쪼개주심🙄👍👍)그 중 2개를 할당받았는데, 이것도 아직 뭔가 어색하고 사용에 대해 잘 모르겠는 부분이 많아서 내일 랩장님께 여쭤볼 예정. 3. 마지막으로 barlow twin이 나름 embedding을 잘 하는 것을 확인했다. 🎵 느낀 점 & 배운 점 이번 학기에 ..

오늘 공부한 내용 1. 오늘은 아니지만 어제 Virtual Machine Setup을 끝냈다. Mac이기 때문에, Virtual Box? 그거로는 한계가 있다는 말씀을 들었기 때문에 UTM을 설치하고 그 위에 Ubuntu를 올렸어요 아직까지는 자세하게 어떤 과정이 있고 그런 건 잘 모르겠지만 일단 무지성으로 Instruction 보고 깔아봄... + 그리고 간단하게 OS과제를 해벌임 2. 오늘 세미나 때 교수님께서 현재 연구하고 있는 부분에 대해서 연구일지를 작성하는게 어떻겠냐.. 하셔서 작성 폼을 만듦 ㅎ 실험할 때마다 기록해야지 3. 마지막으로 지금까지 계속 DeepLab 만들었다고 생각했는데 계속 보니까 구조가 너무 헷갈려서 그냥 다른 사람 거 보고 처음부터 다시 만듦,,, 우리 프로젝트에 맞게 조..

Table of Content 1. Focal Loss의 필요성 2. Focal Loss 1. Crossentropy Loss를 쓰지 않고 Focal Loss를 쓰는 이유 2. Balanced Cross Entropy Loss를 쓰지 않고 Focal Loss를 사용하는 이유 3. Focal Loss의 적용 Object Detection이란? 여러 object들을 Bounding Box를 통해 Localization(위치 찾기)하고, Classification(어떤 물체인지 분류)하는 작업입니다. Object Detection의 2가지 종류의 알고리즘 1. R-CNN 계열의 two-stage detector 2. YOLO, SSD 계열의 one stage detector SSD관련 논문 리뷰: https:..

1. 오늘 공부한 내용 오늘은 농경지 프로젝트 데이터셋을 전처리랑 저장했고, 이전에 구현했던 DeepLab V3+를 구현했던 코드가 문제가 있다는 걸 깨달아서 재구현함!! 그리고 코드 돌려봤는데 성능이 너무 좋더군요 Backbone은 ResNet101V2를 사용했답니다~ 원래 오늘 Barlow Twins 하이퍼파라미터 조정도 해보려고 했는데 생각보다 시간이 너무 없었음 아 그리고 LabelBox에서 이미지 라벨링 하는 것도 배워서 이제 라벨링 시작해야합니다... 할게 많군요 2. 🎵 느낀점 & 배운점 이전에 구현했던 Xception을 백본으로 사용한 코드가 굉장히 틀리게 구현했다는 걸 깨달아서 나중에는 Xception을 스스로 구현해서 BackBone으로 사용해서 구현해볼거야...ㅠ 3. 📈 내일 공부할..

오늘 공부한 내용 Barlow Twins 구현했고 하이퍼파라미터 조정할 계획!! 그리고 Crop Segmentation Dataset 다시 만들음...ㅠ 원하는 형식이랑 달랐다. 마지막으로 DD 프로젝트 데이터셋 수집하러 이곳저곳 돌아다니구 Image cropping해서 넣어뒀다 ~ + 운동도 함 🎵 느낀점 & 배운점 해당 모델에 맞는 Loss 구현해야하고, barlow twins에 쓰기 위한 LARS Optimizer 구현 하려고 했는데, 이건 큰 Batch를 사용할 때 더 성능을 높이기 위한 거라 우리 project task와 맞지 않는 것 같아서 나중에 하기루 결정 DD 프로젝트 라벨링 많이 남았군.. 📈 내일 공부할 내용 - Loss 구현 - Crop 학습 코드 짜기 - Barlow Twins 하..