post-thumbnail

Do Vision Transformers See Like Convolutional Neural Networks?

Representation Similarity and CKA 실험 기준을 정의한다. > 비교 하고자 하는 layer에서 추출한 두 feature map X,Y에 대하여 $X \in p*m1$ (p = 비교하고자 하는 데이터셋의 개수 m1 = feature map 차원)

2023년 3월 22일
·
0개의 댓글
·
post-thumbnail

LGBM 분석

Intro __Why?) __기존의 GBDT -> 모든 데이터로 모든 feature에 대한 split point를 검증해야함 -> time consuming -> 이런 비효율적인 과정을 data sampling과 sparse matrix처리를 이용하여 개선한다 이전

2023년 3월 5일
·
0개의 댓글
·

XGBOOST 분석

Loss function Bagging의 기본적인 loss 식으로써 이전 time series (t-1)에서의 예측값에 현재 분류기의 예측 function을 더한 형태에 regularization 항을 더함 이 식을 2차 테일러 전개식을 이용한 유클리디안 공간으로의

2023년 3월 4일
·
0개의 댓글
·

Plotly 공부

histogramgo를 사용하면 오른쪽에 그래프를 끌 수 있는 버튼이 생기는데 px는 없다.why?) modBar 속성이 go에만 존재하는데 -> 기존에는 disabled 처리 되어있다가 그 속성이 subplot으로 inherited되면서 enable처리 됨(추측)

2023년 2월 20일
·
0개의 댓글
·

Ngnix + vue + docker

Nginx 설치? 유닉스 기반은 apt-get 이나 brew 같은걸로 설치할 수 있는데 윈도우는 페이지에 직접 들어가서 설치하고 하는 복잡한 과정이 필요한 것 같다. 그러니까 도커를 써보자

2023년 1월 22일
·
0개의 댓글
·

Gif processing scenario - (1)

GIF 전송 삽질 일지 GIF 파일을 전송한다는게 쉽지 않은 일이다. gif는 일반 이미지 몇백장정도를 한장으로 만들어 놓았기 때문에, 그만큼 용량이 크다는 뜻이고, 한장만 저장하고 전송해도 용량과 속도문제를 모두 겪을 수 있다! python PIL을 사용하여 GIF

2023년 1월 20일
·
0개의 댓글
·
post-thumbnail

pyenv를 사용해보자

https://github.com/pyenv-win/pyenv-winwindow 버전이 조금 더 복잡한 것 같다. unix계열과의 차이인가? (윈도우가 업데이트가 더 느린 것 같다)pyenv는 서로 다른 파이썬의 버전을 관리하는 역할을 한다고 한다.여러가지 파

2023년 1월 17일
·
0개의 댓글
·

단축키에 적응하자 + 편의기능

VSCODE 키보드 | 의미 ---|:---: CRTL+/ | 한번에 주석처리 CRTL+[ | 한번에 들여쓰기 왼쪽으로 1TAB CTRL+] | 한번에 들여쓰기 오른쪽으로 1TAB CTRL+shift+v | 마크다운 미리보기 CTRL+p | 파일이름으로 파일 찾아서 띄

2023년 1월 17일
·
0개의 댓글
·
post-thumbnail

Axios 헤딩 일지

vue3와 fastapi를 axios를 사용해 잇는 작업이다.front에서 server쪽으로 보내는 쿼리는 정해져있고, 자주 사용하기 때문에 component마다 정의하는 것이 굉장히 비효율적이다. 또한 component마다 다른 속성을 지니고 있기 때문에 props를

2023년 1월 14일
·
0개의 댓글
·
post-thumbnail

Vue.js

vue add router -> vue cli상에서 router 설치->src/router/views 폴더가 생성됨app.vue에서 router-link to tag를 통해 router 기능 사용 가능Homerouter 폴더 아래 index.js에서 라우터 설정impo

2023년 1월 11일
·
0개의 댓글
·
post-thumbnail

Fastapi

입출력 형식으로 pydantic을 주로 사용.pydantic 안에서 BaseModel을 상속받아서 사용변수 명 뒤에 타입을 명시함으로써 해당 타입을 갖는 변수가 들어오는지 validate한다.typing module의 union,optional등과 uuid,http,i

2023년 1월 10일
·
0개의 댓글
·
post-thumbnail

ClassMix

Unlabeled data의 consistency training에서 중요한점은 데이터의 작은 변화에도 모델이 불변적이어야 한다는 것이다. 이런 특성을 만족시키기 위해서 주로 hard augmentation을 통해 얻어진 이미지의 difference를 줄이는 작업을 한

2023년 1월 1일
·
0개의 댓글
·
post-thumbnail

Paint Transformer

AI가 발전하면서 자연의 이미지를 예술적으로 변환시키는 기술이 생겨나고 있는데(style transformer) 이런 이전의 기술들은 각 픽셀별 정보를 optimization/mapping하는 과정이다.하지만 현실에서 화가들이 브러쉬로 한번에 한획씩 긋는 것 처럼 이

2022년 12월 24일
·
0개의 댓글
·
post-thumbnail

Data Augmentation for Scene Text Recognition

STR 연구는 현재 모델중심적으로 이루어지고 있다. 한정적으로 수집된 데이터 내에서 학습을 진행하게 되면서 distribution shift가 쉽게 일어나게 된다. 이런 distribution shift를 해결하기 위한 방법 중 하나인 data augmentation에

2022년 12월 8일
·
0개의 댓글
·
post-thumbnail

Model soups

Abstract 일반적으로 우리는 모델의 성능을 끌어 올리기 위해 서로 다른 모델들을 테스트해보고 결과가 좋은 모델들을 선정해 ensemble을 하는 방법을 이용한다. 이 논문은 ensemble 처럼 추가적인 inference나 cost 없이 모델의 parameter를

2022년 11월 27일
·
0개의 댓글
·
post-thumbnail

BoF

Detector는 굉장히 빠르게 발전하고 있지만, 아직도 다른 task에 대해서는 또다른 pre-possessing / training pipeline이 필요하게 되고 이런 작업은 굉장히 cost가 높다.그렇기 때문에 이 논문에서는 inference time에 영향이

2022년 11월 18일
·
0개의 댓글
·

RCNN

2022년 11월 11일
·
0개의 댓글
·
post-thumbnail

Data augmentations- AutoML

AutoML이란? 시간 소모적이고 반복적인 기계 학습 모델 개발 작업을 자동화하는 프로세스이다. AutoML의 발전에 따라 NAS(neural architecture search)같은 모델링에서 AutoML을 적용하는 등 여러 형태의 AutoML이 등장하고 있는데 이런

2022년 10월 8일
·
0개의 댓글
·
post-thumbnail

Batch normalization

Reference: Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift Rethinking "Batch" in BatchNorm How Does Batch

2022년 10월 6일
·
0개의 댓글
·