이번에 준비하고 있는 논문을 위해서 아이디어가 나올 때마다 실험을 하고 있는데, 이번에 어째서인지 loss가 잘 떨어지다가 중간에 nan 값이 되어버리는 문제가 발생하였다... 처음부터 튀어버리면 loss 함수 자체에서 문제가 발생했다고 생각했겠지만 감소 중에 nan 값으로 바뀐 것이기 때문에 원인 파악이 어려웠다. 이럴 땐 뭐다? 바로 구글링을 하는 것이다.*요즘엔 ChatGPT도 하나의 방법! 그래서 찾아보니,torch.autograd.set_detect_anomaly(True) 자동으로 nan값이 나오는 곳을 찾아주는 명령어가 있지 않았겠는가! 이 명령어를 써놓기만 해도 nan값이 출력되는 순간 어느 backward에서 발생한건지 예쁘게 출력해준다! 내 경우에는 Pow와 관련있었는데, 최근 추가했던..

최근 연구로 인해 시간이 좀처럼 나지 않아 이제야 논문 리뷰 글을 작성하게 되었다....사실 세미나나 수업에서 정리해놓은 자료들이 몇 개 쌓여있는데 시간이 날 때마다 글로 올리도록 노력... 이번에 리뷰해볼 논문은 "Segment Anything" 이라는 제목을 내세우고 나온 만큼 Segmentation 관련된 여러 task에 대해서 공통적으로 사용될 수 있는 Foundation 모델을 만드는 것을 목표로 가지고 있다. 최근은 아니고 1-2년 정도에 압도적인 성능과 범용성으로 화제가 되었던 논문이기도 하다!  https://openaccess.thecvf.com/content/ICCV2023/papers/Kirillov_Segment_Anything_ICCV_2023_paper.pdf  1. Introd..

이번에 소개할 논문은 ICLR 2022 spotlight를 받은 How do Vision Transformer Work? 라는 논문이다.https://arxiv.org/abs/2202.06709 How Do Vision Transformers Work?The success of multi-head self-attentions (MSAs) for computer vision is now indisputable. However, little is known about how MSAs work. We present fundamental explanations to help better understand the nature of MSAs. In particular, we demonstrate the folla..

이번에 갑자기 잘만 사용하던 아이패드 프로가 전원이 안켜지는 사태가 발생하였다. 도대체가 무슨 이유인지 충전기를 꽂아도 배터리 충전 표시 화면도 안뜨고 1시간 충전 후에 켜봐도 아무런 동작을 하지 않았다. 그래서 어쩔 수 없이 애플 서비스 센터에 예약을 하려고 웹에 들어갔는데....이럴 수가 애플 id는 아는데 비밀번호가 뭐였지..?? 바로 비밀번호 찾기를 선택하였더니 애플 기기에 비밀번호 초기화 알림을 보냈다고 하였다...근데 왠걸 아이패드가 있었을 때는 아이패드에 바로 떠서 신경을 안썼는데 맥북에서는 몇 번을 시도해도 오지 않는다..(내가 무슨 설정을 잘못한 걸 수도..근데 아무리 봐도 모르겠음..ㅠㅠ) 결국 기기 없음으로 시도하였는데 이번엔 등록된 신용카드 번호를 알려달라하니...이것도 몰라버려서 ..

mmcv 버전 문제 때문에 print_log 함수를 가지고 있지 않은 것이 문제인데, 이는 mmengine에 포함되어있을 것이다. 따라서 해당 오류가 일어난 파일을 찾아가서 from mmcv를 from mmengine로 바꿔주면 오류가 해결된다. 나 같은 경우는, mmcv/parallel/distributed.py 에서 에러가 났었다.