학습 목적ML 논문의 실험 재현에 대해 탐색하던 중, MLOps가 재현성을 개선할 수 있다는 내용을 보았다. 실험 및 배포 이상의 기능을 가지고 있어 내가 시도하려는 '재현' 자체보다는 멀리 가는 것 같기도 하다. 하지만 알아두면 좋을 툴인거 같아서, 튜토리얼 영상을 간단히 정리해보기로 했다.MLOps는 머신 러닝 엔지니어링의 핵심 기능으로, ML 모델을 프로덕션 환경에 배포한 후 모니터링 및 유지 관리하는 프로세스를 간소화하는 데 중점을 둔다. 학습 콘텐츠MLOps 도구 중 하나인 MLFlow에 대한 강의이다. 총 5강으로 짧게 구성되어 있다. 다양한 튜토리얼 영상들 중 이것을 고른 이유는 마지막 강의의 GCP에서 MLFlow 서버를 셋업하는 내용이 궁금했기 때문이다.https://youtu.be/v1..

MEI, Hefei; DONG, Minjing; XU, Chang. Efficient Image-to-Image Diffusion Classifier for Adversarial Robustness. In: Proceedings of the AAAI Conference on Artificial Intelligence. 2025. p. 6081-6089. 디퓨젼 기반 모델은 공격에 대한 방어 능력이 높은 장점을 가졌지만, 연산 비용이 크다는 단점이 있습니다.이로 인해, 강한 공격에 대한 방어 능력을 평가하는 것, 기존 CNN 방법과의 비교가 어려워집니다.더 나은 적대적 공격에 대한 강건성을 보이면서, 연산 비용이 적게 필요한 ‘효율적인’ 이미지-투-이미지 diffusion classifier를 개발하는 것..

어떤 논문의 Preliminary 부분을 읽다가 Diffusion model에서 중요한 수식이 일부 요약된 것을 보았다.그 부분을 보다가 Forward process와 Reverse process가 무엇인지 말로는 아는데, 구체적인 수식과 손실함수 계산 방식에 대해 잘 모르고 있다는 걸 깨달았다. Diffusion model 논문을 혼자 잘 이해하면 좋겠지만, 나는 이것을 잘 이해하고 있는 사람의 설명이 필요하다고 느꼈다.그래서 유튜브 영상을 보며, 핵심 내용을 정리해보았다. 수식 전개에서 생략된 부분이나 원리를 설명해주셔서 이해에 도움이 되었다. 영상을 따라 간단하게 정리했으니, 다음에는 논문을 통해 더 꼼꼼히 봐야겠다. 참고한 유튜브 영상, 디퓨젼 수식을 정리한 사이트, 논문 정보는 다음과 같다.h..

MIYATO, Takeru, et al. Artificial Kuramoto Oscillatory Neurons. arXiv preprint arXiv:2410.13821, 2024. Abstract신경과학과 AI 분야에서 뉴런의 '결합'은 경쟁 학습을 촉진하고 더 깊은 레이어에서 추상적인 개념을 형성할 수 있도록 하는 것으로 알려져 있다. Artificial Kuramoto Oscillatory Neurons (AKOrN)은 임계값 기반이 아닌, 동적 시스템으로 동작한다. Fully Connected, Convolutional, Attentive mechanisms를 포함한 기존 설계와 통합될 수 있다. Kuramoto 업데이트를 통해 뉴런들을 동기화하여 하나로 묶는다. AKOrN은 unsupervi..

GAVRIKOV, Paul, et al. Can we talk models into seeing the world differently?. In: Thirteenth International Conference on Learning Representations. OpenReview. net, 2025. SCISPACE 질문봇으로 활용하기SCISPACE에서는 업로드한 논문 PDF 파일을 토대로 챗봇과 대화할 수 있다. '논문을 읽는 것은 나 스스로 하고, 챗봇은 나에게 질문을 던지는 용도로 사용해보면 어떨까?' 라는 생각을 했다. 나는 A에 집중해서 읽고 발표를 했는데, 청중은 B를 핵심으로 파악하고 질문을 던질 수도 있다. 혼자 읽다보면 핵심이 무엇인지 놓칠 수도 있다는 뜻이다. 또는 내가 어렵다고 느..

WANG, Yanbo; DAUWELS, Justin; DU, Yilun. Compositional Scene Understanding through Inverse Generative Modeling. arXiv preprint arXiv:2505.21780, 2025. AbstractGenerative model은 시각적 콘텐츠를 생성하는 것 뿐만 아니라, 자연스러운 이미지를 통해 장면의 속성을 이해하는 데에도 활용될 수 있다. 본 논문에서는 훈련 중에 본 적 없는 이미지들에서도 장면 구조를 잘 추론할 수 있도록, 더 작은 모델들로부터 compositional하게 visual generative model을 구축하는 방법을 제안한다. 이 방식은 장면 내 객체 집합과 global scene factors..

THIRY, Louis; GUTH, Florentin. Classification-Denoising Networks. arXiv preprint arXiv:2410.03505, 2024. Abstract이미지 분류와 디노이징은 Robustness 부족과 조건 정보 무시 문제를 갖는다. 이러한 문제는 이미지의 joint probability와 클래스 레이블을 하나로 통합하여 완화할 수 있다. 분류는 forward pass로 수행된다. Tweedie-Miyasawa formula를 사용하여, score로 denoising function을 평가한다. Training objective는 cross-entropy loss와 denoising score matching loss의 조합으로 이루어진다. CIFAR..

이번 주 목표'Intriguing properties of generative classifiers' 논문 이후, 이를 인용한 논문 5개를 정리하려고 한다. 목표는 1) 이전에 읽었던 논문과의 연관성을 파악하는 것, 2) 수식에 있는 각 항의 의미를 단편적으로 보지 말고 전체적인 의미를 명확하게 아는 것, 3) 피피티에 핵심 줄기를 담는 것이다. (일주일만에 터득하기에 어렵겠지만, 그래도 시도는 해볼 수 있으니까!) 이번 주에 5개의 논문을 읽고, 시간 여유가 된다면 다른 논문들도 가볍게 내용을 파악해서 그룹핑하는 것까지 하면 좋을 것 같다. JEONG, Yujin, et al. Diffusion Classifiers Understand Compositionality, but Conditions Appl..