논문2 [개요 정리] 멀티모달(Multi modal) 정의, 멀티모달이란? * 카네기 멜론의 멀티모달 강의를 듣고 작성한 Note입니다. Multimodal이란? 1. 수학적 관점 : 멀티 모드, 확률 밀도 함수 (Probability density function)에서 극값(local maxima)이 최고점에 다다른 모델 2. 감각 관점: 3V(Verbal / Vocal / Visual) - Verbal : Lexicon(Words) / Syntax(Part-of-speech, Dependencies) / Pragmatics 화용론(Discourse acts, 담론 행위) - Vocal : Prosody 운율(Intonatioin, Voice quality) / Vocal expressions(Laughter, moans) - Visual : gestures, body lan.. 2022. 10. 5. [논문리뷰] Factorization Machines Abstract Factorization Machines은 SVM과 마찬가지로 feature vector의 실제값으로 예측을 하지만, 인수분해된 파라미터 값을 사용하여 모든 변수와 상호작용을 한다. 따라서 엄청 큰 sparse한 데이터 셋은 SVM으로 예측을 실패할 수 있지만 FM으로는 가능하다. FM 모델은 선형시간(시간복잡도)내에서 계산되어 최적화를 할 수 있다. 특히 비선형 SVM에서 dual form으로 변형한 계산이 필요 없다. 반면에 matrix factorization, 병렬 요인 분석 또는 SVD++, PITF, FPMC와 같이 특수화된 모델도 있다. 그러나 이러한 모델은 특수한 데이터에만 적용할 수 있으며 각 태스크별로 알고리즘 최적화를 진행해야 한다. 그러나 FM은 feature vec.. 2021. 8. 30. 이전 1 다음 반응형