전체 글
-
[Paper Review] Controlling Neural Networks with Rule Representations카테고리 없음 2022. 8. 10. 23:43
다소 개인적인 의견이 반영되어있고, review를 목적으로 작성된 글입니다. 문제가 된다면 글을 내리도록 하겠습니다. Prologue (with introduction in paper) 데이터를 많이 습득할 수 있는 환경에서 data-driven을 통한 접근은 나쁘지 않은 시도이다. 하지만 대부분의 시나리오에서 지도학습을 예시로, 레이블과 쌍을 이루는 데이터셋은 task에 대하여 모든 규칙(rule)을 가르치기에 충분하지 않다. 저자는 Physics 분야의 double pendulum system을 예로 들면서 설명한다. 비록 data-driven의 conventional supervised learning으로 적합된 black box 모델이 현재상태에서 다음 시점의 상태를 예측할 때 정확도가 높을 수는..
-
[Paper Review & Experiment] Entity Embeddings of Categorical Variables카테고리 없음 2021. 7. 15. 21:02
다소 개인적인 의견이 반영되어있고, review를 목적으로 작성된 글입니다. 문제가 된다면 글을 내리도록 하겠습니다. Prologue 본인은 최근에 정형 데이터(structured data or tabular data)를 활용하여 우범여부, 다시 말해 이진분류(binary classification)의 문제를 해결하려는 시도를 했다. 글을 작성하는 시점을 기준으로 최근 Tabular Data: Deep Learning is Not All You Need 라는 preprint가 업로드 되었고, 결론만 말하자면 ensemble 기반의 모델인 XGBoost 를 사용하는 것이 전반적인 대부분의 요소를 고려할 때 다른 인공신경망(neural network, NN)을 굳이 사용하지 않더라도 좋은 성능을 보일 수 있..