머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...)
-
[Keras] Categorical_crossentrophy와 Sparse_categorical_crossentrophy머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 5. 8. 02:15
- 케라스에서 Categorical_crossentrophy와 Sparse_categorical_crossentrophy 를 손실할수로 쓰겠지만, 두개의 차이는 엄연히 다르니 구분을 잘 해주어야 한다. - 먼저 Keras의 Loss 함수에서는 여러가지 인수들이 주어지는데, 이를 잘 구분해주어야 한다. 안그러면, 결과값에 영향을 많이 미치기 때문이다. 0. 인자 (Class Variables) 두개의 함수에서는 variable 로 from_logits 과 reduction 을 주게 되는데 이에 대해서 알아보자. 1. from_Logits - Keras API 에서는 from_Logits값이 Default(기본값)으로 False가 되어있습니다. 자 그럼 이 인자가 무슨 역활인지 알아봅시다. model 의 출..
-
Span머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 5. 1. 11:32
1. 정의 In mathematics, the linear span (also called the linear hull or just span) of a set S of vectors (from a vector space), denoted span(S), is the smallest linear subspace that contains the set. It can be characterized either as the intersection of all linear subspaces that contain S, or as the set of linear combinations of elements of S. The linear span of a set of vectors is therefore a vec..
-
LU분해(LU_Decomposition)란머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 29. 13:04
1. 정의 - LU 분해란 행렬을 하삼각행렬(Lower triangular matrix) 과 상삼각행렬(Upper triangular matrix)의 곱으로 분해시키는 기술이다. 때때로 행교환행렬인 P 를 추가하여 분해 시키기도 하기 때문에, PLU 분해라고도 한다. 2. 장점 - LU 분해가 된다는 것은 알았지만, 왜 쓰이는지 알아보자. LU 분해는 선형시스템 (Ax = B) 와 같은 형태의 꼴의 문제를 간단히 풀 수 있다는 장점이 존재한다. 라는 행렬이 존재하게 되고 A 를 LU분해 하여 A = LU라고 표시하게 된다면, (LU)X = B 가 되게 되고, Ux를 y 로 치환해주게 된다면, Ly = B 라는 형태의 꼴로 새롭게 변형된다. 자 그러면 아니, 행렬을 더 만들어 줘놓고, 왜 이런거 쓰냐.. ..
-
행사다리꼴 행렬(echelon form matrix)이란머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 29. 01:34
이 글은 후에 나오게 될 가우스 소거법 및 LU분해등등 여러 기법에 적용 되기 위해서 먼저 설명하는 글입니다~. 1. 정의 행사다리꼴 행렬은 다음과 같이 뒤집게 되었을때, 0 을 제외하면, 사다리꼴처럼 보인다 해서 붙여진 이름이다.(아닌가...?) 행사다리꼴 행렬을 만족하기 위해서는 몇가지가 필요한데, 0이 아닌 행은 행의 원소가 모두 0 인 행보다 위에 있어야 한다.(그래야 사다리꼴이 완성 되므로) 행에서 처음으로 0이 아닌 원소가 나오는 위치를 leading_entry 라 하는데, 그 leading_entry의 위치가 윗행의 leading entry 의 열보다 오른쪽에 있어야 한다.(말을 어렵게 했는데, 0의 위치가 계단식으로 내려와야 한다 이말입니다.) leading_entry 밑의 원소는 모두 0..
-
가우스 소거법 (Gauss_Elimination)머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 28. 18:16
1. 가우스 소거법이란..? - 가우스 소거법이란, 선형 방정식을 풀기위해 고안된 방법으로, 명명 그대로, 프리드리안 가우스에 의해 고안되어 졌다.일반적으로, 행렬 A,B 가 존재할 때, Ax = B 를 만족시키는 x 를 빨리 찾아낼때, 쓸 수 있다. -일반적으로, 중학교,고등학교에서 역행렬을 취해줌으로써, x를 구하곤 했지만, 더 고차원으로 가게 되면, 가우스 소거법을 사용하여, 연립일차 방정식을 풀어주게 된다. 2. 가우스 소거법 단계 그럼 가우스 소거법이 왜 쓰인지는 알았으니, 적용을 해보자. 가우스 소거법은 2가지 단계로 이루어져 있으며, 첫번째 단계는 1. 전방 소거법(Forward Elimination) 2. 후방 대입법(back substitution) 을 적용하여 풀게 된다. 1. 전방 소..
-
ID3 모델 구현_Python(2)_전체모델머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 26. 15:16
0. 전체 코드 구현 -주석을 다 뺐으며, 밑의 코드분석에는 주석을 달아 놓았습니다. ID3 모델 구현 Tree 의 마지막 단계 글입니다. https://guru.tistory.com/entry/ID3-%EB%AA%A8%EB%8D%B8-%EA%B5%AC%ED%98%84Python ID3 모델 구현_Python 저번에 살펴본 ID3 모델을 이제는 Python으로 간략히 구현해보자. 혹시나 ID3모델이 무엇인지 모른다면 , 저번 포스팅을 참고해보자 https://guru.tistory.com/entry/Decision-Tree-%EC%97%90%EC%84%9C%EC%9D%98-I.. guru.tistory.com import numpy as np import pandas as pd eps = np.finfo..
-
ID3 모델 구현_Python머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 26. 14:08
저번에 살펴본 ID3 모델을 이제는 Python으로 간략히 구현해보자. 혹시나 ID3모델이 무엇인지 모른다면 , 저번 포스팅을 참고해보자 https://guru.tistory.com/entry/Decision-Tree-%EC%97%90%EC%84%9C%EC%9D%98-ID3-%EC%95%8C%EA%B3%A0%EB%A6%AC%EC%A6%98 Decision Tree 에서의 ID3 알고리즘 Decision Tree 란 ??? A decision treeis a decision support tool that uses a tree-like model of decisions and their possible consequences, including chance event outcomes, resource co..
-
Decision Tree 에서의 ID3 알고리즘머신러닝(MACHINE LEARNING)/간단하게 이론(Theory...) 2021. 4. 25. 00:12
Decision Tree 란 ??? A decision treeis a decision support tool that uses a tree-like model of decisions and their possible consequences, including chance event outcomes, resource costs, and utility. It is one way to display an algorithm that only contains conditional control statements. - Decision tree - Wikipedia - - Decision Tree의 정의를 살펴보면, 트리모양으로 모델링 된, 비용과 결과등을 종합하여, 결정을 내리는 도구라 할 수 있겠다. Deci..