머신러닝 & 딥러닝/기초 이론 14

[머신러닝/딥러닝 기초] 14. 경사법(경사하강법) 편미분과 편미분의 기울기 https://seokii.tistory.com/86 [머신러닝/딥러닝 기초] 13. 편미분과 편미분의 기울기 미분과 수치 미분 https://seokii.tistory.com/85 [머신러닝/딥러닝 기초] 12. 미분과 수치미분 정확도 대신 손실 함수를 사용하는 이유 https://seokii.tistory.com/83 [머신러닝/딥러닝 기초] 11. 정확도 대신.. seokii.tistory.com 지난 글에서 편미분의 개념과 편미분의 기울기에 대해서 정리했습니다. 이에 더 나아가 이번 글에서는 경사법에 대해서 정리하도록 하겠습니다. 경사법 경사법(gradient method) 최적의 매개변수를 탐색하기 위해 기울기를 사용해 함수의 최솟값을 찾으려는 방법입니다. 각 지점에서 .. 머신러닝 & 딥러닝/기초 이론 2022. 2. 18.
[머신러닝/딥러닝 기초] 13. 편미분과 편미분의 기울기 미분과 수치 미분 https://seokii.tistory.com/85 [머신러닝/딥러닝 기초] 12. 미분과 수치미분 정확도 대신 손실 함수를 사용하는 이유 https://seokii.tistory.com/83 [머신러닝/딥러닝 기초] 11. 정확도 대신 손실 함수를 사용하는 이유 손실 함수에 대하여 https://seokii.tistory.com/81 [머신러닝/딥러닝.. seokii.tistory.com 지난 글에서 미분과 수치 미분에 대해서 정리했습니다. 이번 글에서는 편미분에 대해 정리해보도록 하겠습니다. 편미분 $$ f(x_{0}, x_{1}) = x^{2}_{0} + x^{2}_{1} $$ 위와 같이 인수들의 제곱 합을 계산하는 식이 있습니다. 하지만 이전의 미분을 다루었던 글에서와는 다르게.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 18.
[머신러닝/딥러닝 기초] 12. 미분과 수치미분 정확도 대신 손실 함수를 사용하는 이유 https://seokii.tistory.com/83 [머신러닝/딥러닝 기초] 11. 정확도 대신 손실 함수를 사용하는 이유 손실 함수에 대하여 https://seokii.tistory.com/81 [머신러닝/딥러닝 기초] 10. 손실 함수: 평균 제곱 오차와 교차 엔트로피 오차 항등함수와 소프트맥스 함수 https://seokii.tistory.com/78 [머신러닝/딥러닝.. seokii.tistory.com 지난 글에서는 신경망에서 정확도라는 지표를 두고 왜 손실 함수라는 지표를 사용하는지에 대해서 정리했습니다. 이번 글에서는 손실 함수를 정리하면서 말이 나왔던 미분과 수치 미분에 대해 정리해보도록 하겠습니다. 미분과 수치 미분 다들 잘 알고 계시겠지만 미분은.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 17.
[머신러닝/딥러닝 기초] 11. 정확도 대신 손실 함수를 사용하는 이유 손실 함수에 대하여 https://seokii.tistory.com/81 [머신러닝/딥러닝 기초] 10. 손실 함수: 평균 제곱 오차와 교차 엔트로피 오차 항등함수와 소프트맥스 함수 https://seokii.tistory.com/78 [머신러닝/딥러닝 기초] 9. 항등 함수와 소프트맥스 함수 신경망과 신경망의 구조 https://seokii.tistory.com/69 [머신러닝/딥러닝 기초] 8. 신경망과.. seokii.tistory.com 지난 글에서 손실 함수에 대해서 정리하면서 평균 제곱 오차와 교차 엔트로피 오차의 개념까지 정리했습니다. 이번 글에서는 정확도(Accuracy)가 아닌 왜 손실 함수(Loss Function)를 사용하는지에 대해서 간단하게 정리하겠습니다. 정확도와 손실 함수 일반.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 17.
[머신러닝/딥러닝 기초] 10. 손실 함수: 평균 제곱 오차와 교차 엔트로피 오차 항등함수와 소프트맥스 함수 https://seokii.tistory.com/78 [머신러닝/딥러닝 기초] 9. 항등 함수와 소프트맥스 함수 신경망과 신경망의 구조 https://seokii.tistory.com/69 [머신러닝/딥러닝 기초] 8. 신경망과 신경망의 구조 활성화 함수 https://seokii.tistory.com/67 [머신러닝/딥러닝 기초] 7. 퍼셉트론에서 신경망으로 가는.. seokii.tistory.com 지난 글에서 신경망의 출력층에서 사용되는 활성화 함수에 대해서 정리했습니다. 이번 글에서는 손실 함수가 무엇인지 그리고 평균 제곱 오차와 교차 엔트로피 오차에 대해 글을 정리하겠습니다. 손실 함수란 손실 함수(loss function)란 쉽게 말해 신경망 학습에서 사용하는 하나의.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 16.
[머신러닝/딥러닝 기초] 9. 항등 함수와 소프트맥스 함수 신경망과 신경망의 구조 https://seokii.tistory.com/69 [머신러닝/딥러닝 기초] 8. 신경망과 신경망의 구조 활성화 함수 https://seokii.tistory.com/67 [머신러닝/딥러닝 기초] 7. 퍼셉트론에서 신경망으로 가는 핵심: 활성화 함수란? 퍼셉트론의 한계와 다층 퍼셉트론 https://seokii.tistory.com/56 6. 퍼셉트론의 한계.. seokii.tistory.com 지난 글에서 신경망과 신경망의 구조에 대해서 간단하게 정리를 했습니다. 이번 글에서는 신경망의 출력층에서 사용하는 활성화 함수에 대해서 정리하겠습니다. 항등 함수와 소프트맥스 함수 신경망은 분류와 회귀 문제 모두에 적용할 수 있습니다. 다만 어떤 문제를 해결하느냐에 따라서 출력층에서 사용.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 15.
[머신러닝/딥러닝 기초] 8. 신경망과 신경망의 구조 활성화 함수 https://seokii.tistory.com/67 [머신러닝/딥러닝 기초] 7. 퍼셉트론에서 신경망으로 가는 핵심: 활성화 함수란? 퍼셉트론의 한계와 다층 퍼셉트론 https://seokii.tistory.com/56 6. 퍼셉트론의 한계와 다층 퍼셉트론(multi-layer perceptr) 퍼셉트론 이론과 간단 구현 - 2 https://seokii.tistory.com/55 5. 퍼셉트론(Percept.. seokii.tistory.com 지난 글에서 퍼셉트론에서 신경망으로 변화하는 핵심인 활성화 함수에 대해서 정리했습니다. 활성화 함수라는 것은 노드에서 다음 노드로 값을 전달할 때 입력값, 가중치, 편향의 값을 계산해 모두 합해 출력 값으로 변환하는 함수라고 정의했었습니다. 퍼셉트.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 11.
[머신러닝/딥러닝 기초] 7. 퍼셉트론에서 신경망으로 가는 핵심: 활성화 함수란? 퍼셉트론의 한계와 다층 퍼셉트론 https://seokii.tistory.com/56 6. 퍼셉트론의 한계와 다층 퍼셉트론(multi-layer perceptr) 퍼셉트론 이론과 간단 구현 - 2 https://seokii.tistory.com/55 5. 퍼셉트론(Perceptron) 이론과 간단 구현 - 2 퍼셉트론 이론과 간단 구현 - 1 https://seokii.tistory.com/54?category=1054781 4. 퍼셉트론(Perc.. seokii.tistory.com 지난 글에서 퍼셉트론의 한계와 이를 극복하기 위해 다층 퍼셉트론에 대해 정리했습니다. 이번 글에서는 신경망으로 개념을 확장하기 위해서 중요한 요소인 활성화 함수에 대해 정리하겠습니다. 활성화 함수 \begin{cases}0.. 머신러닝 & 딥러닝/기초 이론 2022. 2. 11.