Hello 희희낙락

: 머신러닝과 딥러닝에서 모델의 예측값과 실제값 사이의 차이를 측정하는 함수 모델 학습의 핵심은 이 손실 값을 최소화하는 방향으로 가중치와 편향을 조정하는 것이다.1. 손실함수의 역할오차측정- 모델의 예측값과 실제 레이블 값간의 차이를 계산- 손실값이 작을수록 모델의 예측이 실제값에 더 가깝다는 것을 의미최적화 방향 제공- 역전파 알고리즘과 경사하강법을 통해 손실함수를 최소화하면서 모델학습- 손실함수의 미분값(기울기)을 활용하여 학습방향 설정 은닉층 -> 출력층 순으로 계산 (간단하고 직관적인 과정) 예측, 학습 과정에서 사용 " data-og-host="hello-heehee.tistory.com" data-og-source-url="https://hello-heehee.tistory.com/17" d..

1. 순방향 알고리즘(Forward Propagation): 주어진 입력 데이터를 기반으로 예측 값을 계산하는 과정1) 특징입력층 -> 은닉층 -> 출력층 순으로 계산 (간단하고 직관적인 과정) 예측, 학습 과정에서 사용 (빠른 예측 수행)입력 데이터를 넣어 출력 값을 계산선형 결합 및 활성화 함수 계산 모델의 예측 수행 2) 장점병렬 처리 가능- 입력 데이터와 각 층의 뉴런 간의 계산이 독립적으로 이루어지므로 GPU를 이용한 병렬 처리에 적합학습의 기초 과정 제공- 역전파 알고리즘을 수행하기 위한 필수 단계로 예측값을 기반으로 손실을 계산하여 신경망 학습에 기여적용범위 넓음- 단순한 분류(Classification)부터 복잡한 생성 모델까지 광범위한 문제에 적용가능3) 단점오차수정 불가- 순방향 알고리..

기본 EfficientNet B0~B7까지 다룸. V2 등등은 공부예정EfficientNet이란?이 글은 논문 " EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks " 을 참고하여 작성됨.Baseline: The original network without scaling.Width Scaling: Increasing the number of channels in each layer.Depth Scaling: Increasing the number of layers.Resolution Scaling: Increasing the input image resolution.Compound Scaling: Simultaneously ..

자연어처리 공부중입니다. 잘못된 부분은 편히 댓글 부탁드립니다.1. 워드 임베딩이란?단어를 인공신경망 학습을 통해 벡터화하는 하는 것즉 텍스트를 숫자로 변환하는 방법2. 희소 표현(Sparse Representation)One-hot-encoding은 값이 2개로만 이루어진 것으로 희소표현은 One-hot-Vetor를 의미하며 0과 1로만 이루어져있음.단, 하나만 1 나머지는 0이어야 한다.10개의 데이터 중 고양이가 4번째라면, 고양이 = [0,0,0,1,0,0,0,0,0,0]단어의 개수가 늘어날 수록 벡터 차원이 한없이 커진다는 단점이 있음단어가 1만개라면 벡터의 차원도 1만3. 밀집 표현(Dense Representation)희소 표현과 반대되는 표현벡터의 차원을 단어 집합의 크기로 상정하지 않음...

GPU를 사용하여 딥러닝을 하기 위해서는 다음을 설치해야한다.1. Anaconda 설치 Installing Anaconda Distribution — Anaconda documentationTip More of a visual learner? Sign in to Anaconda Cloud and watch the Installing Anaconda (Mac) video in our Get Started with Anaconda course. This video guides you through using the graphical installer in a quick two minutes. Caution The graphical installdocs.anaconda.comAnaconda는 Python을 사..