반응형 딥러닝9 Sigmoid & Softmax (feat.One-hot encoding) 1. 모델 출력의 범위와 활성화 함수출력 범위의 문제: 모델의 출력 값은 일반적으로 특정 범위에 있어야 한다. 예를 들어, 분류 문제에서는 확률 값이 필요하므로 출력 범위가 [0, 1]이어야 한다. 그러나, 모델의 마지막 층(예: 최종 컨볼루션 층)의 출력은 종종 제한되지 않은 값(예: -∞에서 ∞ 사이의 값)을 가질 수 있다.출력 값을 [0, 1] 범위로 제한하는 이유: 확률로 계산하는 손실 함수(예: 크로스 엔트로피 손실 함수, Dice Similarity Coefficient(DSC))를 사용하려면, 출력 값이 [0, 1] 범위 내에 있어야 한다. 이를 위해, 모델의 출력에 시그모이드(Sigmoid) 또는 소프트맥스(Softmax) 함수를 적용한다.시그모이드: 이 함수는 독립적으로 각 출력 값을 [.. 2024. 9. 12. 최적화 용어 정리 참고자료 ➡️ https://www.boostcourse.org/ai111/lecture/1108319 딥러닝 기초 다지기부스트코스 무료 강의www.boostcourse.org 1. 가설(Hypothesis)과 비용 함수(Cost Function) 가설 H(x) : 가설은 주어진 입력 xxx에 대해 모델이 예측하는 출력 값을 나타냄. 가설 함수 H(x)는 우리가 데이터에서 학습한 모델이며, 목표는 이 가설이 실제 값에 최대한 가깝도록 만드는 것. 일반적으로 가설은 다음과 같은 선형 방정식으로 표현됨.여기서 W는 가중치, b는 편향(bias) 비용 함수(Cost Function) : 비용 함수는 가설 H(x)와 실제 값 y 간의 차이를 측정하는 함수. 비.. 2024. 8. 25. Neural Network & MLP 개념 정리 참고자료 ➡️ https://www.boostcourse.org/ai111/lecture/1108319 딥러닝 기초 다지기부스트코스 무료 강의www.boostcourse.org 신경망 (Neural Network) 및 다층 퍼셉트론 (MLP) 개념 노트1. 신경망 (Neural Network)정의:인공 지능의 일종으로, 인간 뇌의 뉴런 네트워크를 모방하여 데이터의 패턴을 학습하고 예측하는 알고리즘 모델.구성 요소:노드 (Node) 또는 뉴런 (Neuron): 신경망의 기본 연산 단위. 입력을 받아 처리하고, 출력을 생성. 각 노드는 가중치와 활성화 함수를 사용하여 입력을 변환.연결 (Connection): 노드 간의 연결을 의미. 각 연결에는 가중치 (.. 2024. 8. 22. U-Net과 Transformer 비교 + 관련 개념 정리 참고자료 ➡️ https://www.boostcourse.org/ai111/lecture/1108319 딥러닝 기초 다지기부스트코스 무료 강의www.boostcourse.org U-Net 세부 구조와 계산:1. 컨볼루션(Convolution): 커널을 사용하여 입력 이미지에서 특징을 추출함. 커널은 학습 가능한 매개변수로, 이미지의 공간적 특징을 학습함. 컨볼루션 연산의 수식: 풀링(Pooling): 최대 풀링(Max Pooling) 또는 평균 풀링(Average Pooling)을 사용하여 특징 맵의 크기를 줄임. 최대 풀링의 경우, 작은 영역 내에서 최대 값을 선택하여 다운샘플링 함.업샘플링(Up-sampling): 디컨볼루션(Transposed Convolution) 또는 업샘플링(Int.. 2024. 7. 30. Neural Networks - MLP 참고자료 ➡️ https://www.boostcourse.org/ai111/lecture/1108319(개인적으로 진짜 추천!! 딥러닝을 처음 접하는 사람들이 이해하기 쉽게 설명해주심) 딥러닝 기초 다지기부스트코스 무료 강의www.boostcourse.org 딥러닝 기초 개념 정리신경망(Neural Networks)정의: 신경망은 동물의 뇌를 구성하는 생물학적 신경망에서 영감을 받은 컴퓨팅 시스템.뉴럴 네트워크는 여러 개의 노드(뉴런)와 그들을 연결하는 가중치(weight)로 구성되어 있음.데이터를 학습하여 예측, 분류, 생성 등의 다양한 작업을 수행.역전파(Backpropagation): 역전파는 신경망 학습 과정에서 손실(loss)을 최소화하기 위해 가중치를 업데이트하는 알고리즘.인간의 뇌에서는 일어.. 2024. 7. 28. 딥러닝 Historical Review - 고려대학교 최성준 교수님 참고자료 ➡️ https://www.boostcourse.org/ai111/lecture/1108319 딥러닝 기초 다지기 부스트코스 무료 강의 www.boostcourse.org AlexNet (2012) AlexNet은 2012년 ImageNet Large Scale Visual Recognition Challenge(ILSVRC)에서 우승했다. 이 모델은 8개의 계층으로 이루어진 심층 합성곱 신경망(CNN)으로, 이전의 방법들을 뛰어넘는 성능을 보인다. ReLU(Rectified Linear Unit)를 활성화 함수로 사용한다. GPU를 이용한 병렬 연산과 드롭아웃(dropout)을 통해 과적합을 방지한다. 결과적으로, 이미지 인식 분야에서 대규모 데이터셋을 효과적으로 처리하고 높은 정확도를 달성할.. 2024. 4. 11. 데이터의 분리(Splitting Data) 자료 출처 ➡️ PyTorch로 시작하는 딥러닝 입문 1. 지도 학습(Supervised Learning)지도 학습은 입력 데이터(X)와 그에 상응하는 출력 데이터 또는 레이블(y) 간의 관계를 모델링하는 머신러닝 방법 중 하나.훈련 데이터셋은 X와 y의 쌍으로 구성되어 있으며, 모델은 이 훈련 데이터를 이용하여 입력 데이터와 출력 데이터 간의 관계를 학습한다.2. X와 y 분리하기1) zip 함수를 이용하여 분리하기X, y = zip(['a', 1], ['b', 2], ['c', 3])print('X 데이터:', X)print('y 데이터:', y)2) 데이터프레임을 이용하여 분리하기import pandas as pdvalues = [['당신에게 드리는 마지막 혜택!', 1], ['내일.. 2024. 4. 9. 판다스(Pandas), 넘파이(Numpy), 맷플롭립(Matplotlib) 간단 비교 자료 출처 ➡️ Pytorch로 시작하는 딥러닝 입문(개인적으로 진짜 추천!! 딥러닝 기본 개념을 이해하기 쉽게 알려준다.) 데이터 분석을 위한 필수 패키지 3대장이 있다.PandasNumpyMatplotlib 먼저 Pandas는 판다스(Pandas)는 파이썬 데이터 처리를 위한 라이브러리.파이썬을 이용한 데이터 분석과 같은 작업에서 필수 라이브러리로 알려져있다.참고 할 수 있는 Pandas 링크 : http://pandas.pydata.org/pandas-docs/stable/ 1. 시리즈(Series) - 시리즈는 1차원 배열의 값(values)에 각 값에 대응되는 인덱스(index)를 부여할 수 있는 구조를 가진다. - 시리즈는 pd.Series()를 사용하여 생성하며, 값과 인덱스를 함께 .. 2024. 4. 9. 딥러닝 기본 용어 설명 - 고려대학교 최성준 교수님 참고자료 ➡️ https://www.boostcourse.org/ai111/lecture/1108319 딥러닝 기초 다지기 부스트코스 무료 강의 www.boostcourse.org Key Components of Deep Learning The data that the model can learn from The model how to transform the data The loss function that quantifies the badness of the model The algorithm to adjust the parameters to minimize the loss 논문을 읽을 때 이 4가지에 주의해서 보면 조금 더 이해하기 쉬움! Data → Data depend on the type of.. 2024. 4. 8. 이전 1 다음 728x90 반응형
