머신러닝 & 딥러닝22 18. 비선형 활성화 함수 1. 비선형 활성화 함수(Activation Functions)신경망의 성능을 향상시키기 위해 사용선형 함수는 입력값과 가중치를 곱한 결과를 그대로 출력하기 때문에 신경망에서 여러 개의 활성화 함수를 사용한다면 최종 출력값은 입력값과 가중치의 선형 조합으로 표현되므로 입력 데이터의 비선형 관계를 표현할 수 없음신경망이 입력 데이터의 비선형 관계를 잘 학습할 수 있도록 하기 위해 비선형 활성화 함수가 필요1-1. 시그모이드import numpy as npimport matplotlib.pyplot as pltdef sigmoid(x): return 1 / (1 + np.exp(-x))x = np.arange(-5.0,5.0,0.1)y = sigmoid(x)plt.plot(x,y)# 가운데 점선 추가#.. 2024. 6. 13. 17. 딥러닝 1. 뉴런(neuron)1-1. 생물학적 뉴런인간의 뇌는 수십억 개의 뉴런을 가지고 있음뉴런은 화학적, 전기적 신호를 처리하고 전달하는 연결된 뇌신경 세포 1-2.인공 뉴런1943년에 워렌 맥컬록, 월터 피츠가 단순화된 뇌세포 개념을 발표신경 세포를 이진 출력을 가진 단순한 논리 게이트라고 설명생물학적 뉴런의 모델에 기초한 수학적 기능으로, 각 뉴런이 입력을 받아 개별적으로 가중치를 곱하여 나온 합계를 비선형 함수를 전달하여 출력을 생성 2. 퍼셉트론(Perceptron)인공 신경망의 가장 기본적인 형태로 1957년에 처음 소개됨입력과 출력을 가진 단일 뉴런 모델을 기반초기의 기꼐 학습 알고리즘 중 하나로 이진 분류 문제를 해결하기 위해 설계2-1. 논리 회귀(단층 퍼셉트론)로 AND 문제 풀기impor.. 2024. 6. 13. 16. 데이터 로더 1. 데이터 로더(DataLoader)데이터 양이 많을 때 배치 단위로 학습하는 방법 2. 손글씨 인식 모델 만들기import torchimport torch.nn as nnimport torch.optim as optimimport matplotlib.pyplot as pltfrom sklearn.datasets import load_digitsfrom sklearn.model_selection import train_test_split# 코랩에서 GPU 환경으로 변경device = 'cuda' if torch.cuda.is_available() else 'cpu'print(device)digits = load_digits()x_data = digits['data']y_data = digits['tar.. 2024. 6. 13. 15. 파이토치로 구현한 논리회귀 1. 단항 논리회귀(Logistic Regression)분류를 할 때 사용하며, 선형 회귀 공식으로부터 나왔기 때문에 논리회귀라는 이름이 붙여짐직선 하나(선형 회귀)를 사용해서 분류를 예측한다면 제대로 예측하지 못할 경우가 많음 2. 시그모이드(Sigmoid) 함수예측값을 0에서 1사이의 값이 되도록 만듦0에서 1사이의 연속된 값을 출력으로 하기 때문에 보통 0.5(임계값)를 기준으로 구분import torchimport torch.nn as nnimport torch.optim as optimimport matplotlib.pyplot as plttorch.manual_seed(2024)x_train = torch.FloatTensor([[0], [1], [3], [5], [8], [11], [15],.. 2024. 6. 13. 이전 1 2 3 4 5 6 다음
