Computer Engineering/AI 5

과적합

과적합(overfit) - layer/node 수가 많아서 혹은 테스트셋과 학습셋이 중복되어 발생 - 학습셋과 테스트셋으로 분류하여 방지 - 신경망을 만들어 샘플로 학습을 진행한 후 결과 저장, 이렇게 저장된 파일을 모델이라고 함 model.fit: 알아서 해주는데 학습 동안 결과 못건들이는 thread 개념 callback 함수: thread가 돌고 있는데 또 다른 thread를 생성하여 필요한 정보를 가져가게 함 model.fit(X, Y, validation_split=0.2, epochs=200, batch_size=200, verbose=0, callbacks=[checkpointer]) -> 전체에서 80만큼 train, 20만큼 test -> train에서 또 20을 validation 오늘..

다중분류

이제 수업 한번만 더 들으면 끝난다...!! 월수금마다 6시에 일어나서 9시까지 학교 가고 1시간 공부하다가 10시부터 3시 수업 듣느라 힘들었는데..ㅠㅠㅠ 1년 내내 학기마다 6시에 일어나고 3-4시간씩 수업보다 일찍 가서 공부하다 3교시 첫수업 듣고 그러는게 일상이었고 평균 수면시간 4시간이었음 그러다보니 체력이 많이 떨어져서 운동도 시작했는데 체력이 느는 기분도 안들고... 이번 방학까지 그 생활이 이어지니 진짜 죽을 것 같다 이제 통학 그만,,,,, 기숙사 들어가면 사람답게 살아야지 다중분류: 타깃이 가질 수 있는 값이 3개 이상, 타깃이 가지는 값에 대응되는 데이터의 모임으로 클래스 혹은 레이블이라고 함 로지스틱 회귀의 경우 참과 거짓을 판별하기 때문에 값이 하나였지만, 다중 분류 모델은 타깃의..

로지스틱 회귀 / Keras

로지스틱 회귀: 회귀를 사용하여 데이터가 어떤 범주에 속할 확률을 0에서 1 사이의 값으로 예측하고 그 확률에 따라 가능성이 더 높은 범주에 속하는 것으로 분류해주는 지도 학습 알고리즘 - 실제 값이 1일 때 예측 값이 0에 가까워지면 오차가 커져야 함 (-log(x) 그래프) - 실제 값이 0일 때 예측 값이 1에 가까워지면 오차가 커져야 함 (-log(1-x) 그래프) - sigmoid 함수 사용 신경망의 이해 - 퍼셉트론 - 원래는 XOR 연산 불가능 했음 -> hidden layer - 기울기와 절편 -> 가중치와 바이어스 여기서 가중치가 이산수학에서 배운 그 가중치라서 반가웠음..ㅎㅎ - Vanishing Gradient 문제 -> relu 등 다른 함수 적용 오늘의 실습! Epoch 1/30 ..

선형회귀 / TensorFlow

1. 선형회귀 - 최소제곱법 2. 평균제곱근오치(RMSE) 3. 경사하강법: 오차가 가장 작은 점, 미분 기울기 사용, 오차를 비교하여 가장 작은 방향으로 이동 4. a, b 편미분: a, b 편미분 후 learning rate 곱해가며 a, b값을 최적의 값(오차가 작은 값)으로 갱신 TensorFlow: tensor를 흘려보내면서(flow) 데이터를 처리하는 라이브러리 텐서를 포함한 계산을 정의하고 실행하는 프레임워크(소프트웨어 프레임워크는 복잡한 문제를 해결하거나 서술하는데 사용되는 기본 개념 구조) 텐서플로우의 텐서를 다차원 어레이의 일반화 혹은 아무 차원이나 가질 수 있는 값들의 집합 텐서를 기존의 numpy array와 같게 생각하기도 하는데 절반은 맞음 텐서플로우 내부의 모든 데이터는 텐서 ..

선형회귀

회귀분석이란? 측정된 변수의 데이터로부터 추정하는 것 선형회귀 y = ax + b에서 x, y는 이미 아는 값이므로 이를 통해 a와 b(기울기와 절편)를 예측하는 것 가장 적절한 예측선 긋기 ex) "학생들의 중간고사 성적이 [ ]에 따라 다르다." [ ]: 정보 많고 선명한 정보로, 빅데이터를 의미함 x: 독립 변수, y: 종속 변수 # 폐암 수술 환자의 생존율 예측하기 # 최소 제곱 정확한 기울기와 절편 알아내기 # 경사 하강법 선과 실제 데이터 사이의 오차를 구하기 위해 양수, 음수 관계 없이 동일하게 반영되도록 모든 손실에 제곱을 해줌 다중 선형 회귀는 행렬의 계산이고 역행렬 문제 발생함 이를 해결하기 위해 평균 제곱근 오차 사용 경사 하강법: 손실을 최소화하기 위한 방법 - 점에서의 순간변화율 ..