본문 바로가기

취업준비

 (68)
[AI Tech] 6주차 26-2차시 Quiz 10 26-2. Quiz 10 1번 다음 중 Convolution 의 Output size를 구하는 수식으로 올바른 것은? (W: width, F: Filter, S: Stride) 1) (W-S) / F + 1 2) (W-S) + 1 / S 3) (W-F)+1 / S 4) (W-F) / S + 1 더보기 정답: 4번 풀이 Convolution의 Output size를 구하는 수식은 (W-F)/S +1 입니다. 2번 다음 중 모델에 대한 설명으로 옳지 않은 것은? 1. DenseNet: ResNet과 비슷한 아이디어로 Addition만 이용한다. 2. GoogleNet: Inception blocks를 제안했다. 3. VGGNet: 3x3 convolution을 이용하여 Receptive field는 유지하면..
[AI Tech] 6주차 26-1차시 Computer Vision Applications 26차시: CNN - 2 26-1. Computer Vision Applications 1. Semantic Segmentation 자율주행, ADAS에서 많이 활용된다. 자율주행에서는 내 앞에 있는 것이 무엇인지 판단할 필요가 있다. LiDAR를 사용하지 않을 때 이 기술을 잘 활용하는 것이 중요하다. Fully Convolutional Network This is how an ordinary CNN looks like. This is a fully convolutional network. Dense layer를 없애는 과정을 convolutionalization이라고 한다. convolution network와 파라미터가 정확히 일치한다. Number of parameters (좌) 4 x 4 x 1..
[AI Tech] 6주차 25-2차시 Modern CNN - 1x1 convolution의 중요성 25-2. Modern CNN - 1 x 1 convolution의 중요성 Modern이라는 말에는 어패가 있는 것 같다. → 기본적인 CNN보다 Modern 하지만 완전 Modern하지는 않는다. 1. AlexNet Alex Krizhevsky, Ilya Sutskever, and Geoffrey Hinton, "ImageNet Classification with Deep Convolutional Neural Networks", NIPS, 2012 ILSVRC [ ImageNet Large-Scale Visual Recognition Challenge ] - Classification / Detection / Localization / Segmentation - 1,000가지의 다른 카테고리 - 100..
[AI Tech] 6주차 25-1차시 CNN - Convolution은 무엇인가? 25차시: Convolutional Neural Networks (CNN) 25-1. CNN - Convolution은 무엇인가? 1. Convolution 연속적인 convolution 이산적인 convolution 2D image convolution 2D convolution in action 2. RGB Image Convolution 5 x 5 x 3 커널을 사용한다. 필터의 개수에 따라 출력의 개수도 달라진다. 3. Stack of Convolutions 집중해서 봐야 할 것은 연산을 정의하는데 필요한 숫자를 생각해야 한다. 24 x 24 x 10은 10개의 filter가 필요하다. 4. Convolutional Neural Networks CNN은 convolution layer, pooli..
[AI Tech] 5주차 24차시 프로젝트 8 24차시: 프로젝트 8 [ 프로젝트 8 ] 2 레이어 인공신경망 구현하기 (2) 1. 목표 v 손실함수 만들기 v 순방향 연산 구하기 v 역방향 그레디언트 계산하기 2. 프로젝트 코드 구현: 손실함수 만들기 # 모델 세팅 import numpy as np # numpy import X = np.array([0, 0, 1, 1, 0, 1, 0, 1]).reshape(2,4) # 입력 Y = np.array([0, 1, 1, 0]).reshape(1,4) # 정답 print(X) print(Y) # 가중치 초기화 함수 def init_parameters(num_hidden_units = 2): W1 = np.random.randn(2, num_hidden_units) # 첫번째 레이어 가중치 B1 = np...
[AI Tech] 5주차 23-4차시 프로젝트 7 23-4. 프로젝트 7 [ 프로젝트 7 ] 2 레이어 인공신경망 구현하기 (1) 1. 목표 v 어파인 변환 연산과 시그모이드 활성화 함수 만들기 2. 프로젝트 코드 구현: 어파인 변환 연산과 시그모이드 활성화 함수 만들기 # 모델 세팅 import numpy as np # numpy import X = np.array([0, 0, 1, 1, 0, 1, 0, 1]).reshape(2,4) # 입력 Y = np.array([0, 1, 1, 0]).reshape(1,4) # 정답 print(X) print(Y) # 파라미터 세팅 # 가중치 초기화 함수 def init_parameters(num_hidden_units = 2): W1 = np.random.randn(2, num_hidden_units) # 첫번..
[AI Tech] 5주차 23-3차시 Quiz 9 23-2. Quiz 9 1번 다음 의 괄호 안에 들어갈 단어로 올바른 것은? 머신러닝에서 (_________)란 input data가 달라져도 출력에 대한 성능 차이가 나지 않는 현상을 의미한다. 1) Bootstrapping 2) Generalization 3) Optimization 4) Cross Validation 더보기 정답: 2번 2번 다음 중 '좋은 모델'이라고 이야기할 수 있는 Bias & Variance 관계로 올바른 것은? 1) High Bias & High Variance 2) Low Bias & Low Variance 3) Low Bias & High Variance 4) High Bias & Low Variance 더보기 정답: 2번 풀이 편향(Bias)은 예측값이 정답과 얼마나 ..
[AI Tech] 5주차 23-2차시 딥러닝 연습 23-2. 딥러닝 연습 1. 복습 딥러닝 = 입력층 + 은닉층 + 출력층 각각을 연결하는 인공 뉴런들을 이용해 신경망을 구성한다. 은닉층이 많아질수록 예측 성능이 증가할 수 있다. © NAVER Connect Foundation. All Rights Reserved
[AI Tech] 5주차 23-1차시 Regularization 23차시: 최적화 - 2 23-1. Regularization 학습한 데이터 외에도 학습한 모델이 잘 적용되도록 학습을 방해하는 것을 Regularization이라고 한다. 1. Early stopping 더 많이 학습하기 전에 미리 멈춰버리는 방법 2. Parameter Norm Penalty 크기 관점에서 작게 하는 것 함수를 최대한 부드러운 함수로 보는 것 → 부드러울 수록 generalization performance가 높을 것이라는 과정이 깔려 있다. 3. Data Augmentation 아무리 딥러닝을 잘해도 데이터가 작으면 잘 학습 못할 수 있다. Data Augmentation을 통해 데이터 양을 기하급수적으로 늘린다. 4. Noise Robustness 입력된 데이터와 가중치에 노이즈를..
[AI Tech] 5주차 22-2차시 Gradient Descent Methods 22-2. Gradient Descent Models 1. Gradient Descent Methods Stochastic gradient descent 단일 샘플에 의해 계산된 경사도로 업데이트하는 방법 Mini-batch gradient descent 데이터의 하위 집합에 의해 계산된 경사도로 업데이트 하는 방법 Batch gradient descent 모든 데이터에 의해 계산된 경사도로 업데이트 하는 방법 2. Batch-size Matters It has been observed in practice that when using a larger batch there is a degradation in the quality of the model, as measured by its ability t..

티스토리툴바