Computer Technology 기록부/인공지능 학습 기록부14 CS231n Lecture 04. Introduction to Neural Networks backpropagation - 목적 : 각각의 웨이트가 결과에 얼마나 영향을 미치는지를 알아보자! Backpropagation with scalar - 각각의 가중치 값 찾기!! q = x+y f = q * z Purpose : Want to calculate df/dx. df/dy, df/dz (x,y,z가 함수 F에 미치는 영향을 알 수 있다. 기울기값이므로 초기 인풋값의 변화량만큼의 f값의 변화를 알 수 있기 때문) Chain rule을 통해 단계마다의 함수값을 미분하며 올라가면 가장 최상층 웨이트의 미분값도 알 수 있다!! Process of backpropagation in Local gradient 각 노드(함수)를 거슬러 올라갈때, [upstream gradient] X [local gra.. 2022. 1. 28. 신경망(Neural Network)이란? 딥러닝 알고리즘의 구현 방식, 신경망에 대해 알아보자. 신경망(Neural network)이란? 우리 뇌에는 1000억 개에 가까운 신경계 뉴런들이 있다. 이 뉴런들은 서로 매우 복잡하게 얽혀 있고, 조금 물러서서 보면 하나의 거대한 그물망과 같은 형태를 이루고 있다. 보통 우리는 이를 신경망이라고 한다. 머신러닝/딥러닝 분야는 위와 같은 뇌 속의 신경망처럼 컴퓨터 알고리즘을 구현하여 인공지능을 만들고자 시도했다. 그들은 우리 뇌 속의 신경망 구조에 착안해서 퍼셉트론(Perceptron)이라는 형태를 제안하며 이를 연결한 형태를 인공신경망(Artificial Neural Network)이라고 부르기 시작했다. 다층 퍼셉트론 입력층(input layer), 은닉층(hidden layer), 출력층(outp.. 2022. 1. 25. 딥러닝과 신경망의 본질 딥러닝과 머신러닝의 차이는 무엇인지, 표현학습, 연결주의, 선형성은 무엇인지 알아보자 딥러닝vs머신러닝vs인공지능?? 인공지능은 기계가 스스로 규칙 시스템을 만들어 학습하게 하는 과학을 말함(인간이 직접 프로그래밍x) 머신러닝은 데이터를 통해 스스로 학습하는 방법론을 의미. 데이터분석, 패턴학습, 판단/예측 실시 딥러닝은 머신러닝의 일종으로, 학습 모델의 형태가 신경망(NN)구조인 방법을 말함 기존의 머신러닝은 데이터를 입력하기 위해 사람이 feature를 가공해줘야 함 - 사람의 개입 많이 필요 딥러닝은 모델의 복잡성을 늘려 사람이 feature를 직접 가공하지 않아도 됨(자연어의 경우 embeding 필요) 딥러닝은 머신러닝과 달리 비정형데이터로부터 표현을 추출하는데 매우 능함 신경망(Neural N.. 2022. 1. 20. CS231n lecture 03 Loss function and optimization Topic : How to choose weight for best accuracy Loss function w가 얼마나 좋은지 나쁜지를 결정하는 함수. 가장 덜 나쁜 w는 무엇인지를 결정하는 함수 - 최적화 과정 General formulation to determine Loss x : image, y : label(how many classes exist in data), N : number of image f : Loss function, W : weight, L : Loss Minimize the value L is the way to optimize algorithm Loss function 1. Hinge loss in Multiclass svm loss (이미지내 정답이 아닌 카테고리의 점수.. 2022. 1. 17. CS231n Lecture 02 Image Classification 첫 강의, 이미지 분류에 대해- A core task in CV 룰 베이스로 이미지 이해하기 - 불가능! 사람과 달리, 컴퓨터에게 이미지는 아주 큰 격자 모양의 숫자 집합으로밖에 보이질 않는다. 과거의 기계는 [둥근 머리에 세모난 귀 = 고양이] 등과 같은 룰 베이스로 이해했다. 그러나 이것은 실용적이지 못하다. 각도에 따라, 조명에따라, 그리고 위치나 자세에 따라 달라지는 고양이사진을 컴퓨터가 룰베이스로 이해할 수 없다.또 다른 객체(다른 고양이사진)를 인식해야한다면, 별도의 룰을 또 만들어야하는 문제 발생하기 때문. -> 다양한 객체에 통용되는 유연한 알고리즘을 만들어야함! 해결방안 : Data-Driven Approach : Amount of Data set 인터넷에 있는 많은 양의 데이터 셋을 이.. 2022. 1. 11. 이전 1 2 다음
