본문 바로가기

인공지능

(3)
[인공지능] 왜 Deep Learning에 GPU가 적합한가? https://www.youtube.com/watch?v=-LkLKIY8FwQ 웨비나 내용 일부를 요약한것임. 코어가 굉장히 cpu가 최대 24코어인 것에 비해서 gpu는 천단위의 코어를 가지고 있다. 굉장히 단순한 연산(floating point) 덧셈 뺄셈 곱셈 나눗셈만 이것만 전문으로 하는 코어들을 수천개씩 가지고 있다. 따라서 GPU는 병렬 연산에만 강하다. gpu가 빠른 대표적인 이유. 왜? : 딥러닝은 기본적으로 행렬 곱하기 연산이기 때문이다. 수많은 행렬에 대해서 곱셈 덧셈을 해 나가는 과정이 딥 러닝이다. 이러다보니 행렬연산에 강한 gpu가 cpu보다 훨씬 빠를 수 밖에 없다. GPU는 혼자서는 아무것도 못한다. (accelerator일 뿐이다.) 파일을 읽어들일 수도 없고 정성껏 짠 프로..
[인공지능]다층 퍼셉트론으로 XOR문제 해결하기 이 책에 있는 내용을 정리 한 것임. 모두의 딥러닝 개정2판: 3 코딩으로 XOR 문제 해결하기 - 4 thebook.io 2 퍼셉트론의 과제 사람의 뇌가 작동하는 데 1,000억 개나 되는 뉴런이 존재해야 하는 이유는 하나의 뉴런만으로는 아무것도 할 수 없기 때문입니다. 퍼셉트론도 마찬가지입니다. 단 하나의 퍼셉트론으로는 많은 것을 기대할 수가 없습니다. 지금부터는 퍼셉트론의 한계와 이를 해결하는 과정을 보며 신경망의 기본 개념을 확립해 보겠습니다. 먼저 그림 6-2를 볼까요? 그림 6-2 사각형 종이에 놓인 검은점 두 개와 흰점 두 개 사각형 종이에 검은점 두 개와 흰점 두 개가 놓여 있습니다. 이 네 점 사이에 직선을 하나 긋는다고 합시다. 이때 직선의 한쪽 편에는 검은점만 있고, 다른 한쪽에는 흰..
[인공지능] 로지스틱 회귀(logistic regression)과 1-layer perceptron의 차이는 무엇일까? thebook.io/080228/part03/ch06-01/ 여기에 있는 글을 정리한것. 모두의 딥러닝 개정2판: 6장 퍼셉트론 - 1 thebook.io 로지스틱 회귀는 참 거짓 판단장치이다. 점수가 아니라 함격과 불합격만 발표되는 시험이 있다고 하자. 공부한 시간에 따른 합격여부는 표 5-1과 같다. 앞장에서 배운 대로 선을 그어 이 점의 특성을 잘 나타내는 일차 방정식을 만들 수 있을까요? 이 점들은 1과 0 사이의 값이 없으므로 직선으로 그리기가 어렵습니다. 점들의 특성을 정확하게 담아내려면 직선이 아니라 다음과 같이 S자 형태여야 합니다. 그림 5-2 각 점의 특성을 담은 선을 그었을 때 로지스틱 회귀는 선형 회귀와 마찬가지로 적절한 선을 그려가는 과정입니다. 다만 직선이 아니라, 참(1)과 거..