데이터분석/Deep Learning 14

rtx 2060 - tensorflow 1.14.0 - cuda 10.0 ubuntu 설치기

약 주말포함 20시간 3일동안 계속 팠는데 설치에 실패했다. cuda_dnn.cc:329 Could not create cudnn handle : CUDNN_STATUS_INTERNAL_ERROR rtx 2060 - tensorflow 1.14.0 - cuda 10.0 ubuntu 18.04 아주 평범한 형태의 돈없지만 아주 없지는 않은 회사원의 rtx 구성이다. 일단 tensorflow가 cuda 10.1과 안맞는다는 제보를 듣고 버전을 맞추려고 별짓을 다했다. 드라이버 문제인것같아 410 415 418 430 435 안깔아본 드라이버가 없으며, cuda 10.1, cuda 10 그리고 tensorflow 1.14, 1.13 모두 시도 해봤지만 항상 같은 문제가 생길 뿐이다. cudnn에서 Conv2D..

windows10 tensorflow-gpu 설치

아래와 같은 에러가 뜨면서 아무리 메뉴얼대로 설치해도 잘 안되는경우가 있다.Traceback (most recent call last): File "", line 1, in File "C:\Users\kohry\Anaconda3\lib\site-packages\tensorflow\__init__.py", line 22, in from tensorflow.python import pywrap_tensorflow # pylint: disable=unused-import File "C:\Users\kohry\Anaconda3\lib\site-packages\tensorflow\python\__init__.py", line 49, in from tensorflow.python import pywrap_tenso..

stanford univ. css231n lecture - (1) Image Classification

Lecture note the reason why object detection with edge detecting techinques is hard. - brittle - with other objecsts, we need to start all over again SO, Data Driven Approach is needed. Homework - CIFAR10 KNN for image classification? NO. training with nearest neighbor can be result in testing process is O(1), and predicting process is O(n). This should be sometwhat backwards.When using knn, we ..

Deep Learning 개발 라이브러리 장단점

출처 : https://deeplearning4j.org/kr/compare-dl4j-torch7-pylearn각각의 라이브러리의 특징을 간단한 버전만 가지고 옴. Pytorch(+) 결합하기 쉬운 많은 모듈 조각(+) 자신만의 레이어 유형을 작성하고 GPU에서 실행하기 쉬움(+) Lua. ;) (대부분의 라이브러리 코드는 Lua로 되어있음, 읽기 쉬움)(+) 사전 학습된 모델 대거 존재(+) PyTorch(-) Lua(-) 보통 스스로 학습 코드를 작성해야 함 (적은 플러그 앤 플레이)(-) 상업적 지원 없음(-) 미완성 문서 Theano (+) Python + Numpy(+) 컴퓨테이셔널 그래프에 적합한 추상화(+) 컴퓨테이셔널 그래프에 RNN이 잘 맞음.(-) Raw Theano는 수준이 낮은 편임..

평균제곱오차와 교차엔트로피 분류오차 차이

본 글에서 스페이스바가 이상하게 먹힌건, 애플이 스페이스바가 초기불량난 상태의 맥북을 신제품 맥북이라고 팔아먹고, 도저히 못쓰겠어서 3달된 이놈을 고치려고 다시 가져가니 소비자과실로 덤탱이씌우고 100만원을 요구했기때문이다. 이런 바보같은 제품을 비싸게 주고사지않았으면 하는 간절한 마음이다.만약 열심히 번호판을 신경망을 훈련시키고나서 다음과 같은 결과가 나왔다고 하자.소프트맥스를 통과시키면 모든 클래스에 대해 합이 1로 떨어지게 된다. 예를들어, 숫자에는 1~3밖에 나올수 없다고 치면,1로 분류 - 10%2로 분류 - 20%3로 분류 - 70% (정답)이런식으로 튕겨나온다는것이다. 소프트맥스는 일반 시그모이드의 함수와 다를바가 없으나 모든 클래스에대해 합이 100%가 나오게 조정해준다는 점이 다르다. 참..

텐서플로우 입문기 (4) - 딥러닝(CNN)을 통한 손글씨 인식.

컨볼루션 뉴럴 네트워크. 이름만해도 너무나도 멋있는 기법인데 사실은 이걸 이해하려고 위키피디아를 보고있으면 20시간을 봐도 이해하지 못 한 기억이 있다. 너무나도 처음부터 전문적인 내용을 파려고 했던듯. 근데, 이 작은 책은 이해하는데 20분도 채 걸리지 않게 해주었다. 일단, 그 무시무시한 컨볼루션 신경망을 한번 이미지검색해본다. 이렇게 보면 이해할수가 없다. 무언가 단계만 많이 보이는듯. 아무래도 컨볼루션(합성곱) 의 경우는 이미지 인식에서 굉장히 많은 기여를 하였고, 태생자체도 시각적 특징을 감지하는데 많이 쓰인다고 한다. 생각을 해보면 어떠한 이미지를 인식하는데 픽셀 하나하나 검사하면, 사실은 너무 지엽적일수 있다. 사실 우리는 좀더 큰 시야에서 특징을 잡고 사물을 인식하지 않나? 예를들어 눈이 ..

텐서플로우 입문기 (3) - 인공신경망을 이용해서 펜글씨 예측

MNIST데이터를 가지고, 실제 인공신경망을 돌려볼수 있다. 이 데이터는 아래와 같이 여러 숫자들을 손글씨로 쓴것들을 모아놓은 데이터인데, 5000개의 데이터가 존재하며 이는 모두 레이블링 되어있으므로 실제로 학습결과를 판단하기에 용이하다. 다만, 실제로 저런 손글씨중에는 우리가 알아보기 힘든 손글씨도 존재하긴 하다. 3의 첫번째 글자는 저게 3인지 8인지 구분하기가 상당히 어렵고, 8의 열네번째 경우도 8이라고 보기 힘든 글씨체나 다름이 없다. 기계한테 독심술까지 강요할수는 없다. 따라서 약 90퍼센트의 확률만 때려맞춰 줘도 평타는 치는 경우라고 할수 있겠다. 텐서플로우에서 제공하는 이러한 숫자필기 이미지들을 가지고 하면 되는데 이는 다음과 같이 간단한 코드로 가져오기가 가능하다. 이제 가져온 이미지를..