Reply Edit: 뉴럴 네트워크 기본개념…..

Name *

Password *

몇개 동영상을 본후 나 상상해 본다.
1. 뉴럴 네트위크의 코스트 함수 정의나 백프로퍼게이션 하는 방법은 새로운 이론이 아니고 원래 다 있었던 방법인데 갑자기 이 뉴런 네트워크 이론이 뜨게 된 이유에는 히든 레이어를 첨가시키고 시그모이드 함수를 첨가시켜 넌리니어리티를 고려해주어서다.
2. 그러나 히든 레이어를 첨가시키면서 논리연산이 가능해지고 미분가능한 시그모이드 함수를 첨가시켜줌으로써 연속성을 확보해서 백포로퍼게이션이 가능해졌지만 히든레이어에 대한 정확한 이해가 아직 없고 사실은 연속함수인 시그모이드 함수가 오히려 백프로퍼게이션 알게리듬 게선을 방해하는 요소가 될수 있을거 같다. 왜냐하면 계속해서 사람들이 미분에 의존하는 알고리듬에 속박되어 있기 때문이다. 세상은 미분에 얽매이기엔 너무나 다양하다. 미분을 벗어나야 문제가 더 쉽게 풀릴수 있을것이다. 
3. 결국 이틀전 내가 뉴런 네트워크가 뭔지 알려고 동영상들 보기 전에 내가 가졌던 선입견, 즉 이 이론이 아마 완전 디스크리트하고 디지타이지든 숫자만으로 알고리듬이 이루어졌나보다 하던 환상이 여지없이 다 깨져버렸다.  그냥 여전히 미분에 의존하고 어쩌다가 히든 레이어를 집어넣어주니 파라미터가 엄청나게 늘어나면서 논리적 자유만 좀 얻은 그런 알고리듬일뿐.
4. 그럼 더 엄청난 개선의 여지가 있지 않을까? 미분에 의존하는 백프로퍼게이션을 극복해야 한다.  왜 코스트함수가 항상 연속적함수로만 정의되어야 한는가?  히든 레이어가 왜 걔층적으로만 모델해야 한다고 생각하는가?  
5. 우리 두뇌는 집중할것에 집중할것을 금방 알아 차린다. 우리 두뇌는 앉아서 미분이나 하고 앉아있는 그런  미분에 의존하는 방식이 아니기 때문이다.  집중할것에 집중할것을 알아 차리는 알고리듬. 이걸 찾아야 한다. 계층적 히든 레이어보다는 그냥 랜덤하게 아무렇게나 배열된 히든 노드 그래프들을 가지고 시작해야 한다.  퍼셉트론이 접근방식의 기본이 되는 것은 여전히 유효하다. 그리고 집중된 노드를 찾아가서 더 깊게 그 지역을 모델링 해야 한다.  필요한 방법들은 이미 인간들이 다 가지고 있다고 본다. 즉 퍼즐조각들은 이미 거의 다 가지고 있다고본다.   미분방법으로 골짜기와 웅덩이를 찾는 방법은 너무 문제가 많다. 시스템이 조금만 복잡해지더라도 완전 미궁을 헤메게 될것이다. 이런 상태로 인공지능이 특이점을 갖게 된다면 인공지능은 에너지에 굶주려 모든 지구 자원을 다 먹어치우며 지구를 파괴하고 자신도 파괴될것이다.
6. 배고프다. 마렵다.
7. 현재의 인공지능은 인간을 파괴할 뿐이다.  배가 너무 고프면 에너지에 굶주리면 파괴적이 된다. 사람도 마찬가지다. 돈떨어지고 음식떨어지면 파괴적이 된다. 어떤 사람은 남에게 파괴적이되고 어떤 사람은 자신에게 파괴적이 되는게 다를뿐이다.  배고프고  돈에 마리고 에너지에 굶주리지 않는(풍요해서가 아니라 있으나 마나 할정도로 적게 써서) 그런 시스템이 되어야 서로가 평온해진다.  현재의 인공지능은 에너지에 너무 굶주려 있다. 이런 멍청한 알고리듬의 태생의 인공지능은 그리디해야 생존가능하기 때문에 파괴성을 지향할수밖에 없다. 특이점을 지난 인공지능에게서 지혜를 기대하지 말라.

I agree to the terms of service