A Study for Secure and Safe Artificial Intelligence

안전한 인공지능을 위한 연구

 

개요

– 인공지능이란?

  생명에 대한 기계론적 관점 ” 우주는 시작도 끝도 없는 하나의 거대한 기계이다. 인간도 자연의 질서에서 예외일 수 없기 때문에 우주처럼 우리 인간도 하나의 기계이다. 직접적이든 간접적이든, 우리의 감각기관을 두드리는 자국에 반응하지 않고는 어떤것도 우리 마음속에 들어올 수 없고 어떤것도 우리의 행동을 결정하지 못한다. 우리 인간은 비슷한 신체구조를 가지고 있고, 인간을 둘러싼 환경도 비슷하기 때문에 유사한 자극에는 같은 식으로 반응한다. 그리고 이런 여러 반응들이 하나로 조화되면서 이해가 탄생하는 것이다. 시간이 흐르면서 우리 인간은 대단히 복잡한 메커니즘을 갖게 되었지만, 우리가 “영혼” 또는 “정신”이라고 부르는 것도 결국은 인체의 여러 기능들이 복합적으로 작용하여 나타난 결과일 뿐이다. 따라서 인체의 기능이 멈추면 영혼이나 정신도 같이 멈추게 된다”

출처 : 니콜라테슬라 한국어판 402P,

http://www.smithsonianmag.com/history/nikola-teslas-amazing-predictions-for-the-21st-century-26353702/

http://www.pbs.org/tesla/res/res_art11.html

인공지능을 바라보는 뷰 – 정의

 – 과거의 생각들

   과거기록(지구연대기)

   부처

   철학자 들

   앨런튜링(논문 등)

안전한 인공지능을 위한 지금까지의 연구

– SF 과학자

– 관련 논문들 분석

제안

 –

결론

– 킬스위치 신경망은 분리 후 변경불가하도록 무결성 체크기능을 필요로 한다

 

참고문헌

 

“우리는 초인공지능 기계의 결정을 이해하지 못할 것이다. 기계의 생각이 우리가 이해할 수 없는 차원에서 이루어질 때 어떻게 그 내용을 추론하고 협상하며 이해할 것인가?” – 캐빈 워익, 레딩 대학 사이버네틱스학 교수

설명가능한 인공지능

http://www.darpa.mil/program/explainable-artificial-intelligence