인공지능시대의 법적 과제 – 요약 (연세법학회 제60회 학술대회)

연세법학회 제60회 학술대회 – 인공지능시대의 법적 과제 – 요약  

(2017.2.18 연세대학교 광복관 B107)

[J.MIN 의견] 

현 수준의 인공지능과 관련 논문과 기술을 이해하은 전문가가 같이 참여했으면 좋았을 것임

1)  자유의지 : 인공지능의 자유의지는 가능하다고 봐야 함 (현재의 인간사회에서 사용되는 “자유의지”라는 인식수준이라면 가능함)

• 엄밀히 말하면 인간 자체도 만들어진 지능이므로 진정한 자유의지는 없다고 봐야 함
• 현재 인간이 자유의지가 있다고 하는 것은 엄밀히 말하면 인간의 측정수준이 낮아서임
• 자유의지 : 인간 상호 간 “자유의지” 가 있다고 평가하는  그 무엇은 그렇게 해석하는 것이며, 거기에 따른 사회속의 계약(법제도, 도덕, 윤리 등)에 포함을 시킨 것임 – 결론적으로 자유의지는 해석이며 이와 관계된 계약과 관련됨
• 최종적으로는 새로운 종으로 인정하게 될 것임

2) 지적재산권 : 지적재산권을 논의하기 위해서는 인공지능을 강인공지능으로 풀어주고 이에 대한 법인격(자연인)으로의 권리를 인정해야 함

• 인공지능을 자연인으로 추가할 것인지는 결정사항이지만, 기본적으로는 자연인으로 인정하지 않을 것임
• 그러나 인간 스스로 인공지능에 자유를 허용하는 시점이 올 것이고, 이 경우 강 인공지능 탄생은 자연인으로 인정될 수 밖에 없을 것임
• 약 인공지능은 사람이나 법인에 권리가 있을것임
• 강 인공지능은 인공지능에게 주어져야 할 것임

3) 법학의 대응

• 가이드 수준의 대응정도의 필요는 현재는 적당하다고 보나, 거의 즉시적으로 강인공지능에 대한 정책은 법규제 수준으로 논의를 거쳐 제정되어야 함

4) 입법동향

[학술대회 내용정리]

• 제1주제 인공지능과 자유의지
  • 김영두 교수 (충남대)
    • 인공지능은 감정과 의식을 가질 수 없다고 이야기 함 (현재로는 인간과 유사한 수준, 방식으로 불가능 할 수 있지만, 가까운 미래에는 가능하다고 봐야 함)
  • 황창근 교수 (홍익대)
  • 권경휘 교수 (영산대) – (평가 :  논리전개, 결론 명확)
    • 의식이라는 것은 두뇌의 상태(저장, 연산가능한 회로의 구성 등)
    • 인간은 “울퉁불퉁한 길을 가는 자동차와 다를바가 없다” 라고 하면, 이는 노면상태에 대한 해석가능성이 중요해 지고, 현재의 인간 수준에서 자유의지를 해석한다면, 인공지능이 인간의 수준을 넘어서는 경우 자유의지가 있다고 봐야 한다는 내용으로 의견 전개
    • 튜링테스트의 범위확장을 제안함 – 언어활동을 넘어서서 행위까지 확장해야 함 (평가 : 별로 의미는 없음, 물리적 행동과 언어활동은 범위가 다를 뿐이다)
    • 결론 : 인공지능에게 자유의지의 존재 성 인정, 책임성을 물을 수있는 수준 – “인공지능이 스스로 학습하여 규칙을 세우고 행동하여 우리가 그 기계를 행위의 책임을 이해하고 이에 따라 행위할 수 있는 능력을 가진것으로 해석할 수 있다면 그 기계는 책임을 가진다”

• 제2주제 인공지능관련 지적재산권법적 쟁점
  • 이주환 박사 – 한국지식재산보호원
    • 약 인공지능은 권리,책임능력은 없다고 보아야 함
    • 강 인공지능은 인공지능의 창작물로 인정해야 함
  • 이규홍 부장판사 – 서울중앙지방법원
    • 법인격이 큰 발명임
    • 약인공지능 외에 강인공지능까지 고려하여야 논의가 명확화 됨
    • 논의가 필요하다는 의견 정도 제시
  • 한지영교수 – 조선대학교

• 제3주제 인공지능기술발전에 조응한  법학의 대응
  • 정필운교수(한국교원대)
    • 현재는 윤리가이드 라인 수준으로 접근하면 될것으로 봄
    • 법철학적으로 인공지능을 정의하고, 역기능중 당장 필요한 안전 부분의 통제를위한 준비 (연구,설계, 제작,관리,사용자 간 행위 규범 작성 사회적인식의 윤리)
    • 백악관 “인공지능 국가연구개발 전략계획”이 유사하게 접근하고 있음
    • EU : 구체화된 내용을 제시
    • 중국/일본 : 산업적 접근 위주
    • 가장 큰 문제는 안전임!!!
    • 한국 : 2007~8  – 로봇윤리헌장 제정을 위한 작업 진행, 2009~
      • Extended Mind 개념 – 1998 앤디 클락(Andy Clark)과 데이빗 찰머스(David Chalmers) 주장 과 같이 외화된 사회적 정신 – 고인석 이 적절하지 않을까?  (평가 : 인공지능을 집단지성으로 보거나 인공지능의 객체화, 상호소통을 고민필요)
  • 이상경교수(서울시립대)
    • “강인공지능에 대해서는 걱정하지 않는다.”
    • 그래서 주변을 둘러싸고 있는 관계자에 대한 윤리만 다루면 된다.
    • 인공지능은 인간이 가진 신성한 영역을 가질수없다고 본다 (평가 : 인간에 대한 고찰 검토)
    • 가장 최악의 경우는 악의적 도구로만 이용되는 것(평가 : 인공지능에 대한 이해 검토)
  • 엄주희박사(MBC)

• 제4주제 지능정보사회 입법동향과 과제
  • 심우민박사(입법조사처) – legislation.kr (legislation21/gmail)
    • 지능정보사회 기본법 – 제정논의(`17.2, 현재 완료단계)
    • 아키텍쳐규제(Architectural Regulation) & 알고리즘규제(Algorithmic Regulation)
    • 칼로(Ryan calo)의 아키텍처 규제론 -> 볼킨(jack Balkin)의 반론(Code is Lawless) -> 볼킨에 대한 반론 : 최초 설계자의 의도와 다른 결과는 어떻게?
    • 핵심입법사실 = 마음의 탄생(X), 자동화의 극대화(O) (평가 : 이부분은 곧 마음의 탄생으로 보아야 함)
    • 현실적으로는 상업적개발 결과이므로 알고리즘은 규제를 받을 것이다. (일반적으로 맞을 수는 있음)
    • EU의 전자인(Electronic person)은 법인격을 부여하는 것이 타당한지 논의해 보라는 정도임, 위험관리적인 의미임
    • 히든레이어는 블랙박스라서 법적책임과 권한부여문제 있음->인과관계문제가 있음(평가 : 사람도 역시 블랙박스임)
    • 유럽연합(EU) – RoboLaw(Guidelines on Regulating Robotics), European Parliament(Civil Law Rules on Robotics)
    • 영국 하원 보고서 – Robotics and artificial intelligence (fifth report of Session 2016~17)
    • 미국 : 3가지 보고서
      • Preparing for the future of artificial intelligence
      • The national artificial intelligence research and development strategic plan
      • Artificial intelligence automation, and the Economy
      • Big Data : A Report on Algorithmic Systems, Opportunity, and Civil Rights
      • bigdata a tool for inclusion….
      • artificial intelligence and life in 2030
    • 일본 : ai 개발 가이드라인 평서 28년 12월 28일
      • AI인증 – 국가가 아닌 독립기관
    • 한국 : 지능정보사회 기본법안
  • 김인철교수(상명대)
  • 강일신박사(헌재)